久冉科技

快讯

零一万物:Yi-Lightning 性能卓越成本低

时间:2024-10-17 15:43 阅读:

  AI 独角兽零一万物创始人兼 CEO 李开复当日公开立军令状,表示绝不放弃预训练。同时,零一万物发布最新 MoE 架构旗舰大模型 Yi-Lightning。Yi-Lightning 训练用 2000 张 GPU,周期仅一个半月,成本 300 多万美元,为埃隆·马斯克的 xAI 成本的 1%、2%。其性能在加州大学伯克利分校 LMSYS 团队的 ChatbotArena 总榜单上与 xAI 的 Grok-2-08-13 模型并列第 6,超 OpenAI 的 GPT-4o-2024-05-13。在中文能力上,Yi-Lightning 与 OpenAI 最新模型 o1-mini 版本并列第二;数学能力上,和 Gemini-1.5-Pro-002 并列第 3。Yi-Lightning 定价 0.99 元/百万 Token,创零一万物模型最低。首包时间缩短一半,生成速度提升近四倍,翻译速度和效果优于其他模型。发布会上,李开复揭秘其训练策略,包括独特的混合注意力机制、动态 Top-P 路由机制、多阶段训练。零一万物 B 端商业化有新进展,聚焦零售和电商等场景的 AI2.0 数字人,背后是多模态协同训练,已接入 Yi-Lightning。李开复承认做预训练成本高,非每家公司能承担,但对六家大模型独角兽乐观,认为其融资和人才等不是问题。