财经资讯
东方证券:KIMI、阶跃星辰等大模型发展有望持续拉动算力需求
东方证券发布研报称,随着以Kimi为首的大模型的火爆,访问量等持续高增,各家推理算力的扩容势在必行。另外,随着长文本上下文长度的提升,算力的消耗也必将提升。而随着Kimi等大模型的不断迭代升级,模型参数量以及训练数据量皆有望持续提升,Scaling law将持续发挥作用,拉动算力需求。国产AI芯片厂商、国产AI芯片条线英伟达条线服务器厂商、算力租赁、IDC、服务器运维等算力服务商
东方证券主要观点如下:
Kimi流量持续高增,月之暗面五次扩容Kimi网站仍宕机
东方证券认为,随着大模型流量的高增以及长文本上下文长度的提升,算力需求有望持续提升。本周Kimi宣布支持200万字超长无损上下文引发关注,其访问量、app端的下载量及日活用数皆很可观。3月21日下午,Kimi的、小程序以及网页版均显示无法正常使用。公司表示自3月20日观测到流量异常高增后,已经进行了5此扩容工作,而推理资源会持续配合进行扩容,以承载持续增长的用户量。同时,百度、阿里纷纷准备开放长文本能力。随着大模型流量的高增以及长文本上下文长度的提升,算力需求有望持续提升。
阶跃星辰发布Step-2万亿参数MoE语言大模型预览版,万亿参数模型对算力提出极高要求
3月23日,阶跃星辰发布Step系列通用大模型,包括Step-1千亿参数语言大模型、Step-1V千亿参数多模态大模型,以及Step-2万亿参数MoE语言大模型的预览版,提供API接口给其部分合作伙伴试用。据阶跃星辰,万亿参数大模型至少需要等效A800万卡单一集群和高效稳定的训练。东方证券认为,随着阶跃星辰等大模型顺着Scalinglaw在万亿参数及多模态大模型中的不断攀升,算力需求有望进一步提升。
上海发布2024-2025算力浦江计划,设立智算规模及智算国产化等目标
3月21日,上海十一部门联合印发