华泰证券：AI芯片竞争加剧 英伟达发布H200 新品迭代提速显著

　　华泰证券发布研究报告称，头部科技大厂出于削减TCO、提升研发可控性及集成生态等考量，均陆续自研芯片，他们或将成为英伟达最大竞争对手。英伟达刚推出NVIDIA HGX H200，从HBM3内存升级到HBM3e，也是首款采用HBM3e的GPU，相较于前代H100展现了显著的性能提升和效率革新。主要针对AI计算的两大瓶颈：内存容量与带宽。其旗舰芯片迭代周期也显著加速，从大约两年发布转为一年多版。AWS、谷歌云、微软Azure和甲骨文等将成为其主要客户。

　　英伟达未来AI芯片路线图显示，公司计划在明后两年推出H200、B100和X100等芯片及配套方案。这一策略标志着其旗舰芯片迭代周期的显著加速，即发布间隔从大约两年转变为一年多版，展示了公司的创新能力和领导地位。

　　NVIDIA的HGX H200相较于前代H100展现了显著的性能提升和效率革新。在推理应用中，H200将Llama 2的推理速度提高了近一倍。此外，H200还相对H100实现了TCO和能耗成本50%的降低。内存容量与带宽是限制AI计算的主要瓶颈，H200在加速生成式AI和大型语言模型方面更为出色，标志着NVIDIA在高性能计算领域迈出了重要一步。成本的减低也将有利于整体AI芯片在推理场景的应用的推进。