推荐
AI芯片“价格博弈”苗头隐现 英伟达垄断之势面临变数?
时间:2023-12-20 11:03 阅读:
截至周二美股收盘,AI芯片领导者英伟达股价下跌约1%,在此之前股票研究以及市场情报提供商Edgewater Research表示,自今年年初以来,该芯片巨头的人工智能GPU芯片渠道需求展望首次出现“喜忧参半”的预期数据。在需求端,买卖双方“价格博弈”信号已经出现,尤其是一些买家选择观望,等待他们能接受的市场价格。
Anthropic还计划用Trainium2芯片构建新的AI大模型。
从技术层面上来看,与英伟达A100/H100等通用型GPU 相比,谷歌TPU设计初衷正是专注于深度学习领域,尤其是全面加速神经网络训练和推理效率。英伟达的A100和H100,它们属于广义上的通用型GPU,而不仅仅局限于深度学习和人工智能领域。这些GPU具有通用计算能力,适用于多种计算工作负载,包括但不限于:高性能计算、深度学习以及大规模数据分析。
与英伟达通用型GPU相比,谷歌TPU采用低精度计算,在几乎不影响深度学习处理效果的前提下大幅降低了功耗、加快运算速度,尤其对于中型LLM设计者来说完全够用,因此他们可能不需要依赖高性能的英伟达A100/H100。同时,TPU 使用了脉动阵列等设计来优化矩阵乘法与卷积运算。谷歌TPU追求专注于AI训练和推理,因此精简化部分设计架构,这也是TPU功耗、内存带宽和FLOPS都明显低于英伟达H100的部分原因。