昨天,有路边社的外媒抛出一则英伟达H200的消息,说是有10家企业被批准购买,甚至还有买多少颗这样的细节。外媒看来还是很痴迷于单方面炒作相关消息,有点无聊,以及时代的脱节。毕竟,时过境迁,曾经让一些中国企业心心念念的H200,如今地位旁落,还能让人“上瘾”吗?其实未必。
这款芯片是2023年年底推出的,2024年年中,批量交付市场,采用Hopper架构,台积电4nm制程,配备141GB HBM3e高速显存,显存带宽4.8TB/s,核心算力的FP8,也就是8位的浮点算力,达到3958TFLOPS。
多说一句,核心算力(FP8)是指在大模型训练和推理过程中,利用 FP8 精度进行高速计算的能力。相较于传统的 FP16、FP32,FP8 通过减小数据位宽,在几乎不损失模型精度的情况下,能做到算力翻倍、降低功耗,以及加快显存带宽传输。
1、本文只代表作者个人观点,不代表星火智库立场,仅供大家学习参考; 2、如若转载,请注明出处:https://www.xinghuozhiku.com/547092.html
付费会员