11月14日,在全球超算大会(SC2023)上,英伟达宣布在AI芯片H100的基础上,发布新一代H200芯片。作为备受热捧的H100升级款,H200被称为“史上最强”芯片。以700亿参数的Meta大语言模型Llama2为例,H200推理速度几乎比H100提高2倍,而且能耗还降低了一半。
图片源自网络
受此消息影响,英伟达股票实现连续第十个交易日上涨,创下了最长连涨纪录。截至11月14日收盘,英伟达股价为496.54美元,市值1.23万亿美元,均再创新高。H200计划于2024年第二季度正式出货。届时,包括亚马逊,谷歌,微软等大型计算机厂商和云服务提供商将成为H200的首批用户,客源依然稳健。但由于美国方面的制裁,这款芯片依然无法输送给中国市场的客户。
今年开始,中国的科技巨头与创业者已经开发了约130个大模型,他们急需英伟达速度更快的GPU芯片来提供算力支撑。原本,黄仁勋认为他和英伟达可掌控一切——算力的源头就是芯片以及算力集群,英伟达也将持续享受最丰厚的利润,有分析师测算,H100芯片的利润率是1000%。但这一切在10月18日再次被打破。