当地时间周一，半导体巨头英伟达推出H200新款GPU，具备使用HBM3e高带宽内存的能力，集成141GB内存，在Llama 2上的推理速度比H100快一倍。大型计算机制造商和云服务提供商预计明年二季度开始使用。

消息影响下，英伟达周一收升0.6%，连续第九个交易日上升累升超19%，逼平3月份的最长纪录，当时是2016年以来最长连升周期。截至目前，英伟达市值超12000亿美元。

性能飙升90%！

据英伟达官网消息，新的H200芯片是当前用于训练最先进大语言模型H100芯片的升级产品，集成了141GB的内存，更加擅长进行“推理”。在用于推理或生成问题答案时，性能较H100提高60%至90%。H200预计将于2024年第二季度上市。

英伟达还表示，H200将与H100兼容，这意味着已经在使用H100进行训练的人工智能公司，不需要改变他们的服务器系统或软件来适应H200。

根据估计，H100 芯片的成本在 25,000 美元到 40,000 美元之间，需要数千个芯片一起工作才能在称为“训练”的过程中创建最大的模型。这导致H100利润率或高达1000%，成为了有史以来最赚钱的一种芯片。

H200 的关键改进在于它包含 141GB 的下一代“HBM3”内存，这将帮助芯片执行“推理”，或者在经过训练后使用大型模型来生成文本、图像或预测。

英伟达表示，H200 的输出速度几乎是 H100 的两倍。这是基于使用Meta的LLAMA2 大语言模型进行的测试。

预计从2024年第二季度开始，将提供搭载H200的系统和云实例，包括HGX H200系统。H200可以在多种数据中心环境中部署，包括本地、云端、混合云和边缘。

英伟达超大规模和 HPC 副总裁 Ian Buck 表示：“要通过生成式 AI 和 HPC 应用程序创建智能，必须使用大型、快速的 GPU 内存高速有效地处理大量数据。” “借助 NVIDIA H200，业界领先的端到端 AI 超级计算平台能够更快地解决世界上一些最重要的挑战。”

英伟达将于下周公布财报。今年其AI GPU广受欢迎，推动了该公司业绩的井喷。市场预计英伟达第三财季营收约为160亿美元，同比增长170%。

将推出针对中国市场的AI芯片

据《华尔街日报》中文网13日消息，英伟达将推出三款针对中国市场的AI芯片，以应对美国的最新芯片限售令。文件显示了英伟达即将推出产品的详细规格，分别为HGX H20、L20 PCle、L2 PCle，分别基于英伟达的Hopper和Ada架构，送样时间在今年11月至12月，量产的时间为今年12月至明年1月。

据报道，知情人士透露，英伟达将在未来几周内向潜在买家提供新芯片的样品进行测试。这些知情人士说，分销商已被要求摸底客户对新产品的兴趣，那些之前下单购买现已被禁芯片的客户将获得优先购买权。

报道显示，OpenAI的ChatGPT等AI智能系统的兴起，使人们更加迫切地呼吁对英伟达生产的芯片进行更多管控，这些芯片是生产这些AI系统的关键。由于对其产品的需求似乎是个无底洞，英伟达今年的销售额井喷，估值突破了1万亿美元的大关。

多家英伟达产业链公司已确认了上述消息，其中一位人士表示，三款AI芯片产品分别适用于云端训练、云端推理以及边缘推理。但对于具体的推出时间点尚未确认。