Nvidia 推出具有先进 AI 功能的“H200”

Nvidia 推出具有先进 AI 功能的“H200”

Nvidia 推出具有先进 AI 功能 PlatoBlockchain 数据智能的“H200”。垂直搜索。人工智能。

芯片制造商 Nvidia 推出了 H200 芯片组,该芯片组将提高大型语言模型 (LLM) 的性能并处理更大的人工智能系统。

新芯片是 H100 的重大升级,具有几乎双倍的性能速度以及更高的功能。 Nvidia 表示升级版芯片将于 2024 年开始推出。

具体细节

新芯片取代当前芯片 H100 芯片组进行了重大升级,特别是高带宽内存,这是定义数据处理速度的重要元素。

H200以内存的形式出现, 成为第一个 GPU 配备 HBM3e 技术。 它嵌入了 141 GB 内存,每秒 4.8 TB,远大于 H100 80 GB 容量.

根据 Nvidia公司更大的内存空间和高速处理元件旨在使人工智能服务能够更好更快地做出响应。

英伟达没有为新芯片组指定任何内存供应商,但据报道,美光科技等可能的竞争对手可能已经提供了内存 英国雅格兰.

随着人工智能竞赛的继续,H200芯片旨在满足对更高效率和更强功能的高需求。

管道中的大人物

Microsoft Azure、Oracle 云基础设施、Google Cloud 和 Amazon Web Services 构成了首批云服务提供商,他们将于 200 年第二季度提供基于 H2024 的芯片的访问权限。此外还有专业 AI 云提供商 Lambda、CoreWeave和乌尔特尔。

“当你观察市场上正在发生的事情时,你会发现型号尺寸正在迅速扩大......这是我们中的另一个人继续迅速推出最新、最好的技术,”Dion Harris,数据中心产品营销主管 Nvidia公司, 引述说。

据该芯片制造商称,新的 H200 将带来“性能提升,其中包括将 Meta 的 Llama 2 的干扰速度几乎提高一倍。”

也可以参考: 中国国际进口博览会展示人工智能和元界设备

意义

新款H200问世 美国出口限制 高端芯片,这可能会影响这家芯片制造巨头。

据估计,Nvidia 数据中心收入的 20% 至 25% 来自中国。 但公司有 暂停新的AI芯片订单 亚洲经济,并将其系统转向其他市场。

H200 芯片组发布后,Nvidia 股价上涨了 1.5%,于 486 月 13 日达到 12 美元,比历史最高点 502 美元低了 XNUMX 美元。

今年迄今,该股已上涨 250% 以上。 该公司的增长轨迹也保持强劲,预计第三财季收入将达到 16 亿美元,约为 170%增加 过去一年。

英伟达控制着大约80%的股份 全球市场 用于AI芯片。 ChatGPT 制造商 OpenAI 和 Stability AI 等公司严重依赖 Nvidia 技术。

[嵌入的内容]

时间戳记:

更多来自 元新闻