Nvidia razkriva 'H200' z naprednimi zmogljivostmi AI

Proizvajalec čipov Nvidia je predstavil nabor čipov H200, ki bo povečal zmogljivost za velike jezikovne modele (LLM) in upravljal z večjimi sistemi AI.

Novi čip je pomembna nadgradnja H100, s skoraj dvojno hitrostjo in višjimi zmogljivostmi. Nvidia je nakazala, da se bo nadgrajeni čip začel uvajati leta 2024.

Posebnosti

Novi čip nadomešča sedanjega H100 nabor čipov s pomembnimi nadgradnjami, predvsem visokopasovni pomnilnik, pomemben element, ki določa hitrost obdelave podatkov.

H200 je na voljo v obliki pomnilnika, postal prvi GPU prihajati s tehnologijo HBM3e. Vgrajenega ima 141 GB pomnilnika pri 4.8 terabajta na sekundo, kar je veliko več kot H100 z 80 GB kapacitete.

Glede na Nvidia, večji pomnilniški prostor in elementi za obdelavo z visoko hitrostjo naj bi omogočili boljše in hitrejše odzive storitev AI.

Nvidia ni imenovala nobenega dobavitelja pomnilnika za novi nabor čipov, vendar so možni konkurenti, kot je Micron Technology, morda zagotovili pomnilnik, glede na Angleško Jagran.

Ker se dirka z umetno inteligenco nadaljuje, je bil čip H200 zasnovan tako, da odgovori na veliko povpraševanje po boljši učinkovitosti in močnejših zmogljivostih.

NVIDIA HGX H200, ki temelji na arhitekturi NVIDIA Hopper, ima NVIDIA H200 Tensor Core GPE z naprednim pomnilnikom za obdelavo ogromnih količin podatkov za generativno umetno inteligenco in #HPC delovne obremenitve. #SC23

— Podatkovni center NVIDIA (@NVIDIADC) November 13, 2023

Velika imena v pripravi

Microsoft Azure, infrastruktura v oblaku Oracle, Google Cloud in Amazon Web Services sestavljajo začetne ponudnike storitev v oblaku, ki bodo ponudili dostop do čipa, ki temelji na H200, v drugem četrtletju 2024. To je poleg posebnih ponudnikov v oblaku AI Lambda, CoreWeave , in Vultr.

"Ko pogledate, kaj se dogaja na trgu, se velikosti modelov hitro širijo ... Še en od nas je, da nadaljujemo s hitrim uvajanjem najnovejše in najboljše tehnologije," Dion Harris, vodja trženja izdelkov za podatkovne centre pri Nvidia, je dejal.

Po navedbah izdelovalca čipov bo novi H200 vodil do "povečanja zmogljivosti, ki bo vključevalo skoraj podvojitev hitrosti motenj na Metini Llami 2."

Preberite tudi: China International Import Expo prikazuje naprave AI in Metaverse

Pomen

Novi H200 prihaja sredi ameriške izvozne omejitve na vrhunskih čipih, kar bi lahko vplivalo na velikana izdelovanja čipov.

To je posledica dejstva, da približno 20 do 25 % prihodkov Nvidiinega podatkovnega centra prihaja iz Kitajske. Toda podjetje ima zaustavil nova naročila čipov AI iz azijskega gospodarstva in svoje sisteme preusmerila na druge trge.

Po objavi nabora čipov H200 so Nvidijine delnice poskočile za kar 1.5 % in 486. novembra dosegle 13 $, kar je bilo 12 $ manj od rekordne vrednosti 502 $.

Od leta do danes je števec poskočil za več kot 250 %. Tudi pot rasti podjetja je ostala močna in načrtuje 16 milijard dolarjev prihodkov za svoje tretje fiskalno četrtletje, kar je približno povečanje za 170% v primerjavi s prejšnjim letom.

Nvidia nadzoruje približno 80 % Globalni trg za AI čipe. Podjetja, kot sta izdelovalec ChatGPT OpenAI in Stability AI, se močno zanašajo na tehnologijo Nvidia.

[Vgrajeni vsebina]

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• vir: https://metanews.com/nvidia-unveils-h200-with-advanced-ai-capabilities/