Az Nvidia bemutatja a „H200”-at fejlett AI-képességekkel

A chipgyártó Nvidia bemutatta a H200 lapkakészletet, amely növeli a nagy nyelvi modellek (LLM) teljesítményét és kezeli a nagyobb AI-rendszereket.

Az új lapka jelentős frissítés a H100-hoz képest, szinte dupla teljesítményű sebességgel, valamint magasabb képességekkel. Az Nvidia jelezte, hogy a továbbfejlesztett chip 2024-ben indul.

A sajátosságok

Az új chip felülírja a jelenlegit H100 lapkakészlet jelentős fejlesztésekkel, különösen a nagy sávszélességű memóriával, amely jelentős adatfeldolgozási sebességet meghatározó elem.

A H200 memória formájában érkezik, lett az első GPU a HBM3e technológiával. 141 GB memóriával van beépítve 4.8 terabájt/másodperc sebességgel, ami sokkal nagyobb, mint a H100 80 GB kapacitással.

Szerint Nvidia, a nagyobb memóriaterület és a nagy sebességű feldolgozó elemek célja, hogy jobb és gyorsabb válaszokat tegyenek lehetővé az AI-szolgáltatásokból.

Az Nvidia nem nevezte meg az új lapkakészlet memóriaszállítóját, de lehetséges versenytársak, például a Micron Technology szállíthatták a memóriát. angol Jagran.

Ahogy az AI-verseny folytatódik, a H200 chipet úgy tervezték, hogy megfeleljen a nagyobb hatékonyság és erősebb képességek iránti nagy keresletnek.

Az NVIDIA Hopper architektúrán alapuló NVIDIA HGX H200 az NVIDIA H200 Tensor Core GPU-val rendelkezik fejlett memóriával, amely hatalmas mennyiségű adatot kezel a generatív mesterséges intelligencia és #HPC munkaterhelések. #SC23

- NVIDIA adatközpont (@NVIDIADC) November 13, 2023

Nagy nevek készülőben

A Microsoft Azure, az Oracle felhőinfrastruktúra, a Google Cloud és az Amazon Web Services alkotják a kezdeti felhőszolgáltatókat, akik 200 második negyedévében hozzáférést kínálnak a H2024-alapú chiphez. és Vultr.

„Ha megnézzük, mi történik a piacon, a modellméretek rohamosan növekszenek… Ez egy másikunk, hogy továbbra is gyorsan bevezetjük a legújabb és legjobb technológiát” – Dion Harris, az adatközponti termékmarketingért felelős vezetője. Nvidia, idézett mondani.

A chipgyártó szerint az új H200 „teljesítménynövekedést fog eredményezni, amely magában foglalja a Meta's Llama 2 interferenciasebességének majdnem megkétszerezését”.

Lásd még: A Kínai Nemzetközi Import Expo AI és Metaverse eszközöket mutat be

A jelentősége

Megérkezik az új H200 Amerikai exportkorlátozások csúcskategóriás chipeken, ami hatással lehet a chipgyártó óriásra.

Ez a becslések szerint az Nvidia adatközponti bevételének 20-25%-a Kínából származik. De a cégnek van szünetelteti az új AI chip rendeléseket az ázsiai gazdaságból, és rendszereit más piacokra irányította át.

A H200 lapkakészlet bejelentését követően az Nvidia részvényei 1.5%-ot ugrottak, és november 486-án elérték a 13 dollárt, ami 12 dollárral maradt el történelmi csúcsától, 502 dollártól.

Éves alapon a számláló 250% fölé ugrott. A cég növekedési pályája is robusztus maradt, és 16 milliárd dolláros bevételt prognosztizál a pénzügyi harmadik negyedévére, ami kb. 170% -os növekedés az előző évhez képest.

Az Nvidia körülbelül 80%-át irányítja világpiac AI chipekhez. Az olyan cégek, mint a ChatGPT-t gyártó OpenAI és a Stability AI, nagymértékben támaszkodnak az Nvidia technológiájára.

[Beágyazott tartalmat]

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://metanews.com/nvidia-unveils-h200-with-advanced-ai-capabilities/