Nvidia esitleb täiustatud AI-võimalustega H200

Kiibitootja Nvidia on tutvustanud H200 kiibikomplekti, mis suurendab suurte keelemudelite (LLM) jõudlust ja käsitleb suuremaid tehisintellektisüsteeme.

Uus kiip on H100 märkimisväärne uuendus, millel on peaaegu kahekordne jõudlus ja ka suuremad võimalused. Nvidia on teatanud, et uuendatud kiip hakkab turule tulema 2024. aastal.

Spetsiifika

Uus kiip asendab praeguse H100 oluliste uuendustega kiibistik, eriti suure ribalaiusega mälu, mis on oluline element, mis määrab andmetöötluse kiiruse.

H200 on saadaval mälu kujul, saades esimeseks GPU-ks HBM3e tehnoloogiaga. See on manustatud 141 GB mäluga kiirusel 4.8 terabaiti sekundis, mis on palju suurem kui H100 80 GB mahuga.

Järgi Nvidia, suurem mäluruum ja kiired töötlemiselemendid on mõeldud selleks, et võimaldada tehisintellektiteenustelt paremaid ja kiiremaid vastuseid.

Nvidia ei nimetanud uue kiibistiku jaoks ühtegi mälutarnijat, kuid võimalikud konkurendid, nagu Micron Technology, võisid mälu anda. Inglise Jagran.

Tehisintellekti võidujooksu jätkudes loodi H200 kiip vastama suurele nõudlusele parema tõhususe ja tugevamate võimaluste järele.

NVIDIA Hopperi arhitektuuril põhinev NVIDIA HGX H200 sisaldab täiustatud mäluga NVIDIA H200 Tensor Core GPU-d, et hallata tohutuid andmemahtusid generatiivse AI jaoks ja #HPC töökoormused. #SC23

- NVIDIA andmekeskus (@NVIDIADC) November 13, 2023

Suured nimed on plaanis

Microsoft Azure, Oracle pilveinfrastruktuur, Google Cloud ja Amazon Web Services moodustavad esialgsed pilveteenuste pakkujad, kes pakuvad juurdepääsu H200-põhisele kiibile 2024. aasta teises kvartalis. See on lisaks spetsiaalsetele tehisintellekti pilveteenuse pakkujatele Lambda, CoreWeave. ja Vultr.

"Kui vaadata turul toimuvat, siis mudelite suurused suurenevad kiiresti... See on veel üks meist, kes jätkab uusima ja parima tehnoloogia kiiret kasutuselevõttu," Dion Harris, andmekeskuse tooteturunduse juht Nvidia tsiteeris seda.

Kiibitootja sõnul suurendab uus H200 jõudlust, mis hõlmab Meta's Llama 2 häirete kiiruse peaaegu kahekordistamist.

Loe ka: Hiina rahvusvahelisel impordinäitusel esitletakse tehisintellekti ja Metaverse seadmeid

olulisus

Uus H200 tuleb keset USA ekspordipiirangud tipptasemel kiibidele, mis võivad kiibitootjat mõjutada.

See tuleb hinnanguliselt 20–25% Nvidia andmekeskuste tuludest Hiinast. Kuid ettevõttel on peatas uued tehisintellekti kiibi tellimused Aasia majandusest ja suunas oma süsteemid teistele turgudele.

Pärast H200 kiibistiku väljakuulutamist hüppas Nvidia aktsia koguni 1.5%, jõudes 486. novembril 13 dollarini, mis oli 12 dollari võrra väiksem kõigi aegade kõrgeimast 502 dollarist.

Aasta kokkuvõttes on loendur hüpanud üle 250%. Ettevõtte kasvutrajektoor on samuti püsinud jõuline ja ta prognoosib oma kolmandaks eelarvekvartaliks 16 miljardit dollarit tulu, mis on umbes 170% tõus eelmise aastaga võrreldes.

Nvidia kontrollib umbes 80% seadmest maailmaturul AI kiipide jaoks. Sellised ettevõtted nagu ChatGPT tootja OpenAI ja Stability AI toetuvad suuresti Nvidia tehnoloogiale.

[Varjatud sisu]

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://metanews.com/nvidia-unveils-h200-with-advanced-ai-capabilities/