Nvidia opstiller tidslinje for H100 GPU'er - nu til HGX, næste år til DGX

GTC Nvidias længe ventede Hopper H100-acceleratorer vil begynde at sendes senere i næste måned i OEM-byggede HGX-systemer, sagde siliciumgiganten ved sin GPU Technology Conference (GTC) begivenhed i dag.

Men de, der venter på at få fingrene i Nvidias DGX H100-systemer, må vente til engang i Q1 næste år. DGX er Nvidias linje af arbejdsstationer og servere, der bruger dens GPU'er og sammenkoblinger, og HGX-systemer er partnerskabte servere igen, der bruger Nv's teknologi.

Og mens Nvidia hyper sin Hopper-arkitektur i datacentret, vil det meste af enterprise-sættet, der blev annonceret i denne uge, ikke snart få chipgigantens flagskibsarkitektur.

På kanten ser Nvidia ud til at være tilfreds med at få et fuldt liv fra sin Ampere-arkitektur.

I dag detaljerede Nvidia den næste generations edge AI og robotplatform, den kalder IGX.

IGX er en "alt-i-en computerplatform til at accelerere implementeringen af ​​realtids intelligente maskiner og medicinsk udstyr," sagde Kimberly Powell, veep of healthcare hos Nvidia. I sin kerne er systemet i det væsentlige en udvidet version af Nvidias tidligere annoncerede Jetson AGX Orin-modul, annoncerede dette forår.

"IGX er et komplet system med Nvidia Orin-robotprocessoren, Ampere tensor-core GPU, ConnectX streaming I/O-processoren, en funktionel sikkerhedsø og sikkerhedsmikrocontrollerenhed, fordi flere og flere robotter og mennesker vil arbejde i det samme miljø " tilføjede hun.

Med hensyn til ydeevne er der ikke meget nyt her. Vi får at vide, at platformen er baseret på et Orin industrielt system på modul med 64 GB hukommelse, der kan sammenlignes i ydeevne med AGX Orin-modulet, der blev lanceret tidligere i år. Dette system indeholdt 32 GB hukommelse, en octacore Arm Cortex A78AE CPU og Ampere-baseret GPU.

IGX får en integreret ConnectX-7 NIC til højhastighedsforbindelse ved hjælp af to 200 Gbps-grænseflader. Kortet ser også ud til at have et komplet supplement af M.2-lagring, PCIe-slots og mindst én ældre PCI-slot til udvidelse.

Nvidia sigter IGX-platformen mod en række forskellige edge AI- og robotteknologibrugssager inden for sundhedspleje, produktion og logistik, hvor fortrolighed eller latens gør mere centraliserede systemer upraktiske.

Ligesom AGX Orin komplimenteres systemet af Nvidias AI Enterprise-softwarepakke og Fleet Command-platform til implementering og administration.

En af de første applikationer af IGX-platformen vil være at bruge Nvidias robotteknologiske billedbehandlingsplatform.

"Nvidia Clara Holoscan er vores applikationsramme, der ligger oven på IGX til medicinsk udstyr og billeddiagnostiske robotrørledninger," forklarede Powell.

Tre leverandører af medicinsk udstyr – Activ Surgical, Moon Surgical og Proximinie – planlægger at bruge IGX og Clara Holoscan til at drive deres kirurgiske robotter og telepresence-platforme. IGX Orin-udviklersæt er planlagt til at blive sendt i begyndelsen af ​​næste år med produktionssystemer tilgængelige fra ADLink, Advantech, Dedicated Computing, Kontron, MBX og Onyx for at nævne en håndfuld.

Med hensyn til Orin afslørede Nvidia også sine Jetson Orin Nano compute-moduler. Orin Nano er tilgængelig i to konfigurationer ved lanceringen, inklusive en 8GB version, der er i stand til 40 TOPS af AI-inferencing og en cut-down version med 4GB hukommelse, der kan 20 TOPS.

Ligesom tidligere Jetson-moduler bruger Orin Nano et pin-kompatibelt kantstik, der minder om det, der bruges til bærbar SODIMM-hukommelse og bruger mellem 5W og 15W afhængigt af applikation og SKU. Nvidias Jetson Orin Nano-moduler er tilgængelige i januar fra $199.

En OVX-opdatering

Nvidias OVX-servere, som er designet til at køre sin Omniverse-platform, vil heller ikke køre på Hopper.

Virksomhedens anden generations visualisering og digitale twinning-systemer er i stedet udstyret med otte L40 GPU'er. Kortene er baseret på virksomhedens næste generation af Ada Lovelace-arkitektur og indeholder Nvidias tredje generations ray-tracing-kerner og fjerde-gen Tensor Cores.

GPU'erne er ledsaget af et par Ice Lake Intel Xeon Platinum 8362 CPU'er, for i alt 128 processortråde på op til 3.6 GHz.

Beregningssystemet er ledsaget af tre ConnectX-7 NIC'er, der hver er i stand til 400 Gbps gennemløb og 16 TB NVMe-lagerplads. Mens systemet er tilgængeligt som individuelle noder, forestiller Nvidia sig, at systemet bliver implementeret som en del af det, det kalder en OVX SuperPod, som inkorporerer 32 systemer, der er forbundet med virksomhedens 51.2 Tbps Spectrum-3-switche.

Andengenerationssystemerne vil være tilgængelige fra Lenovo, Supermicro og Inspur fra 2023. I fremtiden planlægger Nvidia at udvide tilgængeligheden af ​​systemerne til yderligere partnere.

Hoppede op på Drive Thor

Det eneste sæt, der blev annonceret på GTC i denne uge, som får Nvidias Hopper-arkitektur, er Drive Thors autonome køretøjscomputersystem.

Drive Thor erstatter Nvidias Atlan-platform på sin køreplan for 2025 og lover at levere 2,000 TOPS af inferencing-ydeevne, når den lanceres.

"Drive Thor kommer spækket med banebrydende muligheder introduceret i vores Grace CPU, vores Hopper GPU og vores næste generations GPU-arkitektur," fortalte Danny Shapiro, VP for Automotive hos Nvidia, til en pressebriefing. Han sagde, at Drive Thor er designet til at forene litanien af ​​computersystemer, der driver moderne biler til en enkelt centraliseret platform.

"Se på nutidens avancerede førerassistance-systemer - parkering, førerovervågning, kameraspejle, digital instrumentklynge, infotainmentsystemer - de er alle på forskellige computere fordelt i hele køretøjet," sagde han. ”I 2025 vil disse funktioner dog ikke længere være separate computere. Drive Thor vil snarere gøre det muligt for producenterne effektivt at konsolidere disse funktioner i et enkelt system."

For at klare al information, der streames fra bilsensorer, har chippen multi-compute-domæne-isolering, som Nvidia siger, tillader chippen at køre samtidige kritiske processer uden afbrydelser.

Teknologien tillader også chippen at køre flere operativsystemer samtidigt for at passe til de forskellige køretøjsapplikationer. For eksempel kan bilens kerneoperativsystem køre på Linux, mens infotainmentsystemet måske kører QNX eller Android.

Det er dog uvist, hvornår vi kan komme til at se teknologien i aktion. Som det står, er alle tre af Nvidias lanceringspartnere – Zeekr, Xpeng og QCraft – baseret i Kina. ®