Nvidia schetst tijdlijn voor H100 GPU's - nu voor HGX, volgend jaar voor DGX

GTC Nvidia's langverwachte Hopper H100-versnellers zullen later volgende maand worden verzonden in OEM-gebouwde HGX-systemen, zei de siliciumgigant vandaag tijdens zijn GPU Technology Conference (GTC) -evenement.

Degenen die wachten om Nvidia's DGX H100-systemen in handen te krijgen, zullen echter moeten wachten tot ergens in het eerste kwartaal van volgend jaar. De DGX is Nvidia's lijn van werkstations en servers die gebruik maken van zijn GPU's en interconnects, en HGX-systemen zijn door partners gemaakte servers die opnieuw gebruikmaken van Nv's technologie.

En terwijl Nvidia zijn Hopper-architectuur in het datacenter hypet, zal het grootste deel van de enterprise-kit die deze week is aangekondigd, niet snel de vlaggenschiparchitectuur van de chipgigant krijgen.

Aan de rand lijkt Nvidia tevreden te zijn met een volledig leven uit zijn Ampere-architectuur.

Vandaag heeft Nvidia het next-gen edge AI- en roboticaplatform beschreven dat het IGX noemt.

IGX is een "alles-in-één computerplatform om de implementatie van realtime intelligente machines en medische apparaten te versnellen", zegt Kimberly Powell, veep van gezondheidszorg bij Nvidia. In de kern is het systeem in wezen een uitgebreide versie van Nvidia's eerder aangekondigde Jetson AGX Orin-module, kondigde dit aan voorjaar.

“IGX is een volledig systeem met de Nvidia Orin robotica-processor, Ampere tensor-core GPU, de ConnectX streaming I/O-processor, een functioneel veiligheidseiland en een veiligheidsmicrocontroller-eenheid omdat steeds meer robots en mensen in dezelfde omgeving zullen werken. ', voegde ze eraan toe.

Qua prestaties is er hier niet veel nieuws. Er is ons verteld dat het platform is gebaseerd op een Orin industrieel systeem op module met 64 GB geheugen dat qua prestaties vergelijkbaar is met de AGX Orin-module die eerder dit jaar werd gelanceerd. Dat systeem bevatte 32 GB geheugen, een octacore Arm Cortex A78AE CPU en Ampere-gebaseerde GPU.

De IGX krijgt wel een geïntegreerde ConnectX-7 NIC voor snelle connectiviteit door middel van twee 200Gbps-interfaces. Het bord lijkt ook te beschikken over een volledige aanvulling van M.2-opslag, PCIe-slots en ten minste één legacy PCI-slot voor uitbreiding.

Nvidia richt het IGX-platform op een verscheidenheid aan edge-AI- en robotica-gebruikscasussen in de gezondheidszorg, productie en logistiek, waar vertrouwelijkheid of latentie meer gecentraliseerde systemen onpraktisch maken.

Net als de AGX Orin wordt het systeem aangevuld met Nvidia's AI Enterprise-softwaresuite en Fleet Command-platform voor implementatie en beheer.

Een van de eerste toepassingen van het IGX-platform zal gebruik maken van Nvidia's robotica-beeldvormingsplatform.

"Nvidia Clara Holoscan is ons applicatieframework dat bovenop IGX zit voor medische apparaten en beeldvormingsroboticapijplijnen", legt Powell uit.

Drie leveranciers van medische apparatuur – Activ Surgical, Moon Surgical en Proximinie – zijn van plan de IGX en Clara Holoscan te gebruiken om hun chirurgische robotica en telepresence-platforms van stroom te voorzien. IGX Orin-ontwikkelaarskits worden begin volgend jaar geleverd met productiesystemen die beschikbaar zijn van ADLink, Advantech, Dedicated Computing, Kontron, MBX en Onyx om er maar een paar te noemen.

Over het onderwerp Orin heeft Nvidia ook zijn Jetson Orin Nano-computermodules onthuld. Orin Nano is bij de lancering beschikbaar in twee configuraties, waaronder een 8GB-versie die geschikt is voor 40 TOPS aan AI-inferentie en een verkleinde versie met 4GB geheugen die geschikt is voor 20 TOPS.

Net als eerdere Jetson-modules, gebruikt de Orin Nano een pin-compatibele randconnector die doet denken aan die van SODIMM-geheugen voor laptops en verbruikt tussen de 5W en 15W, afhankelijk van de toepassing en SKU. Nvidia's Jetson Orin Nano-modules zijn in januari verkrijgbaar vanaf $ 199.

Een OVX-vernieuwing

De OVX-servers van Nvidia, die zijn ontworpen om het Omniverse-platform te laten draaien, zullen ook niet op Hopper draaien.

De tweede generatie visualisatie- en digitale twinning-systemen van het bedrijf zijn in plaats daarvan uitgerust met acht L40 GPU's. De kaarten zijn gebaseerd op de volgende generatie Ada Lovelace-architectuur van het bedrijf en zijn voorzien van Nvidia's derde generatie raytracing-kernen en vierde-generatie Tensor-kernen.

De GPU's worden vergezeld door een paar Ice Lake Intel Xeon Platinum 8362 CPU's, voor een totaal van 128 processorthreads tot 3.6 GHz.

Het computersysteem wordt vergezeld door drie ConnectX-7 NIC's, elk met een doorvoer van 400 Gbps en 16 TB NVMe-opslag. Hoewel het systeem beschikbaar is als afzonderlijke nodes, stelt Nvidia zich voor dat het systeem wordt ingezet als onderdeel van wat het een OVX SuperPod noemt, dat 32 systemen omvat die zijn verbonden met de 51.2 Tbps Spectrum-3-switches van het bedrijf.

De systemen van de tweede generatie zullen vanaf 2023 verkrijgbaar zijn bij Lenovo, Supermicro en Inspur. In de toekomst is Nvidia van plan de beschikbaarheid van de systemen uit te breiden naar extra partners.

Opgesprongen op Drive Thor

Het enige stukje kit dat deze week op GTC is aangekondigd en Nvidia's Hopper-architectuur krijgt, is het autonome voertuigcomputersysteem Drive Thor.

Drive Thor vervangt Nvidia's Atlan-platform op zijn 2025-roadmap en belooft 2,000 TOPS aan inferentieprestaties te leveren wanneer het wordt gelanceerd.

"Drive Thor zit boordevol geavanceerde mogelijkheden die zijn geïntroduceerd in onze Grace CPU, onze Hopper GPU en onze volgende generatie GPU-architectuur", vertelde Danny Shapiro, VP Automotive bij Nvidia, op een persconferentie. Hij zei dat Drive Thor is ontworpen om de litanie van computersystemen die moderne auto's aandrijven te verenigen in een enkel gecentraliseerd platform.

"Kijk naar de geavanceerde rijhulpsystemen van vandaag - parkeren, bestuurdersbewaking, cameraspiegels, digitaal instrumentenpaneel, infotainmentsystemen - ze bevinden zich allemaal op verschillende computers die door het voertuig zijn verspreid", zei hij. “In 2025 zijn deze functies echter geen aparte computers meer. In plaats daarvan stelt Drive Thor fabrikanten in staat om deze functies efficiënt te consolideren in één enkel systeem.”

Om alle informatie die door autosensoren wordt gestreamd aan te kunnen, beschikt de chip over multi-compute-domain-isolatie, wat volgens Nvidia de chip in staat stelt gelijktijdige kritieke processen uit te voeren zonder onderbreking.

De technologie stelt de chip ook in staat om meerdere besturingssystemen tegelijkertijd uit te voeren voor de verschillende voertuigtoepassingen. Het kernbesturingssysteem van de auto kan bijvoorbeeld op Linux draaien, terwijl het infotainmentsysteem op QNX of Android kan draaien.

Het is echter niet bekend wanneer we de technologie in actie kunnen zien. Zoals het er nu uitziet, zijn alle drie de lanceringspartners van Nvidia - Zeekr, Xpeng en QCraft - gevestigd in China. ®