Nvidia stabilește cronologia pentru GPU-urile H100 – acum pentru HGX, anul viitor pentru DGX

GTC Mult-așteptatul accelerator Hopper H100 de la Nvidia va începe să fie livrat luna viitoare în sistemele HGX construite de OEM, a declarat gigantul de siliciu la evenimentul său GPU Technology Conference (GTC) de astăzi.

Cu toate acestea, cei care așteaptă să pună mâna pe sistemele DGX H100 ale Nvidia vor trebui să aștepte până cândva în primul trimestru al anului viitor. DGX este linia de stații de lucru și servere Nvidia care utilizează GPU-urile și interconexiunile sale, iar sistemele HGX sunt servere create de parteneri, din nou, folosind tehnologia Nv.

Și în timp ce Nvidia își exagerează arhitectura Hopper în centrul de date, cea mai mare parte a kit-ului enterprise anunțat săptămâna aceasta nu va primi arhitectura emblematică a gigantului de cipuri în curând.

La limită, Nvidia pare mulțumită să trăiască din plin arhitectura sa Ampere.

Astăzi, Nvidia a detaliat platforma de IA și robotică de ultimă generație pe care o numește IGX.

IGX este o „platformă de calcul all-in-one pentru a accelera implementarea mașinilor inteligente și a dispozitivelor medicale în timp real”, a spus Kimberly Powell, director de asistență medicală la Nvidia. În esență, sistemul este în esență o versiune extinsă a modulului Nvidia anunțat anterior Jetson AGX Orin, a anunțat acest lucru. primăvară.

„IGX este un sistem complet cu procesorul robotic Nvidia Orin, GPU-ul Ampere tensor-core, procesorul ConnectX I/O streaming, o insulă funcțională de siguranță și unitatea de microcontroler de siguranță, deoarece tot mai mulți roboți și oameni vor lucra în același mediu. ," ea a adăugat.

În ceea ce privește performanța, nu sunt prea multe noutăți aici. Ni s-a spus că platforma se bazează pe un sistem industrial Orin pe un modul cu 64 GB de memorie, care este comparabilă ca performanță cu modulul AGX Orin lansat la începutul acestui an. Acest sistem includea 32 GB de memorie, un CPU Arm Cortex A78AE octacore și un GPU bazat pe Ampere.

IGX obține o NIC ConnectX-7 integrată pentru conectivitate de mare viteză prin intermediul a două interfețe de 200 Gbps. Placa pare să aibă, de asemenea, o gamă completă de stocare M.2, sloturi PCIe și cel puțin un slot PCI vechi pentru extindere.

Nvidia vizează platforma IGX către o varietate de cazuri de utilizare a IA și robotică de vârf în domeniul sănătății, producție și logistică, unde confidențialitatea sau latența fac sisteme mai centralizate impracticabile.

La fel ca AGX Orin, sistemul este completat de suita de software Nvidia AI Enterprise și de platforma Fleet Command pentru implementare și gestionare.

Una dintre primele aplicații ale platformei IGX va fi utilizarea platformei de imagistică robotică a Nvidia.

„Nvidia Clara Holoscan este cadrul nostru de aplicații care se află pe partea superioară a IGX pentru dispozitive medicale și conducte de robotică de imagistică”, a explicat Powell.

Trei furnizori de dispozitive medicale – Activ Surgical, Moon Surgical și Proximinie – plănuiesc să folosească IGX și Clara Holoscan pentru a-și alimenta robotica chirurgicală și platformele de teleprezență. Kiturile pentru dezvoltatori IGX Orin sunt programate să fie livrate la începutul anului viitor, cu sisteme de producție disponibile de la ADLink, Advantech, Dedicated Computing, Kontron, MBX și Onyx, pentru a numi câteva.

Pe tema Orin, Nvidia și-a dezvăluit și modulele de calcul Jetson Orin Nano. Orin Nano este disponibil în două configurații la lansare, inclusiv o versiune de 8 GB capabilă de 40 TOPS de inferență AI și o versiune redusă cu 4 GB de memorie capabilă de 20 TOPS.

La fel ca modulele Jetson anterioare, Orin Nano folosește un conector de margine compatibil cu pin, care amintește de cel folosit pentru memoria SODIMM de laptop și consumă între 5W și 15W, în funcție de aplicație și SKU. Modulele Nvidia Jetson Orin Nano sunt disponibile în ianuarie, începând de la 199 USD.

O reîmprospătare OVX

Serverele OVX ale Nvidia, care sunt concepute pentru a rula platforma Omniverse, nu vor rula nici pe Hopper.

Sistemele de vizualizare și de înfrățire digitală de a doua generație ale companiei sunt în schimb echipate cu opt GPU-uri L40. Cardurile se bazează pe arhitectura Ada Lovelace de ultimă generație a companiei și prezintă nuclee de urmărire a razelor de generație a treia de la Nvidia și nuclee Tensor de a patra generație.

GPU-urile sunt însoțite de o pereche de procesoare Ice Lake Intel Xeon Platinum 8362, pentru un total de 128 fire de procesare la până la 3.6 GHz.

Sistemul de calcul este însoțit de trei NIC-uri ConnectX-7, fiecare capabilă de 400 Gbps de transfer și 16 TB de stocare NVMe. În timp ce sistemul este disponibil ca noduri individuale, Nvidia prevede ca sistemul să fie implementat ca parte a ceea ce numește un OVX SuperPod, care încorporează 32 de sisteme conectate folosind comutatoarele Spectrum-51.2 de 3 Tbps ale companiei.

Sistemele de a doua generație vor fi disponibile de la Lenovo, Supermicro și Inspur din 2023. În viitor, Nvidia intenționează să extindă disponibilitatea sistemelor către parteneri suplimentari.

Am urcat pe Drive Thor

Singurul kit anunțat la GTC săptămâna aceasta care primește arhitectura Hopper de la Nvidia este sistemul computerizat pentru vehicule autonome Drive Thor.

Drive Thor înlocuiește platforma Atlan a Nvidia pe foaia de parcurs din 2025 și promite că va oferi 2,000 de TOPS de performanță de inferență atunci când se lansează.

„Drive Thor vine cu capabilități de ultimă generație introduse în procesorul nostru Grace, GPU-ul Hopper și arhitectura noastră GPU de ultimă generație”, a declarat Danny Shapiro, VP Automotive la Nvidia, într-o conferință de presă. El a spus că Drive Thor este conceput pentru a unifica litania de sisteme informatice care alimentează automobilele moderne într-o singură platformă centralizată.

„Uitați-vă la sistemele avansate de asistență a șoferului de astăzi – parcare, monitorizarea șoferului, oglinzi cu camera, panoul de instrumente digital, sisteme de infotainment – ​​toate sunt pe diferite computere distribuite pe tot vehiculul”, a spus el. „În 2025, însă, aceste funcții nu vor mai fi computere separate. Mai degrabă, Drive Thor va permite producătorilor să consolideze eficient aceste funcții într-un singur sistem.”

Pentru a face față tuturor fluxului de informații de la senzorii auto, cipul dispune de izolație multi-domeniu de calcul, despre care Nvidia spune că permite cipul să ruleze procese critice simultane fără întrerupere.

Tehnologia permite, de asemenea, cipului să ruleze mai multe sisteme de operare simultan, pentru a se potrivi diferitelor aplicații ale vehiculului. De exemplu, sistemul de operare de bază al mașinii poate rula pe Linux, în timp ce sistemul de infotainment ar putea rula QNX sau Android.

Cu toate acestea, nu se știe când vom putea vedea tehnologia în acțiune. În prezent, toți cei trei parteneri de lansare ai Nvidia – Zeekr, Xpeng și QCraft – au sediul în China. ®