Nvidia menetapkan garis waktu untuk GPU H100 – sekarang untuk HGX, tahun depan untuk DGX

GTC Akselerator Hopper H100 Nvidia yang telah lama ditunggu-tunggu akan mulai dikirimkan akhir bulan depan dalam sistem HGX yang dibuat oleh OEM, kata raksasa silikon itu pada acara GPU Technology Conference (GTC) hari ini.

Namun, mereka yang menunggu untuk mendapatkan sistem DGX H100 Nvidia harus menunggu hingga sekitar Q1 tahun depan. DGX adalah jajaran workstation dan server Nvidia yang menggunakan GPU dan interkoneksinya, dan sistem HGX adalah server buatan mitra lagi yang menggunakan teknologi Nv.

Dan sementara Nvidia menghipnotis arsitektur Hopper di pusat data, sebagian besar perangkat perusahaan yang diumumkan minggu ini tidak akan mendapatkan arsitektur andalan raksasa chip itu dalam waktu dekat.

Di tepi, Nvidia tampaknya puas dengan kehidupan penuh dari arsitektur Ampere-nya.

Hari ini, Nvidia merinci platform AI dan robotika generasi berikutnya yang disebut IGX.

IGX adalah "platform komputasi all-in-one untuk mempercepat penyebaran mesin cerdas dan perangkat medis real-time," kata Kimberly Powell, veep perawatan kesehatan di Nvidia. Pada intinya, sistem ini pada dasarnya adalah versi yang diperluas dari modul Jetson AGX Orin Nvidia yang sebelumnya diumumkan. musim semi.

“IGX adalah sistem lengkap dengan prosesor robotik Nvidia Orin, GPU tensor-core Ampere, prosesor I/O streaming ConnectX, pulau keamanan fungsional, dan unit mikrokontroler keamanan karena semakin banyak robot dan manusia akan bekerja di lingkungan yang sama. ," dia menambahkan.

Dalam hal kinerja, tidak banyak yang baru di sini. Kami diberitahu bahwa platform ini didasarkan pada sistem industri Orin pada modul dengan memori 64GB yang sebanding dengan kinerja modul AGX Orin yang diluncurkan awal tahun ini. Sistem itu menampilkan memori 32GB, CPU Octacore Arm Cortex A78AE, dan GPU berbasis Ampere.

IGX mendapatkan NIC ConnectX-7 terintegrasi untuk konektivitas berkecepatan tinggi melalui dua antarmuka 200Gbps. Papan ini juga tampaknya menampilkan penyimpanan M.2 yang lengkap, slot PCIe, dan setidaknya satu slot PCI lama untuk ekspansi.

Nvidia membidik platform IGX pada berbagai kasus penggunaan AI dan robotika terdepan dalam perawatan kesehatan, manufaktur, dan logistik, di mana kerahasiaan atau latensi membuat sistem yang lebih terpusat menjadi tidak praktis.

Seperti AGX Orin, sistem ini dilengkapi dengan rangkaian perangkat lunak AI Enterprise Nvidia dan platform Fleet Command untuk penerapan dan manajemen.

Salah satu aplikasi pertama dari platform IGX akan menggunakan platform pencitraan robotika Nvidia.

“Nvidia Clara Holoscan adalah kerangka kerja aplikasi kami yang berada di atas IGX untuk perangkat medis dan jaringan pencitraan robotika,” jelas Powell.

Tiga vendor perangkat medis – Activ Surgical, Moon Surgical, dan Proximinie – berencana menggunakan IGX dan Clara Holoscan untuk menggerakkan robotika bedah dan platform telepresence mereka. Kit pengembang IGX Orin dijadwalkan untuk dikirimkan awal tahun depan dengan sistem produksi yang tersedia dari ADLink, Advantech, Dedicated Computing, Kontron, MBX, dan Onyx.

Pada topik Orin, Nvidia juga meluncurkan modul komputasi Jetson Orin Nano. Orin Nano tersedia dalam dua konfigurasi saat peluncuran termasuk versi 8GB yang mampu membuat 40 TOPS inferensi AI dan versi cut-down dengan memori 4GB yang mampu 20 TOPS.

Seperti modul Jetson sebelumnya, Orin Nano menggunakan konektor tepi yang kompatibel dengan pin seperti yang digunakan untuk memori SODIMM laptop dan mengkonsumsi antara 5W dan 15W tergantung pada aplikasi dan SKU. Modul Jetson Orin Nano Nvidia tersedia pada bulan Januari mulai dari $ 199.

Penyegaran OVX

Server OVX Nvidia, yang dirancang untuk menjalankan platform Omniverse-nya, juga tidak akan berjalan di Hopper.

Visualisasi generasi kedua dan sistem digital-twinning perusahaan malah dilengkapi dengan delapan GPU L40. Kartu tersebut didasarkan pada arsitektur Ada Lovelace generasi berikutnya dari perusahaan dan menampilkan core ray tracing generasi ketiga Nvidia dan Tensor Cores generasi keempat.

GPU tersebut disertai dengan sepasang CPU Ice Lake Intel Xeon Platinum 8362, dengan total 128 thread prosesor hingga 3.6GHz.

Sistem komputasi disertai dengan tiga NIC ConnectX-7, masing-masing mampu menghasilkan 400Gbps, dan penyimpanan NVMe 16TB. Sementara sistem tersedia sebagai node individu, Nvidia membayangkan sistem yang digunakan sebagai bagian dari apa yang disebut OVX SuperPod, yang menggabungkan 32 sistem yang terhubung menggunakan switch Spectrum-51.2 3Tbps perusahaan.

Sistem generasi kedua akan tersedia dari Lenovo, Supermicro, dan Inspur mulai tahun 2023. Di masa depan, Nvidia berencana untuk memperluas ketersediaan sistem ke mitra tambahan.

Melompat di Drive Thor

Satu-satunya kit yang diumumkan di GTC minggu ini yang mendapatkan arsitektur Hopper Nvidia adalah sistem komputer kendaraan otonom Drive Thor.

Drive Thor menggantikan platform Atlan Nvidia pada peta jalan 2025 dan berjanji untuk memberikan 2,000 TOPS kinerja inferensi saat diluncurkan.

“Drive Thor hadir dengan kemampuan mutakhir yang diperkenalkan di Grace CPU, Hopper GPU kami, dan arsitektur GPU generasi berikutnya kami,” Danny Shapiro, VP Automotive di Nvidia, mengatakan pada konferensi pers. Dia mengatakan Drive Thor dirancang untuk menyatukan rangkaian sistem komputer yang menggerakkan mobil modern ke dalam satu platform terpusat.

“Lihatlah sistem bantuan pengemudi canggih saat ini – parkir, pemantauan pengemudi, cermin kamera, kluster instrumen digital, sistem infotainment – ​​semuanya ada di komputer berbeda yang didistribusikan di seluruh kendaraan,” katanya. “Pada tahun 2025, fungsi-fungsi ini tidak lagi menjadi komputer yang terpisah. Sebaliknya, Drive Thor akan memungkinkan produsen untuk secara efisien mengkonsolidasikan fungsi-fungsi ini ke dalam satu sistem.”

Untuk mengatasi semua aliran informasi dari sensor mobil, chip ini memiliki isolasi domain multi-komputasi, yang menurut Nvidia memungkinkan chip untuk menjalankan proses kritis secara bersamaan tanpa gangguan.

Teknologi ini juga memungkinkan chip untuk menjalankan beberapa sistem operasi secara bersamaan agar sesuai dengan berbagai aplikasi kendaraan. Misalnya, sistem operasi inti mobil mungkin berjalan di Linux, sedangkan sistem infotainment mungkin menjalankan QNX atau Android.

Namun, tidak diketahui kapan kita bisa melihat teknologi beraksi. Seperti berdiri, ketiga mitra peluncuran Nvidia - Zeekr, Xpeng, dan QCraft - berbasis di Cina. ®