Nvidia đưa ra mốc thời gian cho GPU H100 - bây giờ cho HGX, năm sau cho DGX

GTC Hôm nay, gã khổng lồ silicon cho biết tại sự kiện Hội nghị Công nghệ GPU (GTC) của mình, bộ tăng tốc Hopper H100 được chờ đợi từ lâu của Nvidia sẽ bắt đầu xuất xưởng vào cuối tháng tới trong các hệ thống HGX do OEM chế tạo.

Tuy nhiên, những người đang chờ đợi để có được hệ thống DGX H100 của Nvidia sẽ phải đợi đến khoảng quý 1 năm sau. DGX là dòng máy trạm và máy chủ của Nvidia sử dụng GPU và kết nối của nó, còn hệ thống HGX lại là các máy chủ do đối tác sản xuất sử dụng công nghệ của Nv.

Và trong khi Nvidia đang quảng bá kiến ​​trúc Hopper của mình trong trung tâm dữ liệu, thì hầu hết bộ công cụ dành cho doanh nghiệp được công bố trong tuần này sẽ không sớm có được kiến ​​trúc hàng đầu của gã khổng lồ chip.

Ngoài ra, Nvidia có vẻ hài lòng với việc tận hưởng một cuộc sống trọn vẹn từ kiến ​​trúc Ampere của mình.

Hôm nay, Nvidia đã trình bày chi tiết về nền tảng AI và robot thế hệ tiếp theo mà nó gọi là IGX.

IGX là “nền tảng điện toán tất cả trong một để đẩy nhanh việc triển khai các máy móc và thiết bị y tế thông minh theo thời gian thực,” Kimberly Powell, chuyên gia chăm sóc sức khỏe tại Nvidia, cho biết. Về cốt lõi, hệ thống này về cơ bản là một phiên bản mở rộng của mô-đun Jetson AGX Orin đã được công bố trước đây của Nvidia. mùa xuân.

“IGX là một hệ thống hoàn chỉnh với bộ xử lý robot Nvidia Orin, GPU lõi căng Ampere, bộ xử lý I/O phát trực tuyến ConnectX, đảo an toàn chức năng và bộ vi điều khiển an toàn vì ngày càng có nhiều robot và con người sẽ làm việc trong cùng một môi trường ,” cô nói thêm.

Về mặt hiệu suất, không có nhiều điều mới ở đây. Chúng tôi được biết nền tảng này dựa trên hệ thống công nghiệp Orin trên mô-đun có bộ nhớ 64GB có hiệu suất tương đương với mô-đun AGX Orin ra mắt đầu năm nay. Hệ thống đó có bộ nhớ 32GB, CPU Arm Cortex A78AE octacore và GPU dựa trên Ampere.

IGX có được một NIC ConnectX-7 tích hợp cho kết nối tốc độ cao thông qua hai giao diện 200Gbps. Bo mạch này cũng có đầy đủ tính năng bổ sung của bộ lưu trữ M.2, khe cắm PCIe và ít nhất một khe cắm PCI kế thừa để mở rộng.

Nvidia đang hướng nền tảng IGX vào nhiều trường hợp sử dụng AI và robot tiên tiến trong chăm sóc sức khỏe, sản xuất và hậu cần, nơi mà tính bảo mật hoặc độ trễ khiến các hệ thống tập trung hơn trở nên không thực tế.

Giống như AGX Orin, hệ thống này được hỗ trợ bởi bộ phần mềm AI Enterprise của Nvidia và nền tảng Fleet Command để triển khai và quản lý.

Một trong những ứng dụng đầu tiên của nền tảng IGX sẽ sử dụng nền tảng hình ảnh robot của Nvidia.

Powell giải thích: “Nvidia Clara Holoscan là khung ứng dụng của chúng tôi dựa trên IGX dành cho các thiết bị y tế và đường ống robot chụp ảnh.

Ba nhà cung cấp thiết bị y tế - Activ Phẫu thuật, Moon Phẫu thuật và Proximinie - có kế hoạch sử dụng IGX và Clara Holoscan để cung cấp năng lượng cho các nền tảng robot phẫu thuật và dịch chuyển tức thời của họ. Bộ dụng cụ dành cho nhà phát triển IGX Orin dự kiến ​​sẽ xuất xưởng vào đầu năm sau với các hệ thống sản xuất có sẵn từ ADLink, Advantech, Máy tính chuyên dụng, Kontron, MBX và Onyx.

Về chủ đề Orin, Nvidia cũng đã công bố các mô-đun máy tính Jetson Orin Nano của mình. Orin Nano có sẵn trong hai cấu hình khi ra mắt bao gồm một phiên bản 8GB có khả năng 40 TOPS cho hội nghị AI và một phiên bản cắt giảm với 4GB bộ nhớ có khả năng 20 TOPS.

Giống như các mô-đun Jetson trước đây, Orin Nano sử dụng đầu nối cạnh tương thích với pin gợi nhớ đến đầu nối được sử dụng cho bộ nhớ SODIMM của máy tính xách tay và tiêu thụ từ 5W đến 15W tùy thuộc vào ứng dụng và SKU. Các mô-đun Jetson Orin Nano của Nvidia sẽ có sẵn vào tháng 199 với giá khởi điểm là XNUMX USD.

Làm mới OVX

Các máy chủ OVX của Nvidia, được thiết kế để chạy nền tảng Omniverse, cũng sẽ không chạy trên Hopper.

Thay vào đó, hệ thống kết hợp kỹ thuật số và trực quan hóa thế hệ thứ hai của công ty được trang bị tám GPU L40. Các thẻ này dựa trên kiến ​​trúc Ada Lovelace thế hệ tiếp theo của công ty và có lõi dò tia thế hệ thứ ba của Nvidia và lõi Tensor thế hệ thứ tư.

Các GPU được đi kèm với một cặp CPU Ice Lake Intel Xeon Platinum 8362, cho tổng số 128 luồng xử lý với tốc độ lên đến 3.6GHz.

Hệ thống điện toán đi kèm với ba NIC ConnectX-7, mỗi NIC có tốc độ thông lượng 400Gbps và dung lượng lưu trữ NVMe 16TB. Mặc dù hệ thống này có sẵn dưới dạng các nút riêng lẻ, Nvidia hình dung hệ thống đang được triển khai như một phần của cái mà nó gọi là OVX SuperPod, bao gồm 32 hệ thống được kết nối bằng bộ chuyển mạch Spectrum-51.2 3Tbps của công ty.

Các hệ thống thế hệ thứ hai sẽ có sẵn từ Lenovo, Supermicro và Inspur từ năm 2023. Trong tương lai, Nvidia có kế hoạch mở rộng tính khả dụng của hệ thống cho các đối tác khác.

Nhảy lên Drive Thor

Bộ công cụ duy nhất được công bố tại GTC tuần này có kiến ​​trúc Hopper của Nvidia là hệ thống máy tính xe tự hành Drive Thor.

Drive Thor thay thế nền tảng Atlan của Nvidia theo lộ trình năm 2025 và hứa hẹn mang lại hiệu suất suy luận 2,000 TOPS khi ra mắt.

“Drive Thor được tích hợp nhiều tính năng tiên tiến được giới thiệu trong CPU Grace, GPU Hopper và kiến ​​trúc GPU thế hệ tiếp theo của chúng tôi,” Danny Shapiro, Phó Giám đốc Ô tô tại Nvidia, phát biểu trong một cuộc họp báo. Ông cho biết Drive Thor được thiết kế để hợp nhất các hệ thống máy tính cung cấp năng lượng cho ô tô hiện đại vào một nền tảng tập trung duy nhất.

Ông nói: “Hãy nhìn vào các hệ thống hỗ trợ người lái tiên tiến ngày nay – đỗ xe, giám sát người lái, gương camera, cụm đồng hồ kỹ thuật số, hệ thống thông tin giải trí – tất cả đều nằm trên các máy tính khác nhau được phân bổ khắp xe”. “Tuy nhiên, vào năm 2025, các chức năng này sẽ không còn là những máy tính riêng biệt nữa. Đúng hơn, Drive Thor sẽ cho phép các nhà sản xuất hợp nhất các chức năng này một cách hiệu quả thành một hệ thống duy nhất.”

Để đối phó với tất cả các luồng thông tin từ các cảm biến ô tô, chip này có tính năng cách ly miền đa máy tính, mà Nvidia cho biết cho phép chip chạy đồng thời các quy trình quan trọng mà không bị gián đoạn.

Công nghệ này cũng cho phép chip chạy đồng thời nhiều hệ điều hành để phù hợp với các ứng dụng khác nhau trên xe. Ví dụ: hệ điều hành cốt lõi của ô tô có thể chạy trên Linux, trong khi hệ thống thông tin giải trí có thể chạy QNX hoặc Android.

Tuy nhiên, vẫn chưa biết khi nào chúng ta có thể thấy công nghệ này hoạt động. Hiện tại, cả ba đối tác ra mắt của Nvidia – Zeekr, Xpeng và QCraft – đều có trụ sở tại Trung Quốc. ®