Nvidia trình làng 'H200' với khả năng AI nâng cao

Nvidia trình làng 'H200' với khả năng AI nâng cao

Dấu thời gian: Ngày 15 tháng 2023 năm 10 55:XNUMX sáng
Nvidia tiết lộ 'H200' với khả năng AI nâng cao Trí thông minh dữ liệu PlatoBlockchain. Tìm kiếm dọc. Ái.

Nhà sản xuất chip Nvidia đã giới thiệu chipset H200, giúp tăng hiệu suất cho các mô hình ngôn ngữ lớn (LLM) và xử lý các hệ thống AI lớn hơn.

Con chip mới là một bản nâng cấp đáng kể so với H100, với tốc độ hiệu suất gần như gấp đôi cũng như khả năng cao hơn. Nvidia đã chỉ ra rằng chip nâng cấp sẽ bắt đầu ra mắt vào năm 2024.

Các chi tiết cụ thể

Chip mới thay thế chip hiện tại H100 chipset với những nâng cấp đáng kể, đặc biệt là bộ nhớ băng thông cao, yếu tố quan trọng quyết định tốc độ xử lý dữ liệu.

H200 có dạng bộ nhớ, trở thành GPU đầu tiên đi kèm với công nghệ HBM3e. Nó được nhúng với bộ nhớ 141 GB với tốc độ 4.8 terabyte mỗi giây, lớn hơn nhiều so với H100 với dung lượng 80 GB.

Theo Nvidia, không gian bộ nhớ lớn hơn và các yếu tố xử lý tốc độ cao nhằm mang lại phản hồi tốt hơn và nhanh hơn từ các dịch vụ AI.

Nvidia không nêu tên bất kỳ nhà cung cấp bộ nhớ nào cho chipset mới, nhưng các đối thủ cạnh tranh tiềm năng như Micron Technology có thể đã cung cấp bộ nhớ này, theo Tiếng Anh Jagran.

Khi cuộc đua AI tiếp tục diễn ra, chip H200 được thiết kế để đáp ứng nhu cầu cao về hiệu quả tốt hơn và khả năng mạnh mẽ hơn.

Những tên tuổi lớn đang trong quá trình

Microsoft Azure, cơ sở hạ tầng đám mây Oracle, Google Cloud và Amazon Web Services là những nhà cung cấp dịch vụ đám mây ban đầu sẽ cung cấp quyền truy cập vào chip dựa trên H200 vào quý 2024 năm XNUMX. Ngoài ra còn có các nhà cung cấp đám mây AI đặc biệt Lambda, CoreWeave và Vultr.

Dion Harris, người đứng đầu bộ phận tiếp thị sản phẩm trung tâm dữ liệu tại Nvidia, đã được trích dẫn như nói.

Theo nhà sản xuất chip, H200 mới sẽ dẫn đến “tăng hiệu suất bao gồm việc tăng gần gấp đôi tốc độ nhiễu trên Llama 2 của Meta”.

Ngoài ra đọc: Triển lãm nhập khẩu quốc tế Trung Quốc trưng bày các thiết bị AI và Metaverse

Điều quan trọng

H200 mới xuất hiện giữa lúc Mỹ hạn chế xuất khẩu về chip cao cấp, điều này có thể ảnh hưởng đến gã khổng lồ sản xuất chip.

Điều này xảy ra khi ước tính khoảng 20% ​​đến 25% doanh thu trung tâm dữ liệu của Nvidia đến từ Trung Quốc. Nhưng công ty có tạm dừng đơn đặt hàng chip AI mới khỏi nền kinh tế châu Á và chuyển hướng hệ thống của mình sang các thị trường khác.

Sau thông báo về chipset H200, cổ phiếu của Nvidia đã tăng tới 1.5%, đạt 486 USD vào ngày 13 tháng 12, thấp hơn 502 USD so với mức cao nhất mọi thời đại là XNUMX USD.

Tính từ đầu năm đến nay, số lượt truy cập đã tăng hơn 250%. Quỹ đạo tăng trưởng của công ty cũng vẫn mạnh mẽ và dự kiến ​​doanh thu sẽ là 16 tỷ USD trong quý tài chính thứ ba, tức là khoảng tăng %% so với năm trước.

Nvidia kiểm soát khoảng 80% thị trường toàn cầu cho chip AI. Các công ty như OpenAI và Stability AI của nhà sản xuất ChatGPT phụ thuộc rất nhiều vào công nghệ Nvidia.

[Nhúng nội dung]

Dấu thời gian:

Thêm từ MetaNews