Nvidia เปิดตัว 'H200' พร้อมความสามารถ AI ขั้นสูง

ผู้ผลิตชิป Nvidia ได้เปิดตัวชิปเซ็ต H200 ซึ่งจะเพิ่มประสิทธิภาพสำหรับโมเดลภาษาขนาดใหญ่ (LLM) และจัดการกับระบบ AI ที่ใหญ่กว่า

ชิปตัวใหม่นี้เป็นการอัพเกรดที่สำคัญจาก H100 โดยมีความเร็วประสิทธิภาพเกือบสองเท่าและความสามารถที่สูงกว่า Nvidia ระบุว่าชิปที่อัปเกรดแล้วจะเริ่มเปิดตัวในปี 2024

เฉพาะ

ชิปตัวใหม่จะเข้ามาแทนที่กระแส H100 ชิปเซ็ตที่มีการอัพเกรดครั้งใหญ่โดยเฉพาะหน่วยความจำแบนด์วิธสูงซึ่งเป็นองค์ประกอบสำคัญที่กำหนดความเร็วในการประมวลผลข้อมูล

H200 มาในรูปแบบของหน่วยความจำ กลายเป็น GPU ตัวแรก ที่จะมาพร้อมเทคโนโลยี HBM3e มันถูกฝังด้วยหน่วยความจำ 141 GB ที่ 4.8 เทราไบต์ต่อวินาที ซึ่งมากกว่ามาก H100 พร้อมความจุ 80 GB.

ตามที่ Nvidiaพื้นที่หน่วยความจำที่ใหญ่ขึ้นและองค์ประกอบการประมวลผลความเร็วสูงมีไว้เพื่อให้การตอบสนองจากบริการ AI ดีขึ้นและเร็วขึ้น

Nvidia ไม่ได้ระบุชื่อผู้จำหน่ายหน่วยความจำสำหรับชิปเซ็ตใหม่ แต่คู่แข่งที่เป็นไปได้ เช่น Micron Technology อาจเป็นผู้จัดเตรียมหน่วยความจำดังกล่าว ภาษาอังกฤษ Jagran.

ในขณะที่การแข่งขัน AI ยังคงดำเนินต่อไป ชิป H200 ได้รับการออกแบบมาเพื่อตอบสนองความต้องการที่สูงในด้านประสิทธิภาพที่ดีขึ้นและความสามารถที่แข็งแกร่งยิ่งขึ้น

ด้วยสถาปัตยกรรม NVIDIA Hopper นั้น NVIDIA HGX H200 นำเสนอ NVIDIA H200 Tensor Core GPU พร้อมหน่วยความจำขั้นสูงเพื่อจัดการข้อมูลจำนวนมหาศาลสำหรับ AI เชิงสร้างสรรค์และ #เอชพีซี ปริมาณงาน #SC23

— ศูนย์ข้อมูล NVIDIA (@NVIDIADC) November 13, 2023

ชื่อใหญ่ในไปป์ไลน์

Microsoft Azure, โครงสร้างพื้นฐานคลาวด์ของ Oracle, Google Cloud และ Amazon Web Services รวมกันเป็นผู้ให้บริการคลาวด์กลุ่มแรกๆ ที่จะเสนอการเข้าถึงชิปที่ใช้ H200 ในไตรมาสที่สองของปี 2024 นอกเหนือจากผู้ให้บริการคลาวด์ AI เฉพาะทางอย่าง Lambda, CoreWeave และวัลเตอร์

“เมื่อคุณดูสิ่งที่เกิดขึ้นในตลาด ขนาดของแบบจำลองกำลังขยายตัวอย่างรวดเร็ว... เราอีกคนยังคงแนะนำเทคโนโลยีใหม่ล่าสุดและยิ่งใหญ่ที่สุดอย่างรวดเร็วอย่างต่อเนื่อง” Dion Harris หัวหน้าฝ่ายการตลาดผลิตภัณฑ์ศูนย์ข้อมูลที่ nvidia, ถูกยกมาเป็นคำพูด

ตามที่ผู้ผลิตชิประบุ H200 ใหม่จะนำไปสู่ ​​"การเพิ่มประสิทธิภาพซึ่งจะรวมถึงความเร็วในการรบกวนของ Meta's Llama 2 เกือบสองเท่า"

อ่านเพิ่มเติม: China International Import Expo จัดแสดงอุปกรณ์ AI และ Metaverse

ความสำคัญ

H200 ใหม่มาท่ามกลาง ข้อจำกัดการส่งออกของสหรัฐฯ บนชิประดับไฮเอนด์ซึ่งอาจส่งผลกระทบต่อบริษัทยักษ์ใหญ่ด้านการผลิตชิปได้

โดยรายได้ประมาณ 20% ถึง 25% ของศูนย์ข้อมูลของ Nvidia มาจากประเทศจีน แต่บริษัทก็มี หยุดคำสั่งซื้อชิป AI ใหม่ชั่วคราว จากเศรษฐกิจเอเชียและเปลี่ยนเส้นทางระบบไปยังตลาดอื่น

หลังจากการประกาศชิปเซ็ต H200 หุ้นของ Nvidia เพิ่มขึ้นมากถึง 1.5% แตะ 486 ดอลลาร์ในวันที่ 13 พฤศจิกายน ซึ่งเท่ากับ 12 ดอลลาร์จากระดับสูงสุดตลอดกาลที่ 502 ดอลลาร์

เมื่อเทียบเป็นรายปี เคาน์เตอร์ได้เพิ่มขึ้นมากกว่า 250% วิถีการเติบโตของบริษัทยังคงแข็งแกร่งเช่นกัน และคาดว่าจะมีรายรับ 16 ล้านดอลลาร์สำหรับไตรมาสที่ XNUMX ของปีงบประมาณซึ่งประมาณ เพิ่มขึ้น 170% ปีที่แล้ว

Nvidia ควบคุมประมาณ 80% ของ ตลาดโลก สำหรับชิป AI บริษัทต่างๆ เช่น OpenAI ผู้สร้าง ChatGPT และ Stability AI พึ่งพาเทคโนโลยีของ Nvidia เป็นอย่างมาก

[เนื้อหาฝัง]

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ที่มา: https://metanews.com/nvidia-unveils-h200-with-advanced-ai-capabilities/