ความก้าวหน้าของอีเทอร์เน็ตจะยุติการเป็นผู้นำของ InfiniBand ในด้านเครือข่าย AI

ความก้าวหน้าของอีเธอร์เน็ตจะยุติการเป็นผู้นำของ InfiniBand ในด้านเครือข่าย AI

ประทับเวลา: 4 เมษายน 2024 8:32 น
Ethernet advances will end InfiniBand's lead in AI nets PlatoBlockchain Data Intelligence. Vertical Search. Ai.

การปรับปรุงมาตรฐานอีเทอร์เน็ตที่กำลังจะเกิดขึ้นสามประการจะทำให้เป็นทางเลือกที่ดีกว่าในการโฮสต์เวิร์กโหลด AI และจะเห็นผู้จำหน่ายสนับสนุนเทคโนโลยีนี้เป็นทางเลือกแทนชุด InfiniBand ของ Nvidia ซึ่งถูกกำหนดให้ครองในอีกสองปีข้างหน้า

นั่นคือความเห็นของบริษัทวิเคราะห์ Gartner ในบทความที่ตีพิมพ์ในสัปดาห์นี้ในหัวข้อ “เทคโนโลยีเกิดใหม่: เทรนด์ยอดนิยมในเครือข่ายสำหรับ Generative AI” รายงานฉบับนี้เขียนโดย Anushree Verma ผู้อำนวยการนักวิเคราะห์ ซึ่งเป็นสมาชิกของกลุ่ม Emerging Technologies and Trends ของ Gartner โดยคาดการณ์ว่าการนำ InfiniBand มาใช้ในหมู่ผู้ให้บริการเทคโนโลยี เช่น ผู้จำหน่ายและระบบคลาวด์ จะสูงถึงประมาณ 25 เปอร์เซ็นต์ภายในปี 2026 และจะยังคงอยู่ที่นั่น

อีเทอร์เน็ตจะบรรลุอัตราการนำไปใช้แบบเดียวกันโดยผู้ให้บริการในปีนั้น จากนั้นจะเร่งไปสู่จุดที่ผู้ให้บริการมากกว่าแปดสิบเปอร์เซ็นต์นำเสนอในหนึ่งทศวรรษ

การเปลี่ยนแปลงดังกล่าวโดยผู้ให้บริการเทคโนโลยีจะทำให้ภายในปี 2028 ปริมาณงาน Gen AI 45 เปอร์เซ็นต์จะทำงานบนอีเทอร์เน็ต เพิ่มขึ้นจากปัจจุบันที่น้อยกว่า 20 เปอร์เซ็นต์

การแกว่งจะเกิดขึ้นเนื่องจาก Ethernet กำลังปรับปรุง ปัจจุบัน Gartner ให้คะแนนว่า "ไม่เหมาะ" สำหรับการฝึกอบรม AI แต่ Verma เน้นย้ำถึงนวัตกรรม 3 ประการที่เธอรู้สึกว่าจะทำให้ Ethernet มีคุณค่าและเหนือกว่าคู่แข่งกับ InfiniBand:

  • RDMA บน Converged Ethernet (RoCE) – จะช่วยให้สามารถเข้าถึงหน่วยความจำโดยตรงระหว่างอุปกรณ์ผ่าน Ethernet ปรับปรุงประสิทธิภาพและลดการใช้งาน CPU
  • Lossless Ethernet – จะนำการควบคุมการไหลขั้นสูง การจัดการความแออัดที่ได้รับการปรับปรุง การปรับปรุงแฮช การบัฟเฟอร์ และการวัดและส่งข้อมูลทางไกลขั้นสูงที่ปรับปรุงความสามารถของสวิตช์สมัยใหม่
  • ข้อมูลจำเพาะของ Ultra Ethernet Consortium (UEC) ในปี 2024 ซึ่งได้รับการออกแบบมาโดยเฉพาะเพื่อให้พร้อมสำหรับ Ethernet AI

เนื่องจากอีเธอร์เน็ตเปิดกว้าง Verma จึงคาดว่าซัพพลายเออร์หลายรายจะนำนวัตกรรมทั้งสามอย่างที่กล่าวมาข้างต้นมาใช้ ซึ่งจะทำให้ผู้ซื้อมีทางเลือกและสร้างการแข่งขัน

ในทางตรงกันข้าม InfiniBand มีราคาแพงกว่าอีเธอร์เน็ต และจะยังคงเป็นเช่นนั้นเป็นเวลาห้าปี Verna เชื่อว่า “มีข้อจำกัดในการขยายขนาดและต้องใช้ทักษะพิเศษในการจัดการ” ซึ่งหมายความว่านักออกแบบเครือข่ายบางรายหลีกเลี่ยงในกรณีที่กลายเป็นความซับซ้อนที่ไม่สามารถจัดการได้

อย่างไรก็ตาม เธอคาดการณ์ว่า 30 เปอร์เซ็นต์ของปริมาณงาน AI ทั่วไปจะทำงานบน InfiniBand เพิ่มขึ้นจากน้อยกว่า 20 เปอร์เซ็นต์ในปัจจุบัน

การเติบโตดังกล่าวจะถูกจำกัดด้วยการเพิ่มขึ้นของการเชื่อมต่อแบบออปติกในเครือข่ายที่ใช้ในการรับส่งข้อมูล AI แบบกำเนิด Verna พบว่าเครือข่ายที่ใช้สำหรับเวิร์กโหลด AI ไม่ถึงหนึ่งเปอร์เซ็นต์ใช้การเชื่อมต่อถึงกันในปัจจุบัน แต่คาดการณ์ว่าจะเพิ่มขึ้นเป็น 25 เปอร์เซ็นต์ภายในปี 2030

เธอเตือนว่าแม้ว่าเทคโนโลยีจะมีผู้สนับสนุนรายใหญ่ เช่น Intel, TSMC และ HPE แต่เทคโนโลยีดังกล่าวจะไม่ถูกนำมาใช้อย่างแพร่หลายจนกว่าจะประมาณปี 2028 เมื่อเทคโนโลยีเติบโตเต็มที่ ผู้ใช้สามารถคาดหวังได้ว่าเทคโนโลยีนี้จะปรับปรุงความสามารถในการปรับขนาดของคลัสเตอร์การประมวลผลที่เกิน 100Tbit/วินาที ในขณะที่ ยังต้องการพลังงานน้อยกว่าสวิตช์ไฟฟ้า

PCIe ก็มีจำนวนเพิ่มมากขึ้นเช่นกัน และเมื่อร่วมมือกับเซิร์ฟเวอร์ที่ใช้เพื่อแชร์หน่วยความจำข้ามบัสโดยใช้ข้อมูลจำเพาะ CXL Gartner คาดว่าทั้งสองอย่างจะแพร่หลายในเวิร์กโหลด AI

ขอย้ำอีกครั้งว่า Verna คาดการณ์ว่าจะเกิดขึ้นในอีกไม่กี่ปีข้างหน้า CXL เปิดตัวในต้นปี 2023 และเธอรู้สึกว่าการใช้งานอย่างจริงจังจะเริ่มในปี 2026 ซึ่งเป็นเวลาเดียวกับที่เธอคาดหวังว่าการนำ PCIe 6.0 ไปใช้จะเพิ่มขึ้น

Verna แนะนำให้ผู้ใช้ควร “ประเมินโอกาสในการนำไปใช้ตั้งแต่เนิ่นๆ เพื่อความได้เปรียบทางการแข่งขันโดยการสร้างความร่วมมือในขั้นตอนการออกแบบกับผู้ให้บริการเทคโนโลยีชั้นนำ” มิฉะนั้นต้องแน่ใจว่าพวกเขาเข้าใจเทคโนโลยีที่สรุปไว้ข้างต้น

และสำหรับผู้ที่ใคร่ครวญ InfiniBand เธอเขียนว่ามีความจำเป็นที่จะต้อง “ประเมินตัวเลือกเครือข่ายอีกครั้งในด้านประสิทธิภาพ ความน่าเชื่อถือ ความสามารถในการขยายขนาด และราคา โดยการประเมินสวิตช์ที่ใช้ InfiniBand เทียบกับสวิตช์ที่ใช้ Ultra-Ethernet”

ประทับเวลา:

เพิ่มเติมจาก ลงทะเบียน