Progresele Ethernet vor pune capăt liderului InfiniBand în rețelele AI

Progresele Ethernet vor pune capăt liderului InfiniBand în rețelele AI

Progresele Ethernet vor pune capăt liderului InfiniBand în rețelele AI PlatoBlockchain Data Intelligence. Căutare verticală. Ai.

Trei îmbunătățiri iminente ale standardului Ethernet îl vor face o alternativă mai bună pentru a găzdui încărcăturile de lucru AI, iar acest lucru îi va vedea pe furnizori să susțină tehnologia ca alternativă la kitul InfiniBand de la Nvidia, care va domina în următorii doi ani.

Aceasta este opinia firmei de analiză Gartner într-un articol publicat săptămâna aceasta, intitulat „Tehnologia emergentă: Tendințe de top în rețele pentru IA generativă”. Scris de analistul director Anushree Verma, membru al grupului de tehnologii emergente și tendințe de la Gartner, lucrarea prezice că adoptarea InfiniBand în rândul furnizorilor de tehnologie, cum ar fi furnizorii și cloud-urile, va ajunge la aproximativ 25% până în 2026 și va rămâne acolo.

Ethernet va atinge aceeași rată de adoptare de către furnizori în acel an, apoi va accelera până la punctul în care este oferit de peste optzeci la sută dintre furnizori într-un deceniu.

Această schimbare a furnizorilor de tehnologie va însemna că, până în 2028, 45% din sarcinile de lucru Gen AI vor rula pe Ethernet - în creștere de la mai puțin de 20% acum.

Leagănul va veni pentru că Ethernet se îmbunătățește. Gartner îl consideră în prezent „nu este ideal” pentru formarea AI, dar Verma a evidențiat trei inovații despre care consideră că vor face din Ethernet un candidat demn – chiar superior – împotriva InfiniBand:

  • RDMA over Converged Ethernet (RoCE) – va permite accesul direct la memorie între dispozitive prin Ethernet, îmbunătățind performanța și reducând utilizarea procesorului;
  • Ethernet fără pierderi – va aduce un control avansat al fluxului, o gestionare îmbunătățită a congestiei, îmbunătățiri hashing, buffering și telemetrie avansată a fluxului care îmbunătățesc capacitățile switch-urilor moderne;
  • Specificațiile Ultra Ethernet Consortium (UEC) în 2024 – concepute special pentru a pregăti Ethernet AI.

Deoarece Ethernet este deschis, Verma se așteaptă ca mulți furnizori să implementeze cele trei inovații menționate mai sus, oferind cumpărătorilor posibilitatea de a alege și creând concurență.

InfiniBand, în schimb, este mai scump decât Ethernet și va rămâne așa timp de cinci ani. Verna consideră că „are limitări de scalabilitate și necesită abilități speciale de gestionare”, ceea ce înseamnă că unii designeri de rețea o evită în cazul în care devine o complexitate de negestionat.

Totuși, ea a prezis că 30 la sută din sarcinile de lucru AI generative vor rula pe InfiniBand - în creștere față de mai puțin de 20 la sută în prezent.

Această creștere va fi redusă de creșterea interconexiunilor optice în rețelele utilizate pentru a transporta trafic AI generativ. Verna a descoperit că sub un procent din rețelele utilizate pentru sarcinile de lucru AI folosesc interconexiunile astăzi, dar a estimat că acestea vor crește la 25% până în 2030.

Ea a avertizat că, deși tehnologia are susținători mari – cum ar fi Intel, TSMC și HPE – nu va fi utilizată pe scară largă până în jurul anului 2028. Odată ce se maturizează, utilizatorii se pot aștepta ca aceasta să îmbunătățească scalabilitatea clusterelor de calcul peste 100 Tbit/sec, în timp ce necesită, de asemenea, mai puțină putere decât comutarea electrică.

PCIe este, de asemenea, în creștere, iar atunci când este asociat cu servere care îl folosesc pentru a partaja memorie pe autobuz folosind specificațiile CXL, Gartner se așteaptă ca ambele să devină predominante în sarcinile de lucru AI.

Din nou, Verna prezice că adoptarea este de câțiva ani: CXL a debutat la începutul anului 2023 și crede că adoptarea serioasă va începe în 2026 - în același timp în care se așteaptă ca implementarea PCIe 6.0 să se intensifice.

Verna recomandă utilizatorilor să „evalueze oportunitățile de adoptare timpurie pentru a obține un avantaj competitiv prin stabilirea de parteneriate în faza de proiectare cu furnizori de tehnologie de vârf” și, în caz contrar, să se asigure că înțeleg tehnologiile prezentate mai sus.

Și pentru cei care se gândesc la InfiniBand, ea a scris că va fi necesar să „reevalueze opțiunile de rețea pentru performanță, fiabilitate, scalabilitate și preț prin evaluarea comutatoarelor bazate pe InfiniBand față de comutatoarele bazate pe Ultra-Ethernet”. ®

Timestamp-ul:

Mai mult de la Registrul