Etherneti edusammud lõpetavad InfiniBandi juhtpositsiooni AI võrkudes

Taasavaldanud Platon

järgijaid: 0

Ethernet advances will end InfiniBand's lead in AI nets PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Kolm peatset Etherneti standardi täiustust muudavad selle paremaks alternatiiviks tehisintellekti töökoormuste vastuvõtmiseks ja see tähendab, et müüjad toetavad seda tehnoloogiat alternatiivina Nvidia InfiniBand komplektile, mis peaks domineerima järgmise kahe aasta jooksul.

See on analüütikute firma Gartneri arvamus sel nädalal avaldatud kirjutises pealkirjaga "Emerging Tech: Top Trends in Networking for Generative AI". Gartneri Emerging Technologies and Trends gruppi kuuluva direktoranalüütiku Anushree Verma kirjutatud paberil ennustatakse, et InfiniBandi kasutuselevõtt selliste tehnoloogiapakkujate seas nagu müüjad ja pilved ulatub 25. aastaks umbes 2026 protsendini ja jääb sinna.

Ethernet saavutab sellel aastal pakkujate poolt sama kasutuselevõtumäära, seejärel kiirendab see kümnendi jooksul punktini, kus seda pakub enam kui kaheksakümmend protsenti pakkujatest.

See tehnoloogia pakkujate nihe tähendab, et 2028. aastaks töötab 45 protsenti Gen AI töökoormusest Etherneti kaudu – praegusest vähem kui 20 protsendist.

Kiik tuleb, sest Ethernet paraneb. Gartner hindab seda praegu tehisintellekti koolituse jaoks mitteideaalseks, kuid Verma tõi esile kolm uuendust, mis tema arvates muudavad Etherneti InfiniBandi vastu vääriliseks – isegi parimaks – kandidaadiks:

RDMA konvergeeritud Etherneti kaudu (RoCE) – võimaldab otsest mälu juurdepääsu seadmete vahel Etherneti kaudu, parandades jõudlust ja vähendades protsessori kasutamist;
Kadudeta Ethernet – toob kaasa täiustatud vookontrolli, täiustatud ummikute käsitlemise, räsimise täiustused, puhverdamise ja täiustatud voo telemeetria, mis parandavad kaasaegsete lülitite võimalusi;
Ultra Etherneti konsortsiumi (UEC) spetsifikatsioon 2024. aastal – loodud spetsiaalselt Etherneti tehisintellekti valmisolekuks.

Kuna Ethernet on avatud, loodab Verma, et paljud tarnijad rakendavad kolm ülalmainitud uuendust, mis annavad ostjatele valikuvõimalusi ja loovad konkurentsi.

InfiniBand on seevastu kallim kui Ethernet ja jääb selliseks viieks aastaks. Verna usub, et sellel on mastaapsuse piirangud ja selle haldamine nõuab erioskusi, mis tähendab, et mõned võrgudisainerid väldivad seda juhul, kui see muutub juhitamatuks.

Sellegipoolest ennustas ta, et 30 protsenti generatiivsest tehisintellekti töökoormusest töötab InfiniBandis – praegusest vähem kui 20 protsendist.

Seda kasvu vähendab optiliste ühenduste suurenemine võrkudes, mida kasutatakse generatiivse AI-liikluse edastamiseks. Verna leidis, et praegu kasutab ühendusi vähem kui üks protsent AI töökoormuseks kasutatavatest võrkudest, kuid ennustas, et 25. aastaks kasvab see 2030 protsendini.

Ta hoiatas, et kuigi sellel tehnoloogial on suured toetajad – nagu Intel, TSMC ja HPE –, hakatakse seda laialdaselt kasutama alles 2028. aasta paiku. Kui see valmib, võivad kasutajad eeldada, et see parandab arvutusklastrite skaleeritavust üle 100 Tbit/s. nõuab ka vähem võimsust kui elektriline lülitamine.

PCIe on samuti tõusuteel ja kui see on ühendatud serveritega, mis kasutavad seda CXL-spetsifikatsiooni kasutades kogu siini mälu jagamiseks, eeldab Gartner, et mõlemad muutuvad tehisintellekti töökoormustes valdavaks.

Jällegi ennustab Verna, et kasutuselevõtt on mõne aasta pärast: CXL debüteeris 2023. aasta alguses ja ta tunneb, et tõsine kasutuselevõtt algab 2026. aastal – samal ajal ootab ta PCIe 6.0 juurutamist.

Verna soovitab kasutajatel "hinnata varajase kasutuselevõtu võimalusi, et saada konkurentsieelist, luues projekteerimisetapis partnerlussuhted juhtivate tehnoloogiapakkujatega" ja muul viisil veenduda, et nad mõistavad ülalkirjeldatud tehnoloogiaid.

Ja neile, kes kaaluvad InfiniBandi, kirjutas ta, et on vaja "võrguvalikuid jõudluse, töökindluse, mastaapsuse ja hinna osas ümber hinnata, hinnates InfiniBandi-põhiseid lüliteid võrreldes Ultra-Ethernet-põhiste lülititega." ®