Ethernet-fremskridt vil afslutte InfiniBands førende inden for AI-net

Tre forestående forbedringer til Ethernet-standarden vil gøre den til et bedre alternativ til at være vært for AI-arbejdsbelastninger, og det vil se leverandørerne støtte teknologien som et alternativ til Nvidias InfiniBand-kit, som er sat til at dominere de næste to år.

Det mener analytikerfirmaet Gartner i et stykke offentliggjort i denne uge med titlen "Emerging Tech: Top Trends in Networking for Generative AI." Skrevet af direktøranalytiker Anushree Verma, et medlem af Gartners Emerging Technologies and Trends-gruppe, forudser avisen, at InfiniBand-adoption blandt teknologiudbydere som leverandører og skyer vil nå omkring 25 procent i 2026 og blive der.

Ethernet vil opnå den samme vedtagelseshastighed af udbydere i det år, og derefter accelerere til det punkt, hvor det tilbydes af over firs procent af udbyderne i løbet af et årti.

Det skift af teknologiudbydere vil betyde, at i 2028 vil 45 procent af Gen AI-arbejdsbelastningen køre på Ethernet – op fra mindre end 20 procent nu.

Udsvinget vil komme, fordi Ethernet bliver bedre. Gartner vurderer det i øjeblikket som "ikke ideelt" til AI-træning, men Verma fremhævede tre innovationer, som hun mener vil gøre Ethernet til en værdig – endda overlegen – udfordrer mod InfiniBand:

• RDMA over Converged Ethernet (RoCE) – giver mulighed for direkte hukommelsesadgang mellem enheder over Ethernet, hvilket forbedrer ydeevnen og reducerer CPU-udnyttelsen;
• Lossless Ethernet – vil bringe avanceret flowkontrol, forbedret overbelastningshåndtering, hashing-forbedringer, buffering og avanceret flowtelemetri, der forbedrer mulighederne for moderne switches;
• Ultra Ethernet Consortiums (UEC) spec i 2024 – designet specifikt til at gøre Ethernet AI-klar.

Fordi Ethernet er åbent, forventer Verma, at mange leverandører vil implementere de tre ovennævnte innovationer, hvilket giver køberne valgmuligheder og skaber konkurrence.

InfiniBand er derimod dyrere end Ethernet og vil forblive det i fem år. Verna mener, at det "har skalerbarhedsbegrænsninger og kræver særlige færdigheder at administrere", hvilket betyder, at nogle netværksdesignere undgår det, hvis det bliver en uoverskuelig kompleksitet.

Hun forudsagde ikke desto mindre, at 30 procent af generative AI-arbejdsbelastninger vil køre på InfiniBand – op fra færre end 20 procent i dag.

Denne vækst vil blive forværret af stigningen i optiske sammenkoblinger i netværk, der bruges til at transportere generativ AI-trafik. Verna fandt ud af, at under én procent af de netværk, der bruges til AI-arbejdsbelastninger, anvender sammenkoblingerne i dag, men forudsagde, at det vil stige til 25 procent i 2030.

Hun advarede om, at selvom teknologien har store bagmænd – såsom Intel, TSMC og HPE – vil den ikke blive meget brugt før omkring 2028. Når den først modnes, kan brugerne forvente, at den vil forbedre skalerbarheden af ​​computerklynger ud over 100Tbit/sek. kræver også mindre strøm end elektrisk kobling.

PCIe er også i fremmarch, og når de går sammen med servere, der anvender den til at dele hukommelse på tværs af bussen ved hjælp af CXL-specifikationen, forventer Gartner, at begge vil blive udbredt i AI-arbejdsbelastninger.

Igen forudser Verna, at optagelsen er et par år tilbage: CXL debuterede i begyndelsen af ​​2023, og hun føler, at seriøs adoption vil starte i 2026 - samtidig med at hun forventer, at PCIe 6.0-implementeringen vil stige.

Verna anbefaler, at brugerne bør "evaluere mulighederne for tidlig adoption for at opnå konkurrencefordele ved at etablere partnerskaber på designstadiet med førende teknologiudbydere," og ellers sikre sig, at de forstår de teknologier, der er skitseret ovenfor.

Og for dem, der overvejer InfiniBand, skrev hun, at det vil være nødvendigt at "genoverveje netværksvalg for ydeevne, pålidelighed, skalerbarhed og pris ved at vurdere de InfiniBand-baserede switche versus Ultra-Ethernet-baserede switche." ®

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
• PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
• PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
• PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
• Kilde: https://go.theregister.com/feed/www.theregister.com/2024/04/04/gartner_generative_ai_network_trends/