Ethernet-framsteg kommer att göra slut på InfiniBands ledning inom AI-nät

Ethernet-framsteg kommer att göra slut på InfiniBands ledning inom AI-nät

Tidsstämpel: 4 april 2024 8:32
Ethernet-framsteg kommer att avsluta InfiniBands ledning inom AI-nät PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Tre överhängande förbättringar av Ethernet-standarden kommer att göra den till ett bättre alternativ för värdar för AI-arbetsbelastningar, och det kommer att se leverantörer backa upp tekniken som ett alternativ till Nvidias InfiniBand-kit, som kommer att dominera under de kommande två åren.

Det menar analytikerföretaget Gartner i en artikel som publicerades denna vecka med titeln "Emerging Tech: Top Trends in Networking for Generative AI." Skrivet av direktöranalytikern Anushree Verma, en medlem av Gartners Emerging Technologies and Trends-grupp, förutspår tidningen att InfiniBand-antagandet bland teknikleverantörer som leverantörer och moln kommer att nå cirka 25 procent år 2026 och stanna där.

Ethernet kommer att uppnå samma användningsgrad av leverantörer det året och sedan accelerera till den punkt där det erbjuds av över åttio procent av leverantörerna på ett decennium.

Den förändringen av tekniska leverantörer kommer att innebära att 2028 kommer 45 procent av Gen AI-arbetsbelastningen att köras på Ethernet – upp från mindre än 20 procent nu.

Svängningen kommer eftersom Ethernet förbättras. Gartner bedömer det för närvarande som "inte idealiskt" för AI-träning, men Verma lyfte fram tre innovationer som hon anser kommer att göra Ethernet till en värdig – till och med överlägsen – utmanare mot InfiniBand:

  • RDMA over Converged Ethernet (RoCE) – ger direkt minnesåtkomst mellan enheter över Ethernet, förbättrar prestanda och minskar CPU-användning;
  • Förlustfritt Ethernet – kommer att ge avancerad flödeskontroll, förbättrad överbelastningshantering, hashingförbättringar, buffring och avancerad flödestelemetri som förbättrar kapaciteten hos moderna switchar;
  • Ultra Ethernet Consortiums (UEC) spec 2024 – designad speciellt för att göra Ethernet AI-färdigt.

Eftersom Ethernet är öppet förväntar Verma att många leverantörer kommer att implementera de tre innovationerna som nämns ovan, vilket ger köparna valmöjligheter och skapar konkurrens.

InfiniBand, däremot, är dyrare än Ethernet och kommer att förbli så i fem år. Verna anser att det "har skalbarhetsbegränsningar och kräver speciella färdigheter för att hantera", vilket innebär att vissa nätverksdesigners undviker det i fall det blir en ohanterlig komplexitet.

Hon förutspådde ändå att 30 procent av generativa AI-arbetsbelastningar kommer att köras på InfiniBand – upp från färre än 20 procent idag.

Den tillväxten kommer att dvärgas av ökningen av optiska sammankopplingar i nätverk som används för att bära generativ AI-trafik. Verna fann att mindre än en procent av nätverken som används för AI-arbetsbelastningar använder sammankopplingarna idag, men förutspådde att det kommer att stiga till 25 procent år 2030.

Hon varnade för att även om tekniken har stora stödjare – som Intel, TSMC och HPE – kommer den inte att bli allmänt använd förrän runt 2028. När den väl mognar kan användarna förvänta sig att den kommer att förbättra skalbarheten för datorkluster utöver 100 Tbit/sek. kräver också mindre ström än elektrisk omkoppling.

PCIe är också på frammarsch, och när de samarbetas med servrar som använder den för att dela minne över bussen med CXL-specifikationen, förväntar sig Gartner att båda kommer att bli vanliga i AI-arbetsbelastningar.

Återigen förutspår Verna att användningen är några år kvar: CXL debuterade i början av 2023, och hon känner att seriös adoption kommer att börja 2026 – samtidigt som hon förväntar sig att PCIe 6.0-implementeringen kommer att öka.

Verna rekommenderar användare att "Utvärdera möjligheter för tidiga adoptioner för att få konkurrensfördelar genom att etablera partnerskap på designstadiet med ledande teknikleverantörer", och i övrigt se till att de förstår tekniken som beskrivs ovan.

Och för de som överväger InfiniBand skrev hon att det kommer att bli nödvändigt att "omvärdera nätverksval för prestanda, tillförlitlighet, skalbarhet och pris genom att bedöma de InfiniBand-baserade switcharna kontra Ultra-Ethernet-baserade switcharna." ®

Tidsstämpel:

Mer från Registret