I progressi di Ethernet metteranno fine al vantaggio di InfiniBand nelle reti AI

I progressi di Ethernet metteranno fine al vantaggio di InfiniBand nelle reti AI

Timestamp: 4 aprile 2024 8:32
I progressi di Ethernet metteranno fine al vantaggio di InfiniBand nelle reti AI PlatoBlockchain Data Intelligence. Ricerca verticale. Ai.

Tre imminenti miglioramenti allo standard Ethernet lo renderanno un'alternativa migliore per ospitare carichi di lavoro AI e ciò vedrà i fornitori sostenere la tecnologia come alternativa al kit InfiniBand di Nvidia, che è destinato a dominare per i prossimi due anni.

Questa è l'opinione della società di analisi Gartner in un articolo pubblicato questa settimana intitolato "Emerging Tech: Top Trends in Networking for Generative AI". Scritto dal direttore analista Anushree Verma, membro del gruppo Emerging Technologies and Trends di Gartner, il documento prevede che l'adozione di InfiniBand tra i fornitori di tecnologia come fornitori e cloud raggiungerà circa il 25% entro il 2026 e rimarrà tale.

Ethernet raggiungerà lo stesso tasso di adozione da parte dei provider in quell’anno, per poi accelerare fino al punto in cui verrà offerta da oltre l’80% dei provider in un decennio.

Questo cambiamento da parte dei fornitori di tecnologia significherà che entro il 2028, il 45% dei carichi di lavoro di Gen AI verranno eseguiti su Ethernet, rispetto a meno del 20% attuale.

La svolta arriverà perché Ethernet sta migliorando. Gartner attualmente lo considera "non ideale" per la formazione sull'intelligenza artificiale, ma Verma ha evidenziato tre innovazioni che, a suo avviso, renderanno Ethernet un degno, se non superiore, contendente contro InfiniBand:

  • RDMA over Converged Ethernet (RoCE) – consentirà l'accesso diretto alla memoria tra dispositivi su Ethernet, migliorando le prestazioni e riducendo l'utilizzo della CPU;
  • Lossless Ethernet: porterà controllo avanzato del flusso, migliore gestione della congestione, miglioramenti dell'hashing, buffering e telemetria del flusso avanzata che migliorano le capacità degli switch moderni;
  • Le specifiche dell'Ultra Ethernet Consortium (UEC) nel 2024, progettate specificamente per rendere Ethernet pronto per l'intelligenza artificiale.

Poiché Ethernet è aperta, Verma prevede che molti fornitori implementeranno le tre innovazioni sopra menzionate, offrendo agli acquirenti scelta e creando concorrenza.

InfiniBand, al contrario, è più costoso di Ethernet e rimarrà tale per cinque anni. Verna ritiene che "presenti limiti di scalabilità e richieda competenze speciali per la gestione", il che significa che alcuni progettisti di rete lo evitano nel caso in cui diventi una complessità ingestibile.

Ciononostante ha previsto che il 30% dei carichi di lavoro di intelligenza artificiale generativa verrà eseguito su InfiniBand, rispetto a meno del 20% di oggi.

Tale crescita sarà sminuita dall’aumento delle interconnessioni ottiche nelle reti utilizzate per trasportare il traffico AI generativo. Verna ha scoperto che oggi meno dell’25% delle reti utilizzate per i carichi di lavoro dell’intelligenza artificiale utilizza le interconnessioni, ma prevede che la percentuale salirà al 2030% entro il XNUMX.

Ha avvertito che, sebbene la tecnologia abbia grandi sostenitori – come Intel, TSMC e HPE – non sarà ampiamente utilizzata fino al 2028 circa. Una volta maturata, gli utenti possono aspettarsi che migliorerà la scalabilità dei cluster di elaborazione oltre i 100 Tbit/sec, mentre richiedendo inoltre meno energia rispetto alla commutazione elettrica.

Anche PCIe è in aumento e, se abbinato a server che lo utilizzano per condividere la memoria sul bus utilizzando le specifiche CXL, Gartner prevede che entrambi diventeranno prevalenti nei carichi di lavoro AI.

Ancora una volta, Verna prevede che l’adozione avverrà tra qualche anno: CXL ha debuttato all’inizio del 2023 e ritiene che l’adozione seria inizierà nel 2026, nello stesso periodo in cui si aspetta che l’implementazione di PCIe 6.0 aumenti.

Verna consiglia agli utenti di "Valutare le opportunità di adozione precoce per ottenere un vantaggio competitivo stabilendo partnership in fase di progettazione con i principali fornitori di tecnologia" e di assicurarsi altrimenti di comprendere le tecnologie sopra descritte.

E per coloro che stanno pensando a InfiniBand, ha scritto che sarà necessario “rivalutare le scelte di rete in termini di prestazioni, affidabilità, scalabilità e prezzo valutando gli switch basati su InfiniBand rispetto agli switch basati su Ultra-Ethernet”. ®

Timestamp:

Di più da Il registro