Os avanços da Ethernet acabarão com a liderança da InfiniBand em redes de IA

Os avanços da Ethernet acabarão com a liderança da InfiniBand em redes de IA

Os avanços da Ethernet acabarão com a liderança da InfiniBand em redes de IA PlatoBlockchain Data Intelligence. Pesquisa vertical. Ai.

Três melhorias iminentes no padrão Ethernet o tornarão uma alternativa melhor para hospedar cargas de trabalho de IA, e isso fará com que os fornecedores apoiem a tecnologia como uma alternativa ao kit InfiniBand da Nvidia, que deverá dominar nos próximos dois anos.

Essa é a opinião da empresa de análise Gartner em artigo publicado esta semana intitulado “Tecnologia emergente: principais tendências em redes para IA generativa”. Escrito pelo analista-diretor Anushree Verma, membro do grupo de Tecnologias e Tendências Emergentes do Gartner, o artigo prevê que a adoção da InfiniBand entre provedores de tecnologia, como fornecedores e nuvens, atingirá cerca de 25% até 2026 e permanecerá lá.

A Ethernet alcançará a mesma taxa de adoção pelos provedores naquele ano e depois acelerará até o ponto em que será oferecida por mais de oitenta por cento dos provedores em uma década.

Essa mudança por parte dos fornecedores de tecnologia significará que, até 2028, 45% das cargas de trabalho da Geração AI serão executadas em Ethernet – acima dos menos de 20% atuais.

A mudança virá porque a Ethernet está melhorando. O Gartner atualmente a classifica como “não ideal” para treinamento em IA, mas Verma destacou três inovações que ela acredita que farão da Ethernet um concorrente digno – até mesmo superior – contra o InfiniBand:

  • RDMA over Converged Ethernet (RoCE) – permitirá acesso direto à memória entre dispositivos via Ethernet, melhorando o desempenho e reduzindo a utilização da CPU;
  • Ethernet sem perdas – trará controle de fluxo avançado, tratamento aprimorado de congestionamento, melhorias de hashing, buffer e telemetria de fluxo avançada que aprimoram os recursos dos switches modernos;
  • Especificação do Ultra Ethernet Consortium (UEC) em 2024 – projetada especificamente para tornar a Ethernet AI pronta.

Como a Ethernet é aberta, Verma espera que muitos fornecedores implementem as três inovações mencionadas acima, dando escolha aos compradores e criando concorrência.

A InfiniBand, por outro lado, é mais cara que a Ethernet e assim permanecerá por cinco anos. Verna acredita que “tem limitações de escalabilidade e requer habilidades especiais para gerenciar”, o que significa que alguns projetistas de rede o evitam caso se torne uma complexidade incontrolável.

Mesmo assim, ela previu que 30% das cargas de trabalho generativas de IA serão executadas no InfiniBand – acima dos menos de 20% atuais.

Esse crescimento será ofuscado pelo aumento das interconexões ópticas em redes utilizadas para transportar tráfego generativo de IA. Verna descobriu que menos de um por cento das redes usadas para cargas de trabalho de IA empregam interconexões atualmente, mas previu que esse número aumentará para 25 por cento até 2030.

Ela alertou que, embora a tecnologia tenha grandes patrocinadores – como Intel, TSMC e HPE – ela não se tornará amplamente utilizada até por volta de 2028. Assim que amadurecer, os usuários podem esperar que ela melhore a escalabilidade dos clusters de computação além de 100 Tbit/s, enquanto também exigindo menos energia do que a comutação elétrica.

O PCIe também está em ascensão e, quando combinado com servidores que o utilizam para compartilhar memória no barramento usando a especificação CXL, o Gartner espera que ambos se tornem predominantes nas cargas de trabalho de IA.

Mais uma vez, Verna prevê que a aceitação ainda demorará alguns anos: o CXL estreou no início de 2023 e ela sente que a adoção séria começará em 2026 – ao mesmo tempo em que ela espera que a implementação do PCIe 6.0 aumente.

Verna recomenda que os usuários “avaliem as oportunidades de adoção antecipada para obter vantagem competitiva, estabelecendo parcerias na fase de design com os principais fornecedores de tecnologia” e, caso contrário, certifique-se de que entendem as tecnologias descritas acima.

E para aqueles que contemplam o InfiniBand, ela escreveu que será necessário “reavaliar as opções de rede em termos de desempenho, confiabilidade, escalabilidade e preço, avaliando os switches baseados em InfiniBand versus os switches baseados em Ultra-Ethernet”. ®

Carimbo de hora:

Mais de O registro