Развитие Ethernet положит конец лидерству InfiniBand в сетях искусственного интеллекта

Развитие Ethernet положит конец лидерству InfiniBand в сетях искусственного интеллекта

Развитие Ethernet положит конец лидерству InfiniBand в области искусственного интеллекта PlatoBlockchain Data Intelligence. Вертикальный поиск. Ай.

Три неизбежных улучшения стандарта Ethernet сделают его лучшей альтернативой хостовым рабочим нагрузкам искусственного интеллекта, и это заставит поставщиков поддержать эту технологию в качестве альтернативы комплекту InfiniBand от Nvidia, который будет доминировать в течение следующих двух лет.

Таково мнение аналитической компании Gartner в статье, опубликованной на этой неделе под названием «Новые технологии: основные тенденции в сетевых технологиях для генеративного искусственного интеллекта». В документе, написанном директором-аналитиком Анушри Верма, членом группы новых технологий и тенденций Gartner, прогнозируется, что распространение InfiniBand среди поставщиков технологий, таких как поставщики и облачные сервисы, достигнет примерно 25 процентов к 2026 году и останется на этом уровне.

Ethernet достигнет такого же уровня внедрения провайдерами в этом году, а затем ускорится до точки, когда его будут предлагать более восьмидесяти процентов провайдеров за десятилетие.

Этот сдвиг со стороны поставщиков технологий будет означать, что к 2028 году 45 процентов рабочих нагрузок поколения ИИ будут работать через Ethernet — по сравнению с менее чем 20 процентами сейчас.

Качание произойдет, потому что Ethernet совершенствуется. В настоящее время Gartner оценивает его как «неидеальный» для обучения ИИ, но Верма выделила три инновации, которые, по ее мнению, сделают Ethernet достойным – даже превосходящим – соперником InfiniBand:

  • RDMA через Converged Ethernet (RoCE) — обеспечивает прямой доступ к памяти между устройствами через Ethernet, повышая производительность и снижая загрузку ЦП;
  • Ethernet без потерь – обеспечит расширенное управление потоком, улучшенную обработку перегрузок, улучшения хеширования, буферизации и расширенную телеметрию потока, которые расширяют возможности современных коммутаторов;
  • Спецификация Консорциума Ultra Ethernet (UEC) в 2024 году, разработанная специально для обеспечения готовности Ethernet к искусственному интеллекту.

Поскольку Ethernet открыт, Верма ожидает, что многие поставщики реализуют три упомянутые выше инновации, предоставляя покупателям выбор и создавая конкуренцию.

InfiniBand, напротив, дороже Ethernet и останется таковым в течение пяти лет. Верна считает, что он «имеет ограничения по масштабируемости и требует специальных навыков для управления», а это означает, что некоторые проектировщики сетей избегают его на случай, если он станет неуправляемой сложностью.

Тем не менее она прогнозирует, что 30 процентов рабочих нагрузок генеративного ИИ будут выполняться на InfiniBand — по сравнению с менее чем 20 процентами сегодня.

Этот рост будет затмеваться ростом оптических соединений в сетях, используемых для передачи генеративного трафика ИИ. Верна обнаружил, что сегодня менее одного процента сетей, используемых для рабочих нагрузок ИИ, используют межсоединения, но прогнозирует, что к 25 году этот показатель вырастет до 2030 процентов.

Она предупредила, что, хотя у этой технологии есть большие сторонники, такие как Intel, TSMC и HPE, она не станет широко использоваться примерно до 2028 года. также требует меньше энергии, чем электрическое переключение.

PCIe также находится на подъеме, и в сочетании с серверами, которые используют его для совместного использования памяти по шине с использованием спецификации CXL, Gartner ожидает, что оба варианта станут преобладающими в рабочих нагрузках искусственного интеллекта.

Опять же, Верна предсказывает, что внедрение произойдет через несколько лет: CXL дебютировал в начале 2023 года, и она считает, что серьезное внедрение начнется в 2026 году – в то же время, когда она ожидает, что внедрение PCIe 6.0 будет набирать обороты.

Верна рекомендует пользователям «оценить возможности раннего внедрения, чтобы получить конкурентное преимущество путем установления партнерских отношений на этапе проектирования с ведущими поставщиками технологий», а также убедиться, что они понимают технологии, изложенные выше.

А тем, кто рассматривает возможность использования InfiniBand, она написала, что необходимо «переоценить выбор сетевых решений с точки зрения производительности, надежности, масштабируемости и цены, сравнивая коммутаторы на базе InfiniBand с коммутаторами на базе Ultra-Ethernet». ®

Отметка времени:

Больше от Регистр