Розвиток Ethernet припинить лідерство InfiniBand у мережах ШІ

Розвиток Ethernet припинить лідерство InfiniBand у мережах ШІ

Розвиток Ethernet припинить лідерство InfiniBand у мережах ШІ PlatoBlockchain Data Intelligence. Вертикальний пошук. Ai.

Три неминучі вдосконалення стандарту Ethernet зроблять його кращою альтернативою для робочих навантажень ШІ, і це призведе до того, що постачальники підтримають цю технологію як альтернативу набору InfiniBand від Nvidia, який буде домінувати протягом наступних двох років.

Це думка аналітичної компанії Gartner у матеріалі, опублікованому цього тижня під назвою «Нові технології: провідні тенденції в мережах для Generative AI». Стаття, написана директором-аналітиком Анушрі Верма, членом групи нових технологій і тенденцій Gartner, передбачає, що впровадження InfiniBand серед постачальників технологій, таких як постачальники та хмари, досягне приблизно 25 відсотків до 2026 року та залишиться на цьому рівні.

Цього року Ethernet досягне такого ж рівня впровадження серед провайдерів, а потім прискориться до такого рівня, що за десятиліття його пропонуватимуть понад вісімдесят відсотків провайдерів.

Цей перехід постачальників технологій означатиме, що до 2028 року 45 відсотків робочих навантажень Gen AI працюватимуть через Ethernet – порівняно з менш ніж 20 відсотками зараз.

Розмах настане, оскільки Ethernet покращується. Наразі Gartner оцінює його як «неідеальний» для навчання штучному інтелекту, але Верма виділила три інновації, які, на її думку, зроблять Ethernet гідним — навіть кращим — суперником проти InfiniBand:

  • RDMA через конвергентний Ethernet (RoCE) – забезпечує прямий доступ до пам’яті між пристроями через Ethernet, підвищуючи продуктивність і зменшуючи використання ЦП;
  • Lossless Ethernet – забезпечить розширене керування потоком, покращене керування перевантаженнями, покращення хешування, буферизацію та вдосконалену телеметрію потоку, що покращує можливості сучасних комутаторів;
  • Специфікація Консорціуму Ultra Ethernet (UEC) у 2024 році – розроблена спеціально для підтримки штучного інтелекту Ethernet.

Оскільки Ethernet відкритий, Verma очікує, що багато постачальників запровадять три згадані вище інновації, надаючи покупцям вибір і створюючи конкуренцію.

InfiniBand, навпаки, дорожчий за Ethernet і залишатиметься таким протягом п’яти років. Verna вважає, що він «має обмеження щодо масштабованості та потребує спеціальних навичок для керування», що означає, що деякі розробники мереж уникають його, якщо воно стає некерованим.

Тим не менш, вона передбачила, що 30 відсотків генеративних робочих навантажень ШІ працюватимуть на InfiniBand – порівняно з менш ніж 20 відсотками сьогодні.

Це зростання буде затьмарене зростанням кількості оптичних з’єднань у мережах, які використовуються для передачі генеративного трафіку ШІ. Верна виявив, що сьогодні міжмережі використовують менше одного відсотка мереж, які використовуються для роботи ШІ, але прогнозував, що до 25 року цей показник зросте до 2030 відсотків.

Вона попередила, що, хоча ця технологія має великих прихильників, таких як Intel, TSMC і HPE, вона не набуде широкого застосування до 2028 року. Коли вона стане зрілою, користувачі можуть очікувати, що вона покращить масштабованість обчислювальних кластерів понад 100 Тбіт/с, а також вимагає менше енергії, ніж електричне перемикання.

PCIe також зростає, і Gartner очікує, що в об’єднанні з серверами, які використовують його для спільного використання пам’яті по шині за допомогою специфікації CXL, обидва стануть поширеними в робочих навантаженнях ШІ.

Знову ж таки, Верна прогнозує, що поширення буде поширене через кілька років: CXL дебютував на початку 2023 року, і вона вважає, що серйозне впровадження почнеться в 2026 році – тоді ж, як вона очікує, впровадження PCIe 6.0 наростить.

Verna рекомендує користувачам «оцінити можливості раннього впровадження, щоб отримати конкурентну перевагу, налагодивши партнерські відносини з провідними постачальниками технологій на етапі проектування», а також переконатися, що вони розуміють технології, описані вище.

А для тих, хто розглядає InfiniBand, вона написала, що необхідно буде «переоцінити вибір мережі щодо продуктивності, надійності, масштабованості та ціни, оцінивши комутатори на основі InfiniBand проти комутаторів на основі Ultra-Ethernet». ®

Часова мітка:

Більше від Реєстр