Postęp w sieci Ethernet zakończy wiodącą pozycję InfiniBand w sieciach AI

Postęp w sieci Ethernet zakończy wiodącą pozycję InfiniBand w sieciach AI

Znacznik czasu: 4 kwietnia 2024 8:32
Postęp w sieci Ethernet zakończy wiodącą pozycję InfiniBand w sieciach AI PlatoBlockchain Data Intelligence. Wyszukiwanie pionowe. AI.

Trzy nieuchronne ulepszenia standardu Ethernet sprawią, że stanie się on lepszą alternatywą dla obciążeń AI, co sprawi, że dostawcy poprą tę technologię jako alternatywę dla zestawu InfiniBand firmy Nvidia, który będzie dominował przez następne dwa lata.

Taka jest opinia firmy analitycznej Gartner w opublikowanym w tym tygodniu artykule zatytułowanym „Emerging Tech: Top Trends in Networking for Generative AI”. W artykule, napisanym przez dyrektora-analityka Anushree Vermę, członka grupy Emerging Technologies and Trends firmy Gartner, przewiduje się, że popularność InfiniBand wśród dostawców technologii, takich jak dostawcy i chmury, osiągnie do 25 r. około 2026 procent i pozostanie na tym poziomie.

Ethernet osiągnie w tym roku ten sam wskaźnik przyjęcia przez dostawców, a następnie przyspieszy do punktu, w którym w ciągu dekady będzie oferowany przez ponad osiemdziesiąt procent dostawców.

Ta zmiana dostawców technologii będzie oznaczać, że do 2028 r. 45 procent obciążeń AI generacji będzie działać w sieci Ethernet – w porównaniu z mniej niż 20 procent obecnie.

Zmiana nastąpi, ponieważ Ethernet ulegnie poprawie. Gartner ocenia go obecnie jako „nieidealny” do szkolenia sztucznej inteligencji, ale Verma podkreśliła trzy innowacje, które jej zdaniem sprawią, że Ethernet będzie godnym, a nawet lepszym, konkurentem InfiniBand:

  • RDMA przez Converged Ethernet (RoCE) – umożliwi bezpośredni dostęp do pamięci pomiędzy urządzeniami poprzez Ethernet, poprawiając wydajność i zmniejszając wykorzystanie procesora;
  • Bezstratny Ethernet – zapewni zaawansowaną kontrolę przepływu, lepszą obsługę zatorów, ulepszenia mieszania, buforowanie i zaawansowaną telemetrię przepływu, które poprawiają możliwości nowoczesnych przełączników;
  • Specyfikacja konsorcjum Ultra Ethernet (UEC) w 2024 r. – zaprojektowana specjalnie z myślą o przygotowaniu Ethernetu do sztucznej inteligencji.

Ponieważ Ethernet jest otwarty, Verma spodziewa się, że wielu dostawców wdroży trzy wymienione powyżej innowacje, dając kupującym wybór i tworząc konkurencję.

InfiniBand jest natomiast droższy od Ethernetu i tak pozostanie przez pięć lat. Verna uważa, że ​​„ma ona ograniczenia skalowalności i wymaga specjalnych umiejętności do zarządzania”, co oznacza, że ​​niektórzy projektanci sieci unikają jej, na wypadek gdyby stała się ona niemożliwa do zarządzania złożonością.

Niemniej jednak przewidziała, że ​​30 procent zadań związanych z generatywną sztuczną inteligencją będzie działać w InfiniBand – w porównaniu z mniej niż 20 procent obecnie.

Wzrost ten zostanie przyćmiony wzrostem liczby optycznych połączeń wzajemnych w sieciach wykorzystywanych do przenoszenia generatywnego ruchu AI. Verna odkryła, że ​​obecnie mniej niż jeden procent sieci wykorzystywanych do obciążeń związanych ze sztuczną inteligencją korzysta z połączeń wzajemnych, ale przewiduje, że do 25 r. odsetek ten wzrośnie do 2030 procent.

Przestrzegła, że ​​chociaż technologia ta ma dużych zwolenników – takich jak Intel, TSMC i HPE – nie stanie się powszechnie stosowana aż do około 2028 r. Gdy osiągnie dojrzałość, użytkownicy mogą oczekiwać, że poprawi skalowalność klastrów obliczeniowych powyżej 100 Tbit/s, podczas gdy wymaga również mniejszej mocy niż przełączanie elektryczne.

Coraz popularniejsze jest także PCIe, a Gartner spodziewa się, że w przypadku połączenia z serwerami, które go wykorzystują do współdzielenia pamięci w magistrali przy użyciu specyfikacji CXL, oba rozwiązania staną się powszechne w obciążeniach AI.

Verna ponownie przewiduje, że upowszechnienie się zajmie kilka lat: CXL zadebiutował na początku 2023 r. i jej zdaniem poważne wdrożenie rozpocznie się w 2026 r. – w tym samym czasie, kiedy spodziewa się szybkiego tempa wdrażania PCIe 6.0.

Firma Verna zaleca użytkownikom, aby „ocenili możliwości wczesnego wdrożenia w celu uzyskania przewagi konkurencyjnej poprzez nawiązanie partnerstwa na etapie projektowania z wiodącymi dostawcami technologii” oraz upewnili się, że rozumieją technologie opisane powyżej.

Napisała, że ​​w przypadku osób rozważających InfiniBand konieczna będzie „ponowna ocena wyborów sieciowych pod kątem wydajności, niezawodności, skalowalności i ceny poprzez porównanie przełączników opartych na InfiniBand w porównaniu z przełącznikami opartymi na Ultra-Ethernet”. ®

Znak czasu:

Więcej z Rejestr