Nvidia upada z niskim kodem w aktualizacji AI Enterprise

Nvidia zamierza w tym tygodniu uporać się z problemami związanymi z uczeniem maszynowym dzięki najnowszej wersji swojego pakietu AI Enterprise, który zawiera zestaw narzędzi o niskiej zawartości kodu do obciążeń związanych z uczeniem maszynowym.

Aktualizacja rozszerza również obsługę Red Hat OpenShift, platformy operacyjnej Domino Data Lab ML oraz maszyn wirtualnych Azure NVads A10 v5.

Wprowadzona latem ubiegłego roku firma Nvidia wystawia AI Enterprise jako punkt kompleksowej obsługi do opracowywania i wdrażania obciążeń korporacyjnych na swoich procesorach graficznych, niezależnie od tego, czy są one wdrażane lokalnie, czy w chmurze.

Pakiet jest zbiorem narzędzi i frameworków opracowanych lub certyfikowanych przez Nvidię, aby tworzenie aplikacji AI/ML było bardziej dostępne dla przedsiębiorstw każdej wielkości. W ciągu ostatniego roku producent chipów wdrożył obsługę różnych popularnych frameworków i platform obliczeniowych, takich jak vSphere firmy VMware.

Najnowsza wersja — wersja 2.1 — wprowadza obsługę niskiego kodu w postaci Nvidii's TAO Toolkit.

Niski kod to idea abstrahowania od złożoności związanej z ręcznym kodowaniem aplikacji — w tym przypadku obciążeń mowy i AI Vision — przy użyciu niewielkiego lub zerowego kodu w procesie. Nvidia TOA Toolkit, na przykład, obsługuje interfejs API REST, import wag, integracje TensorBoard i kilka wstępnie wytrenowanych modeli, zaprojektowanych w celu uproszczenia procesu składania aplikacji.

Oprócz funkcjonalności low-code, wydanie zawiera również najnowszą wersję Nvidia RAPIDS (22.04) — zestaw bibliotek oprogramowania open source i interfejsów API przeznaczonych dla aplikacji data science działających na procesorach graficznych.

W wersji 2.1 producent mikroukładów certyfikuje te narzędzia i obciążenia do użytku z różnymi platformami oprogramowania i chmury.

Dla tych, którzy migrują do platform kontenerowych i natywnych dla chmury, aktualizacja dodaje oficjalną obsługę uruchamiania obciążeń Nvidia na popularnej platformie OpenShift Kubernetes firmy Red Hat w chmurze publicznej.

Kontenerowe środowisko wykonawcze Red Hata jest najnowszym środowiskiem aplikacji, które ma otrzymać certyfikat, i jest zgodne z zeszłoroczną integracją VMware z vSphere. Usługa MLOps firmy Domino Data Lab również otrzymała w tym tygodniu błogosławieństwo Nvidii. Platforma firmy zapewnia narzędzia do orkiestracji serwerów akcelerowanych przez GPU do wirtualizacji obciążeń AI/ML.

I, co nie powinno nikogo dziwić, zespół zielony certyfikował najnowszą generację instancji GPU opartych na platformie Microsoft Azure, wprowadzono w marcu. Instancje są zasilane przez akcelerator A10 producenta, który można podzielić na maksymalnie sześć ułamkowych układów GPU za pomocą krojenia czasowego.

Oprócz aktualizacji Nvidia AI Enterprise firma wprowadziła również trzy nowe laboratoria do swojej usługi LaunchPad, która zapewnia przedsiębiorstwom krótkoterminowy dostęp do oprogramowania i sprzętu AI/ML w celu weryfikacji koncepcji i testowania.

Najnowsze laboratoria obejmują szkolenie wielowęzłowe w zakresie klasyfikacji obrazów na vSphere z Tanzu, platformą Kubernetes firmy VMware; wykrywanie oszustw z wykorzystaniem modelu XGBoost i Triton, serwera wnioskowania Nvidii; oraz modelowanie wykrywania obiektów za pomocą TOA Toolkit i DeepStream, usługi analizy strumieniowej producenta chipów. ®