Nvidia stopt met low-code in AI Enterprise-update

Nvidia wil deze week de pijn uit de ontwikkeling van machine learning wegnemen met de nieuwste release van zijn AI Enterprise-suite, die een low-code toolkit voor machine learning-workloads bevat.

De update breidt ook de ondersteuning uit voor Red Hat OpenShift, het ML-operatieplatform van Domino Data Lab en de virtuele machines uit de NVads A10 v5-serie van Azure.

Nvidia werd afgelopen zomer geïntroduceerd en factureert AI Enterprise als een one-stop-shop voor het ontwikkelen en implementeren van enterprise-workloads op zijn GPU's, ongeacht of ze on-premise of in de cloud worden geïmplementeerd.

De suite is een verzameling tools en frameworks die zijn ontwikkeld of gecertificeerd door Nvidia om het bouwen van AI/ML-applicaties toegankelijker te maken voor ondernemingen van elke omvang. Het afgelopen jaar heeft de chipmaker ondersteuning uitgerold voor een verscheidenheid aan populaire frameworks en rekenplatforms, zoals vSphere van VMware.

De nieuwste uitgave — versie 2.1 — introduceert low-code ondersteuning in de vorm van Nvidia's TAO Toolkit.

Low code is het idee om de complexiteit weg te nemen die gepaard gaat met het handmatig coderen van een applicatie - in dit geval spraak- en AI vision-workloads - met weinig tot geen code in het proces. Nvidia's TOA Toolkit biedt bijvoorbeeld REST API-ondersteuning, import van gewichten, TensorBoard-integraties en verschillende vooraf getrainde modellen, ontworpen om het proces van het samenstellen van een applicatie te vereenvoudigen.

Naast low-code functionaliteit bevat de release ook de nieuwste versie van Nvidia RAPIDS (22.04) - een suite van open source softwarebibliotheken en API's gericht op datawetenschappelijke applicaties die op GPU's draaien.

De 2.1-release ziet ook dat de chipmaker deze tools en workloads certificeert voor gebruik met een verscheidenheid aan software en cloudplatforms.

Voor degenen die migreren naar gecontaineriseerde en cloud-native frameworks, voegt de update officiële ondersteuning toe voor het uitvoeren van Nvidia-workloads op het populaire OpenShift Kubernetes-platform van Red Hat in de openbare cloud.

De containerruntime van Red Hat is de nieuwste te certificeren applicatieomgeving en volgt op de vSphere-integratie van VMware vorig jaar. De MLOps-service van Domino Data Lab ontving deze week ook de zegen van Nvidia. Het platform van het bedrijf biedt tools voor het orkestreren van GPU-versnelde servers voor de virtualisatie van AI/ML-workloads.

En, wat niemand zou moeten verbazen, Team Green heeft Microsoft Azure's nieuwste generatie Nvidia-gebaseerde GPU-instanties gecertificeerd. geïntroduceerd in maart. De instances worden aangedreven door de A10-versneller van de chipmaker, die met behulp van temporal slicing kan worden opgesplitst in maximaal zes fractionele GPU's.

Naast Nvidia AI Enterprise-updates heeft het bedrijf ook drie nieuwe labs geïntroduceerd voor zijn LaunchPad-service, die bedrijven op korte termijn toegang geeft tot hun AI/ML-software en -hardware voor proof-of-concepts en testdoeleinden.

De nieuwste labs omvatten multi-node training voor beeldclassificatie op vSphere met Tanzu, het Kubernetes-platform van VMware; fraudedetectie met behulp van het XGBoost-model en Triton, de inferentieserver van Nvidia; en objectdetectiemodellering met behulp van de TOA Toolkit en DeepStream, de streaminganalyseservice van de chipmaker. ®