Microsoft geeft een voorproefje van Linux-aangedreven Windows AI Studio

Er is een preview van Microsofts Windows AI Studio geland – een reeks tools en modellen uit catalogi, waaronder Azure AI Studio en Hugging Face – maar je hebt Linux nodig om het uit te voeren.

De Preview was aangekondigd tijdens het Ignite-evenement van Microsoft en voor de Visual Studio Code-extensie zijn Ubuntu 18.04 of hoger en Windows Subsystem for Linux (WSL) vereist. Het werkt ook alleen op Nvidia GPU's.

Het ‘preview’-karakter van de extensie werd duidelijk toen El Reg navigeerde door de functies ervan. We hebben het tot op zekere hoogte laten werken, maar het was moeilijk om aan het gevoel te ontsnappen dat de visie van Microsoft op de ontwikkeling van lokale generatieve AI-apps sterk met elkaar verbonden is, althans in preview-vorm.

Nadat we alle vereisten hadden geïnstalleerd, omzeilden we de fout ‘GPU is niet gedetecteerd’ via een driverdownload van Nvidia, maakten we Ubuntu 18.04 tot de standaard Linux-distributie in WSL en de studio, en startten we vervolgens op.

Er zijn vier acties beschikbaar: Model Fine Tuning, RAG Project, Phi-2 Model Playground en Windows Optimized-modellen. Microsoft heeft RAG Project en Phi-2 Model Playground getagd als “Coming Soon!” in de documentatie, maar we ontdekten dat het starten van een lokale verfijningssessie eenvoudig genoeg was.

Er zijn nog meer beperkingen op het gebied van modellen – gebruikers kunnen bijvoorbeeld hun eigen modellen niet gebruiken – hoewel Microsoft zei dat het “werkt aan het uitbreiden van de lijst met modellen.” Gebruikers kunnen de extensie ook niet uitvoeren in een Azure GPU Virtual Machine vanwege de geneste virtualisatie die nodig is voor WSL.

Maar eenmaal operationeel – wijk niet te veel af van het pad dat in de instructies van Microsoft is gedefinieerd – werkte de Windows AI Studio goed. We hebben wat verfijning uitgevoerd met behulp van een Hugging Face-dataset en zijn zover gekomen dat we met het model konden chatten met behulp van de verstrekte voorbeelden.

We zijn het niet eens met de bewering van Microsoft dat “lokaal aan de slag gaan met AI-ontwikkeling op Windows eenvoudiger en sneller is dan ooit”, maar de preview van Windows AI Studio is een goed begin.

De vereisten zijn een beetje zwaar, en verschillende bewegende delen achter de schermen – niet in de laatste plaats WSL – laten af ​​en toe hun aanwezigheid merken via vreemde fouten en berichten. Maar nogmaals, het is een voorproefje.

Er schuilt echter een zekere ironische verrukking in de opmerking dat de lokale AI-ontwikkeling van Microsoft op Windows Linux onder de motorkap vereist.

Windows is nog steeds nodig voor de Visual Studio Code-extensie, maar zelfs dat kan veranderen. Microsoft zei: "We plannen momenteel andere platformondersteuning." ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2023/12/14/windows_ai_studio_preview/