Microsoft forhåndsviser Linux-drevet Windows AI Studio

Microsoft forhåndsviser Linux-drevet Windows AI Studio

Microsoft forhåndsviser Linux-drevet Windows AI Studio PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

En forhåndsvisning av Microsofts Windows AI Studio har landet – et sett med verktøy og modeller fra kataloger, inkludert Azure AI Studio og Hugging Face – men du trenger Linux for å kjøre det.

De forhåndsvisning var annonsert på Microsofts Ignite-arrangement og Visual Studio Code-utvidelsen krever Ubuntu 18.04 eller nyere samt Windows Subsystem for Linux (WSL) for å kjøre. Den vil også bare kjøre på Nvidia GPUer.

«Forhåndsvisning»-naturen til utvidelsen ble tydelig når El Reg navigerte funksjonene. Vi fikk det til å fungere etter en måte, men det var vanskelig å unnslippe følelsen av at Microsofts visjon for lokal generativ AI-apputvikling er veldig sammensveiset, i det minste i forhåndsvisningsform.

Når vi installerte alle forutsetningene, unngikk vi feilen "GPU er ikke oppdaget" via en drivernedlasting fra Nvidia, gjorde Ubuntu 18.04 til standard Linux-distribusjon i WSL og studioet, og startet deretter opp.

Fire handlinger er tilgjengelige: Model Fine Tuning, RAG Project, Phi-2 Model Playground og Windows Optimized-modeller. Microsoft har merket RAG Project og Phi-2 Model Playground som "Kommer snart!" i dokumentasjonen, men vi fant ut å lansere en lokal finjusteringsøkt var grei nok.

Det er ytterligere begrensninger når det gjelder modeller - brukere kan for eksempel ikke bruke sine egne - selv om Microsoft sa at det "jobber med å utvide listen over modeller." Brukere kan heller ikke kjøre utvidelsen i en virtuell Azure GPU-maskin på grunn av den nestede virtualiseringen som trengs av WSL.

Men når Windows AI Studio er i gang – ikke avvik for mye fra banen definert i Microsofts instruksjoner – fungerte Windows AI Studio bra. Vi utførte noen finjusteringer ved å bruke et Hugging Face-datasett og kom så langt som å kunne chatte med modellen ved å bruke prøvene som ble levert.

Vi vil ta problemer med Microsofts påstand om at "å komme i gang med AI-utvikling lokalt på Windows er enklere og raskere enn noen gang," men forhåndsvisningen av Windows AI Studio er en god start.

Kravene er litt tyngende, og flere bevegelige deler bak kulissene – ikke minst WSL – gir seg av og til merke gjennom rare feil og meldinger. Men igjen, det er en forhåndsvisning.

Det er imidlertid en viss ironisk deilighet ved å merke seg at Microsofts lokale AI-utvikling på Windows krever Linux under panseret.

Windows er fortsatt nødvendig for Visual Studio Code-utvidelsen, men selv det kan endre seg. Microsoft sa: "Vi planlegger for øyeblikket annen plattformstøtte." ®

Tidstempel:

Mer fra Registeret