Microsoft forhåndsviser Linux-drevet Windows AI Studio

Microsoft forhåndsviser Linux-drevet Windows AI Studio

Microsoft previews Linux-powered Windows AI Studio PlatoBlockchain Data Intelligence. Vertical Search. Ai.

En forhåndsvisning af Microsofts Windows AI Studio er landet – et sæt værktøjer og modeller fra kataloger, inklusive Azure AI Studio og Hugging Face – men du skal bruge Linux for at køre det.

forhåndsvisning var annonceret ved Microsofts Ignite-begivenhed og Visual Studio Code-udvidelsen kræver Ubuntu 18.04 eller nyere samt Windows Subsystem for Linux (WSL) for at køre. Det vil også kun køre på Nvidia GPU'er.

Udvidelsens "preview"-karakter blev tydelig, hvornår El Reg navigerede i dens funktioner. Vi fik det til at fungere efter en mode, men det var svært at undslippe følelsen af, at Microsofts vision for lokal generativ AI-app-udvikling er meget sammenflettet, i hvert fald i preview-form.

Da vi først havde installeret alle forudsætningerne, undgik vi fejlen "GPU er ikke detekteret" via en driverdownload fra Nvidia, gjorde Ubuntu 18.04 til standard Linux-distribution i WSL og studiet og startede derefter op.

Fire handlinger er tilgængelige: Model Fine Tuning, RAG Project, Phi-2 Model Playground og Windows Optimized-modeller. Microsoft har tagget RAG Project og Phi-2 Model Playground som "Kommer snart!" i sin dokumentation, men vi fandt ud af at lanceringen af ​​en lokal finjusteringssession var ligetil nok.

Der er yderligere begrænsninger med hensyn til modeller - brugere kan for eksempel ikke bruge deres egne - selvom Microsoft sagde, at det "arbejder på at udvide listen over modeller." Brugere kan heller ikke køre udvidelsen i en Azure GPU Virtual Machine på grund af den indlejrede virtualisering, der kræves af WSL.

Men når Windows AI Studio er startet – afvig ikke for meget fra stien defineret i Microsofts instruktioner – fungerede Windows AI Studio godt. Vi udførte nogle finjusteringer ved hjælp af et Hugging Face-datasæt og nåede så langt som at kunne chatte med modellen ved hjælp af de medfølgende prøver.

Vi vil tage fejl af Microsofts påstand om, at "at komme i gang med AI-udvikling lokalt på Windows er nemmere og hurtigere end nogensinde," men Windows AI Studio-forhåndsvisningen er en god start.

Kravene er lidt tunge, og flere bevægelige dele bag kulisserne – ikke mindst WSL – gør af og til deres tilstedeværelse gennem mærkelige fejl og beskeder. Men så igen, det er en forsmag.

Der er dog en vis ironisk lækkerhed i at bemærke, at Microsofts lokale AI-udvikling på Windows kræver Linux under motorhjelmen.

Windows er stadig nødvendig for Visual Studio Code-udvidelsen, men selv det kan ændre sig. Microsoft sagde: "Vi planlægger i øjeblikket anden platformsupport." ®

Tidsstempel:

Mere fra Registret