Avatud lähtekoodiga AI muudab kaasaegsed arvutid asjakohaseks ja tellimused näivad räbalana

Taasavaldanud Platon

järgijaid: 0

Avatud lähtekoodiga tehisintellekt muudab tänapäevased personaalarvutid asjakohaseks ja tellimused näivad PlatoBlockchain Data Intelligence räbalana. Vertikaalne otsing. Ai.

Veerg Eelmisel aastal oli seekord võimatu ignoreerida uusimat andmetöötluse suundumust: tohutud räniplaadid sadade miljardite transistoridega – vältimatu tagajärg järjekordsele lahenduste komplektile, mis hoidis Moore'i seaduse unustuse eest.

Kuid arvutimüügi langus viitab sellele, et me ei vaja neid koletisarvuteid – ja seda mitte ainult COVID-i müügivarju tõttu.

2022. aasta esimesel poolel nägi ettevõtete andmetöötlus üsna samasugune välja nagu eelmisel kümnendil: põhilised kontorirakendused, meeskonnasuhtlusrakendused ja loomingulise klassi jaoks mõned rikasmeedia tööriistad. Muidugi leiavad mängijad alati viisi, kuidas need transistorid tööle panna, kuid suurem osa riistvarast oli juba üle jõustatud ja alatöötatud. Miks raisata transistore lahendatud probleemidele?

Siis maailm muutus. Aasta tagasi tõi OpenAI turule DALL-E, esimese laialdaselt kättesaadavatest generatiivsetest AI tööriistadest – "hajuti", mis teisendab müra, tekstiviipa ja massilise kaalude andmebaasi kujutisteks. See tundus peaaegu nagu maagia. Varsti pärast seda pakkus Midjourney sama palju – kuigi häälestatud 70ndate Prog Rocki albumikaane esteetikale. Näis, et nõudlus pilvandmetöötluse järele kasvab hüppeliselt, kuna need tööriistad leidsid tee Microsofti, Canva, Adobe ja teiste toodetesse.

Siis muutus maailm uuesti. Augustis tutvustas Stability AI difuusori kaalumiste avatud lähtekoodiga andmebaasi. Alguses nõudis Stable Diffusion nüüdisaegset GPU-d, kuid avatud lähtekoodiga kogukond leidis peagi, et see suudab hajuti optimeerida, et see töötaks peaaegu kõigega. See ei pruugi olla kiire, kuid see toimiks – ja see laieneks koos teie riistvaraga.

Selle asemel, et nõuda tohutuid pilveressursse, need uuemad AI tööriistad töötavad kohapeal. Ja kui ostsite koletisarvuti, töötaks see vähemalt sama kiiresti kui kõik OpenAI või Midjourney pakutavad – ilma tellimuseta.

Pidevalt põnev avatud lähtekoodiga kogukond, mis juhib Stable Diffusionit, lõi muljetavaldava seeria uusi difuusorikaalusid, millest igaüks on suunatud konkreetsele esteetikale. Stabiilne difusioon ei ole lihtsalt nii kiire kui kõik, mida pakub kaubanduslik tehisintellekti ettevõte – see on nii kasulikum kui ka laiendatavam.

Ja siis – jah, arvasite ära – maailm muutus taas. Detsembri alguses OpenAI's ChatGPT kirjutas täielikult ümber meie ootused tehisintellektile, saades kiireimaks veebirakenduseks, mis jõuab 100 miljoni kasutajani. Suur keelemudel (LLM), mille toiteallikaks on "generatiivne eelkoolitatud trafo" – kui paljud meist on unustanud, et see GPT tähistab? –, mis kasutas oma kaalu internetis saadaolevate tohutute tekstide põhjal.

See koolitus on Azure'i pilvandmetöötluse ressurssides maksma läinud hinnanguliselt miljoneid (võib-olla kümneid miljoneid). Eeldati, et see sisenemiskulu on piisav, et hoida konkurendid eemal – välja arvatud võib-olla Google ja Meta.

Kuni taas maailm muutus. Märtsis Meta vabastas LLaMA – palju kompaktsem ja tõhusam keelemudel, millel on suhteliselt väike kaalude andmebaas, kuid vastuse kvaliteet läheneb OpenAI GPT-4-le.

Vaid kolmekümne miljardi parameetriga mudeliga LLaMA saab mugavalt istuda 32 GB muutmäluga arvutis. Midagi, mis on väga sarnane ChatGPT-ga – mis töötab Azure Cloudis oma tohutu kaalude andmebaasi tõttu –, saab käitada peaaegu kõikjal.

Meta teadlased pakkusid oma akadeemilistele kolleegidele tasuta allalaadimiseks oma kaalumisi. Kuna LLaMA võis töötada nende laboriarvutites, parandasid Stanfordi teadlased kohe LLaMA-d oma uue koolitustehnika abil. Alpaka-Lora, mis vähendab olemasoleva kaalukomplekti treenimise kulusid sadadelt tuhandetelt dollaritelt mõnesajale dollarile. Nad jagasid ka oma koodi.

Nii nagu DALL-E kaotas kasutatavuse ja laiendatavuse osas Stable Diffusionile, näib ChatGPT kaotavat veel ühe võidujooksu, kuna teadlased toodavad mitmesuguseid mudeleid – näiteks Alpaca, Vicuna, Koaala, ja teiste loomade maja – mis koolitavad ja treenivad uuesti kiiresti ja odavalt.

Need paranevad palju kiiremini, kui keegi eeldas. Osaliselt on põhjuseks see, et nad treenivad paljudel ChatGPT vestlustel, mida on jagatud erinevatel saitidel, nagu Reddit, ja need saavad enamikus arvutites hästi töötada. Kui teil on koletisarvuti, töötavad need väga hästi.

Masinad, mille kasutust me veel aasta tagasi ei osanud unistadagi, on leidnud oma eesmärgi: neist on saamas kõigi meie generatiivsete tehisintellekti ülesannete tööhobune. Nad aitavad meil kodeerida, planeerida, kirjutada, joonistada, modelleerida ja palju muud peale selle.

Ja me ei pea tellimusi tegema, et need uued tööriistad toimiksid. Tt näib, nagu oleks avatud lähtekoodiga juba nii difuusorite kui ka trafode kaubanduslikku arengut edestanud.

Avatud lähtekoodiga tehisintellekt on meile ka meelde tuletanud, miks arvuti levis: võimaldades koju tuua tööriistad, mis olid kunagi saadaval ainult kontoris.

See ei sulge ust kaubandusele. Kui midagi, siis see tähendab, et ettevõtjatel on rohkem võimalusi luua uusi tooteid, muretsemata selle pärast, kas need rikuvad Google'i, Microsofti, Meta või kellegi teise aluseks olevaid ärimudeleid. Oleme jõudmas laiaulatusliku tehnoloogia katkemise aega – ja suurus ei paista andvat palju eeliseid.

Koletised on lahti. Ma arvan, et see on hea asi. ®