Open Source AI Makes Modern PCs Relevant, And Subscriptions Seem Shabby

Ponovno objavil Platon

Spremljevalci: 0

Open source AI makes modern PCs relevant, and subscriptions seem shabby PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Stolpec Lani ob tem času je postalo nemogoče prezreti najnovejši trend v računalništvu: ogromne plošče silicija s stotinami milijard tranzistorjev – neizogibna posledica druge rešitve, ki je Moorov zakon ohranila pred pozabo.

Toda padajoča prodaja osebnih računalnikov kaže, da teh pošastnih računalnikov ne potrebujemo – in ne samo zaradi prodajne sence, ki jo meče COVID.

V prvi polovici leta 2022 je bilo korporativno računalništvo videti skoraj enako, kot je bilo v zadnjem desetletju: osnovne pisarniške aplikacije, aplikacije za timsko komunikacijo in nekaj orodij za ustvarjalne medije. Seveda bi igralci iger vedno našli način, kako spraviti te tranzistorje v delo, vendar je bila velika večina strojne opreme že premočna in premalo obremenjena. Zakaj bi zapravljali tranzistorje za rešene probleme?

Potem se je svet spremenil. Pred enim letom je OpenAI lansiral DALL-E, prvo izmed široko dostopnih generativnih orodij AI – »difuzor«, ki pretvori šum, besedilni poziv in ogromno zbirko podatkov o uteži v slike. Zdelo se je skoraj kot čarovnija. Nedolgo zatem je Midjourney ponudil skoraj enako – čeprav je bil naravnan na izrazito estetiko naslovnice albuma Prog Rock iz 70-ih. Zdelo se je, kot da bo povpraševanje po računalništvu v oblaku skokovito naraslo, ko so se ta orodja znašla v izdelkih Microsoft, Canva, Adobe in drugih.

Potem se je svet spet spremenil. Avgusta je Stability AI uvedel odprtokodno bazo podatkov o ponderjih difuzorjev. Na začetku je Stable Diffusion zahteval najsodobnejši GPE, vendar je odprtokodna skupnost kmalu ugotovila, da lahko optimizira difuzor za delovanje na, no, skoraj vsem. Ne bi bilo nujno hitro, vendar bi delovalo – in bi se povečalo z vašo strojno opremo.

Namesto da bi zahtevali ogromne vire v oblaku, ta novejša orodja AI delujejo lokalno. In če bi kupili pošastni računalnik, bi deloval vsaj tako hitro kot vse, kar ponuja OpenAI ali Midjourney – brez naročnine.

Vedno vznemirljiva odprtokodna skupnost, ki poganja Stable Diffusion, je ustvarila impresivno serijo novih uteži difuzorjev, od katerih vsaka cilja na določeno estetiko. Stabilna difuzija ni le tako hitra kot vse, kar ponuja komercialno podjetje za umetno inteligenco – je bolj uporabna in bolj razširljiva.

In potem se je – ja, uganili ste – svet spet spremenil. V začetku decembra je OpenAI ChatGPT popolnoma spremenila naša pričakovanja glede umetne inteligence in postala najhitrejša spletna aplikacija, ki je dosegla 100 milijonov uporabnikov. Veliki jezikovni model (LLM), ki ga poganja "generativni vnaprej usposobljeni transformator" – koliko nas je pozabilo, da je to tisto, kar GPT pomeni? – ki je svoje uteži utemeljil na ogromnih količinah besedila, ki je na voljo na internetu.

Ocenjuje se, da je to prizadevanje za usposabljanje stalo milijone (morda več deset milijonov) v virih računalništva v oblaku Azure. Pričakovano je bilo, da bo ta vstopni strošek zadostoval za zadrževanje konkurentov – razen morda za Google in Meta.

Dokler se svet spet ni spremenil. Marca, Meta izdal LLaMA – veliko bolj kompakten in učinkovit jezikovni model s sorazmerno majhno zbirko podatkov o ponderjih, vendar s kakovostjo odziva, ki se približuje GPT-4 OpenAI.

Z modelom samo trideset milijard parametrov lahko LLaMA udobno sedi v osebnem računalniku z 32 GB RAM-a. Nekaj zelo podobnega ChatGPT – ki deluje v oblaku Azure zaradi svoje ogromne baze podatkov o uteževanju – je mogoče izvajati tako rekoč povsod.

Metini raziskovalci so ponudili svoje uteži svojim akademskim kolegom, ki jih lahko brezplačno prenesejo. Ker je LLaMA lahko delovala na njihovih laboratorijskih računalnikih, so raziskovalci na Stanfordu takoj izboljšali LLaMA s svojo novo tehniko usposabljanja, imenovano Alpaka-Lora, ki je znižal stroške usposabljanja obstoječega nabora uteži z več sto tisoč dolarjev na nekaj sto dolarjev. Delili so tudi svojo kodo.

Tako kot je DALL-E izgubil proti Stable Diffusion glede uporabnosti in razširljivosti, se zdi, da ChatGPT izgublja še eno tekmo, saj raziskovalci izdelujejo vrsto modelov – kot so Alpaca, Vicuna, Koala, in menažerija drugih – ki se usposabljajo in prekvalificirajo hitro in poceni.

Izboljšujejo se veliko hitreje, kot je kdo pričakoval. Delno zato, ker se usposabljajo na številnih »pogovorih« ChatGPT, ki so bili v skupni rabi na spletnih mestih, kot je Reddit, in lahko dobro delujejo na večini osebnih računalnikov. Če imate pošastni računalnik, delujejo zelo dobro.

Stroji, za katere še pred letom dni nismo mogli sanjati, da bi jih lahko uporabili, so našli svoj namen: postajajo delovni konji vseh naših generativnih nalog AI. Pomagajo nam kodirati, načrtovati, pisati, risati, modelirati in še mnogo drugega.

In ne bomo zavezani naročninam, da bi ta nova orodja delovala. Zdi se, da je odprtokodni razvoj že prehitel komercialni razvoj difuzorjev in transformatorjev.

Odprtokodna umetna inteligenca nas je spomnila tudi na to, zakaj se je osebni računalnik razširil: s tem, da je omogočil, da domov prinesemo orodja, ki so bila nekoč na voljo samo v pisarni.

To ne bo zaprlo vrat za trgovino. Če kaj drugega, to pomeni, da imajo podjetniki več možnosti za ustvarjanje novih izdelkov, ne da bi jih skrbelo, ali kršijo poslovne modele, na katerih temeljijo Google, Microsoft, Meta ali kdo drug. Gremo v čas vsesplošne motnje v tehnologiji – in zdi se, da velikost ne prinaša veliko prednosti.

Pošasti so na prostosti. Mislim, da je to dobra stvar. ®