Kaj so hiperomrežja?

Ko je pred nekaj tedni postala pomembna aplikacija Stable Diffusion, ki upodablja fotorealistične slike, je prišla nova modna beseda; hiperomrežij.

Stabilna difuzija in hiperomrežja so že tako povezana, da je nemogoče omeniti enega brez drugega v istem odstavku.

»Usposobil sem stabilna difuzijska hiperomrežja na majhnih naborih podatkov (ne, ne na sodobnih umetnikih, razen resnično vaših), da bi jih naučil nejasnih »slogov«, ki jih v resnici ne razume takoj. Deluje točno tako, kot je opisano, pravzaprav bolje, kot sem sam mislil, da bo,« pravi uporabnik na twitterju.

uril sem stabilna difuzijska hiperomrežja na majhnih naborih podatkov (ne, ne na sodobnih umetnikih, razen resnično vaših), da bi jih naučil nejasnih "stilov", ki jih v resnici ne razume takoj. deluje točno tako, kot je opisal, pravzaprav bolje, kot sem sam mislil, da bo.

— maksimizer obžalovanja (@regretmaximizer) December 20, 2022

To pooseblja hrup hiperomrežij, ki zadnje čase zajame uporabnike interneta.

V računalništvu je hiperomrežje tehnično omrežje, ki ustvarja uteži za glavno omrežje. Z drugimi besedami, domneva se, da je vedenje glavnega omrežja enako kot pri drugih nevronskih mrežah, ker se nauči preslikati nekatere neobdelane vnose v njihove želene cilje, medtem ko hiperomrežje sprejme niz vhodov, ki vsebujejo informacije o strukturi uteži, in ustvari težo za ta sloj.

Preberite tudi: Tehnologija umetne inteligence, ki ustvarja smrtonosne globoke lažne slike

Kako se uporabljajo hiperomrežja?

Da bi razumeli, kaj je hiperomrežje, pojdimo malo nazaj. Če ste ustvarili slike na Stable Diffusion – orodju AI za ustvarjanje digitalne umetnosti in slik – ste naleteli nanj.

Usposabljanje se na splošno nanaša na proces, kjer se model nauči (določi) dobrih vrednosti za vse uteži in pristranskost iz označenih primerov

Ustvarjanje slik na Stabilna difuzija ni samodejen postopek, kot smo opisali drugje. Da pridemo tja, obstajajo procesi.

Najprej se mora model AI naučiti, kako upodobiti ali sintetizirati sliko nekoga v fotografijo iz 2D ali 3D modela prek programske opreme. Čeprav je bil model stabilne difuzije temeljito preizkušen, ima nekatere omejitve pri usposabljanju, ki jih je mogoče popraviti z metodami usposabljanja vdelave in hiperomrežij.

Da bi dosegli najboljše rezultate, se lahko končni uporabniki odločijo za dodatno usposabljanje za natančno nastavitev izhodov generacije, da ustrezajo bolj specifičnim primerom uporabe. Usposabljanje »vdelave« vključuje zbirko slik, ki jih posreduje uporabnik, in omogoča modelu, da ustvari vizualno podobne slike, kadar koli je ime vdelave uporabljeno v pozivu za generiranje.

Vdelave temeljijo na konceptu »besedilne inverzije«, ki so ga razvili raziskovalci z Univerze v Tel Avivu, kjer so vektorske predstavitve za specifične žetone, ki jih uporablja besedilni kodirnik modela, povezane z novimi psevdobesedami. Vdelava lahko zmanjša odstopanja znotraj izvirnega modela ali posnema vizualne sloge.

Po drugi strani pa je »hipermreža« vnaprej usposobljena nevronska mreža, ki se uporablja za različne točke znotraj večje nevronske mreže, in se nanaša na tehniko, ki jo je ustvaril razvijalec NovelAI Kurumuz leta 2021 in je bila prvotno namenjena modelom transformatorjev za generiranje besedila. .

Usposablja določene izvajalce

Hiperomrežja so vključena za usmerjanje rezultatov v določeno smer, kar omogoča modelom, ki temeljijo na stabilni difuziji, posnemanje umetniških stilov določenih umetnikov. Omrežje ima to prednost, da lahko deluje, tudi če originalni model ne prepozna umetnika, in bo še vedno obdelalo sliko z iskanjem ključnih pomembnih področij, kot so lasje in oči, in nato zakrpalo ta področja v sekundarnem latentnem prostoru.

»Sloj vdelave v Stable Diffusion je odgovoren za kodiranje vnosov (na primer besedilnega poziva in oznak razreda) v nizkodimenzionalne vektorje. Ti vektorji pomagajo voditi difuzijski model za ustvarjanje slik, ki se ujemajo z vnosom uporabnika,« pojasnjuje Benny Cheung v svojem blogu.

»Sloj hiperomrežja je način, da se sistem uči in predstavlja lastno znanje. Stable Diffusion omogoča ustvarjanje slik na podlagi svojih prejšnjih izkušenj.«

Medtem ko njegova vdelana plast kodira vnose, kot so besedilni poziv in oznake razreda, v nizkodimenzionalne vektorje, ki pomagajo pri vodenju difuzijskega modela za ustvarjanje slik, ki se ujemajo z vnosom uporabnika, je plast hiperomrežja način, da se sistem nauči in predstavlja svoje znanja.

Z drugimi besedami, Stable Diffusion omogoča ustvarjanje slik na podlagi svojih prejšnjih izkušenj. V stabilni difuziji je hiperomrežje dodatna plast, ki se obdela po tem, ko je bila slika upodobljena skozi model. Hiperomrežje nagiba k izkrivljanju vseh rezultatov iz modela v vaše podatke o vadbi na način, ki v bistvu »spremeni« model.

Ohranjanje spomina

To v bistvu pomeni, da je hiperomrežje odgovorno za shranjevanje v pomnilniku slik, ki jih je sistem predhodno ustvaril. Ko uporabnik poda nov vnos, lahko sistem uporabi svoje predhodno obstoječe znanje za ustvarjanje natančnejše slike. Hiperomrežja kot taka omogočajo sistemu, da se hitreje uči in sproti izboljšuje.

To ima prednost, da bo vsaka slika, ki vsebuje nekaj, kar opisuje vaše podatke o vadbi, videti kot vaši podatki o vadbi.

»Ugotovili smo, da je usposabljanje z vdelavo lažje kot usposabljanje s hiperomrežjem za ustvarjanje avtoportretov. Naše usposabljanje je dalo dobre rezultate, s katerimi smo zadovoljni,« je zapisal Cheung.

Katero tehniko natančnega uravnavanja uporabljate? Nekaj ​​podobnega kot hiperomrežja ali besedilna inverzija?

— Mathias Michel (@m91michel) December 21, 2022

Toda to je tehnologija, s katero mnogi še vedno barantajo. Hiperomrežja in generatorji umetne inteligence so šele začeli zadovoljevati potrebe in želje uporabnikov. Uporabniški vmesniki in tehnike nagovarjanja bodo nedvomno hitro napredovali in morda celo privlačni google nepripravljeno, kot MetaNews nedavno pokrit.

DELI TO OBJAVO