Teadlased avastavad masinõppe paindlikuma lähenemisviisi

Tehisintellekti teadlased on tähistanud mitmeid edusamme närvivõrgud, arvutiprogrammid, mis jäljendavad ligikaudu seda, kuidas meie aju on organiseeritud. Kuid vaatamata kiirele arengule jäävad närvivõrgud suhteliselt paindumatuks, neil on vähe võimet käigu pealt muutuda või harjumatute oludega kohaneda.

2020. aastal juhtisid kaks Massachusettsi Tehnoloogiainstituudi teadlast meeskonda, kes tutvustasid uut tüüpi närvivõrk põhineb reaalse elu luureandmetel - kuid mitte meie omal. Selle asemel ammutasid nad inspiratsiooni pisikesest ümarussist, Caenorhabditis elegans, et toota nn vedelaid närvivõrke. Pärast eelmise aasta läbimurret võivad uudsed võrgud olla nüüd piisavalt mitmekülgsed, et asendada teatud rakendustes oma traditsioonilised kolleegid.

Vedelad närvivõrgud pakuvad "elegantset ja kompaktset alternatiivi", ütles Ken Goldberg, Berkeley California ülikooli robootik. Ta lisas, et juba praegu näitavad katsed, et need võrgud võivad töötada kiiremini ja täpsemalt kui teised nn pideva aja närvivõrgud, mis modelleerivad ajas muutuvaid süsteeme.

Ramin Hasani ja Mathias Lechner, uue kujunduse liikumapanevad jõud, mõistsid aastaid tagasi, et C. elegans võiks olla ideaalne organism, et välja mõelda, kuidas luua vastupidavaid närvivõrke, mis suudavad üllatusega toime tulla. Millimeetri pikkune põhjasöötur on üks väheseid olendeid, kellel on täielikult kaardistatud närvisüsteem ja see on võimeline käituma mitmel viisil: liikuda, leida toitu, magada, paarituda ja isegi kogemustest õppida. "See elab reaalses maailmas, kus muutused toimuvad alati, ja see võib toimida hästi peaaegu kõigis tingimustes," ütles Lechner.

Austus madala ussi vastu viis ta ja Hasani nende uutesse vedelatesse võrkudesse, kus iga neuronit juhib võrrand, mis ennustab selle käitumist aja jooksul. Ja nii nagu neuronid on üksteisega seotud, sõltuvad need võrrandid üksteisest. Võrk lahendab sisuliselt kogu selle lingitud võrrandite kogumi, võimaldades tal iseloomustada süsteemi olekut igal ajahetkel - see on kõrvalekalle traditsioonilistest närvivõrkudest, mis annavad tulemusi ainult teatud ajahetkedel.

"[Nad] saavad teile öelda, mis toimub ainult ühe, kahe või kolme sekundi pärast," ütles Lechner. "Kuid selline pideva aja mudel nagu meie oma suudab kirjeldada, mis toimub 0.53 sekundi või 2.14 sekundi või mis tahes muu teie valitud aja jooksul."

Vedelikud võrgud erinevad ka selle poolest, kuidas nad kohtlevad sünapse, tehisneuronite vahelisi ühendusi. Nende ühenduste tugevust standardses närvivõrgus saab väljendada ühe arvuga, selle kaaluga. Vedelates võrkudes on neuronite vaheline signaalivahetus tõenäosuslik protsess, mida juhib "mittelineaarne" funktsioon, mis tähendab, et vastused sisenditele ei ole alati proportsionaalsed. Näiteks sisendi kahekordistamine võib kaasa tuua palju suurema või väiksema nihke väljundis. See sisseehitatud varieeruvus on põhjus, miks võrke nimetatakse vedelateks. Neuronite reaktsiooniviis võib olenevalt saadud sisendist erineda.

Kui traditsiooniliste võrkude keskmes olevad algoritmid määratakse treeningu ajal, siis kui nendele süsteemidele söödetakse andmehulka, et kalibreerida nende kaalu parimad väärtused, on vedelad närvivõrgud paremini kohandatavad. "Nad saavad vaadeldava sisendi põhjal oma aluseks olevaid võrrandeid muuta," muutes konkreetselt neuronite reageerimise kiirust, ütles. Daniela rus, MITi arvutiteaduse ja tehisintellekti labori direktor.

Üks varajane katse selle võime demonstreerimiseks hõlmas katset juhtida autonoomset autot. Tavaline närvivõrk suudab auto kaamera visuaalseid andmeid analüüsida vaid kindlate ajavahemike järel. Vedel võrk, mis koosneb 19 neuronist ja 253 sünapsist (mis muudab selle masinõppe standardite järgi väikeseks) võiks olla palju reageerivam. "Meie mudel võib proovi võtta sagedamini, näiteks kui tee on käänuline," ütles Rus, selle ja mitmete teiste vedelvõrke käsitlevate dokumentide kaasautor.

Mudel hoidis autot edukalt rajal, kuid sellel oli üks viga, ütles Lechner: "See oli tõesti aeglane." Probleem tulenes sünapse ja neuroneid esindavatest mittelineaarsetest võrranditest – võrranditest, mida tavaliselt ei saa lahendada ilma korduvate arvutusteta arvutis, mis läbib mitu iteratsiooni, enne kui lõpuks lahendusele läheneb. See töö on tavaliselt delegeeritud spetsiaalsetele tarkvarapakettidele, mida nimetatakse lahendajateks ja mida tuleks rakendada iga sünapsi ja neuroni jaoks eraldi.

Aastal paber eelmisel aastal, paljastas meeskond uue vedela närvivõrgu, mis sai sellest kitsaskohast mööda. See võrk toetus sama tüüpi võrranditele, kuid peamiseks edusammuks oli Hasani avastus, et neid võrrandeid ei olnud vaja raskete arvutiarvutuste abil lahendada. Selle asemel võiks võrk toimida kasutades peaaegu täpset ehk “suletud vormi” lahendust, mida saaks põhimõtteliselt välja töötada pliiatsi ja paberiga. Tavaliselt pole neil mittelineaarsetel võrranditel suletud vormi lahendusi, kuid Hasani leidis ligikaudse lahenduse, mis oli kasutamiseks piisavalt hea.

"Suletud lahenduse olemasolu tähendab, et teil on võrrand, mille jaoks saate selle parameetrite väärtused ühendada ja teha põhilised matemaatikad ning saate vastuse," ütles Rus. "Saate vastuse ühe hoobiga", selle asemel, et lasta arvutil jahvatada, kuni otsustate, et see on piisavalt lähedal. See vähendab arvutusaega ja -energiat, kiirendades protsessi oluliselt.

"Nende meetod on konkurentide ületamine mitme suurusjärgu võrra täpsust ohverdamata," ütles Sayan Mitra, Urbana-Champaigni Illinoisi ülikooli arvutiteadlane.

Lisaks kiiremale, ütles Hasani, on nende uusimad võrgud ka ebatavaliselt stabiilsed, mis tähendab, et süsteem saab hakkama tohutute sisenditega, ilma et see pahaks läheks. "Peamine panus on siin see, et stabiilsus ja muud toredad omadused on nendesse süsteemidesse lisatud nende ainuüksi struktuuriga, " ütles Sriram Sankaranarayanan, arvutiteadlane Colorado ülikoolist Boulderis. Paistab, et vedelad võrgud töötavad selles, mida ta nimetas "magusaks kohaks: need on piisavalt keerulised, et võimaldada huvitavatel asjadel juhtuda, kuid mitte nii keerulised, et viia kaootilise käitumiseni."

Hetkel katsetab MIT grupp oma uusimat võrku autonoomsel õhudroonil. Kuigi droon oli koolitatud metsas navigeerima, on nad selle Cambridge'i linnakeskkonda viinud, et näha, kuidas see uutes oludes hakkama saab. Lechner nimetas esialgseid tulemusi julgustavateks.

Lisaks praeguse mudeli täiustamisele töötab meeskond ka oma võrgu arhitektuuri täiustamise nimel. Järgmine samm, ütles Lechner, "on välja selgitada, kui palju või kui vähe neuroneid me konkreetse ülesande täitmiseks tegelikult vajame." Samuti soovib rühm välja töötada optimaalse viisi neuronite ühendamiseks. Praegu on iga neuron seotud kõigi teiste neuronitega, kuid see ei tööta nii C. elegans, kus sünaptilised ühendused on selektiivsemad. Ümarusside juhtmestiku edasiste uuringute abil loodavad nad kindlaks teha, millised nende süsteemi neuronid tuleks omavahel ühendada.

Lisaks sellistele rakendustele nagu autonoomne sõit ja lend, näivad vedelad võrgud hästi sobivat elektrivõrkude, finantstehingute, ilmastiku ja muude ajas kõikuvate nähtuste analüüsimiseks. Lisaks ütles Hasani, et vedelate võrkude uusimat versiooni saab kasutada "ajutegevuse simulatsioonide läbiviimiseks sellisel skaalal, mis ei olnud varem teostatav".

Mitra on sellest võimalusest eriti huvitatud. "Mõnes mõttes on see omamoodi poeetiline, näidates, et see uurimus võib täisringi jõuda," ütles ta. "Närvivõrgud arenevad nii kaugele, et need ideed, mille oleme loodusest ammutanud, võivad varsti aidata meil loodust paremini mõista."