Tutkijat löytävät joustavamman lähestymistavan koneoppimiseen

Tekoälyn tutkijat ovat juhlineet menestyksen sarjaa hermoverkkoihin, tietokoneohjelmia, jotka jäljittelevät karkeasti aivomme järjestystä. Mutta nopeasta edistymisestä huolimatta hermoverkot ovat edelleen suhteellisen joustamattomia, ja niillä on vain vähän kykyä muuttua lennossa tai sopeutua tuntemattomiin olosuhteisiin.

Vuonna 2020 kaksi Massachusetts Institute of Technologyn tutkijaa johti ryhmää, joka esitteli uudenlainen neuroverkko perustuu tosielämän älykkyyteen - mutta ei omaan. Sen sijaan he saivat inspiraatiota pienestä sukkulamatosta, Caenorhabditis elegans, tuottaa niin sanottuja nestemäisiä hermoverkkoja. Viime vuoden läpimurron jälkeen uudet verkot voivat nyt olla tarpeeksi monipuolisia korvaamaan perinteiset vastineensa tietyissä sovelluksissa.

Nestemäiset neuroverkot tarjoavat "tyylikäs ja kompakti vaihtoehto", sanoi Ken Goldberg, robotiikka Kalifornian yliopistossa Berkeleyssä. Hän lisäsi, että kokeet osoittavat jo, että nämä verkot voivat toimia nopeammin ja tarkemmin kuin muut niin sanotut jatkuvan ajan hermoverkot, jotka mallintavat järjestelmiä, jotka vaihtelevat ajan myötä.

Ramin Hasani ja Mathias Lechner, uuden suunnittelun liikkeellepaneva voima, tajusi vuosia sitten, että C. elegans voisi olla ihanteellinen organismi sen selvittämiseen, kuinka luoda kimmoisia hermoverkkoja, jotka voivat kestää yllätyksiä. Millimetrin pituinen pohjasyöttölaite on yksi harvoista olennoista, joilla on täysin kartoitettu hermosto, ja se kykenee monenlaisiin edistyneisiin käyttäytymismalleihin: liikkumaan, etsimään ruokaa, nukkumaan, pariutumaan ja jopa oppimaan kokemuksesta. "Se elää todellisessa maailmassa, jossa muutosta tapahtuu aina, ja se voi toimia hyvin melkein kaikissa olosuhteissa", Lechner sanoi.

Kunnioitus alhaista matoa kohtaan johti hänet ja Hasanin heidän uusiin nesteverkkoihinsa, joissa jokaista hermosolua hallitsee yhtälö, joka ennustaa sen käyttäytymisen ajan kuluessa. Ja aivan kuten neuronit ovat yhteydessä toisiinsa, nämä yhtälöt riippuvat toisistaan. Verkko ratkaisee pohjimmiltaan tämän koko linkitettyjen yhtälöiden joukon, jolloin se voi luonnehtia järjestelmän tilaa kulloinkin - poikkeamalla perinteisistä hermoverkoista, jotka antavat tuloksia vain tiettyinä hetkinä.

"[He] voivat kertoa sinulle vain, mitä tapahtuu yhdessä, kahdessa tai kolmessa sekunnissa", Lechner sanoi. "Mutta meidän kaltainen jatkuvan ajan malli voi kuvata, mitä tapahtuu 0.53 sekunnissa tai 2.14 sekunnissa tai missä tahansa muussa valitsemassasi ajankohdassa."

Nesteverkot eroavat myös siinä, miten ne käsittelevät synapseja, keinotekoisten hermosolujen välisiä yhteyksiä. Näiden yhteyksien vahvuus tavallisessa neuroverkossa voidaan ilmaista yhdellä numerolla, sen painolla. Nesteverkoissa signaalien vaihto neuronien välillä on todennäköisyyspohjainen prosessi, jota ohjaa "epälineaarinen" funktio, mikä tarkoittaa, että vasteet tuloihin eivät aina ole verrannollisia. Esimerkiksi syötteen kaksinkertaistaminen voi johtaa paljon suurempaan tai pienempään tuotoksen muutokseen. Tämän sisäänrakennetun vaihtelun vuoksi verkkoja kutsutaan "nesteiksi". Tapa, jolla neuroni reagoi, voi vaihdella sen vastaanottaman syötteen mukaan.

Vaikka perinteisten verkkojen ytimessä olevat algoritmit asetetaan harjoittelun aikana, kun näille järjestelmille syötetään datariitoja niiden painojen parhaiden arvojen kalibroimiseksi, nestemäiset hermoverkot ovat mukautuvampia. "He pystyvät muuttamaan taustalla olevia yhtälöitään havaitsemiensa syötteiden perusteella", mikä muuttaa erityisesti sitä, kuinka nopeasti neuronit reagoivat, sanoi. Daniela rusMIT:n tietojenkäsittelytieteen ja tekoälylaboratorion johtaja.

Yksi varhainen testi tämän kyvyn esittelemiseksi sisälsi yrittämisen ohjata autonomista autoa. Perinteinen hermoverkko pystyi analysoimaan auton kameran visuaalista dataa vain tietyin väliajoin. Nesteverkko, joka koostuu 19 neuronista ja 253 synapsista (joka tekee siitä koneoppimisen standardien mukaan vähäisen) paljon reagoivampi. "Mallimme voi ottaa näytteitä useammin esimerkiksi silloin, kun tie on mutkainen", sanoi Rus, tämän ja useiden muiden nesteverkkoa käsittelevien papereiden toinen kirjoittaja.

Malli piti auton radalla onnistuneesti, mutta siinä oli yksi virhe, Lechner sanoi: "Se oli todella hidasta." Ongelma johtui synapseja ja neuroneja edustavista epälineaarisista yhtälöistä – yhtälöistä, joita ei yleensä voida ratkaista ilman toistuvia laskelmia tietokoneella, joka käy läpi useita iteraatioita ennen kuin lopulta konvergoi ratkaisuun. Tämä työ on tyypillisesti delegoitu omistetuille ohjelmistopaketeille, joita kutsutaan ratkaisijaksi, ja joita tulisi soveltaa erikseen jokaiseen synapsiin ja neuroniin.

Jonkin sisällä paperi viime vuonna, tiimi paljasti uuden nestemäisen hermoverkon, joka kiertää pullonkaulan. Tämä verkko nojautui samantyyppisiin yhtälöihin, mutta tärkein edistysaskel oli Hasanin havainto, että näitä yhtälöitä ei tarvinnut ratkaista vaivalloisilla tietokonelaskelmilla. Sen sijaan verkko voisi toimia lähes täsmällisesti eli ”suljetun muodon” ratkaisulla, joka voitaisiin periaatteessa työstää kynällä ja paperilla. Tyypillisesti näillä epälineaarisilla yhtälöillä ei ole suljetun muodon ratkaisuja, mutta Hasani osui likimääräiseen ratkaisuun, joka oli tarpeeksi hyvä käytettäväksi.

"Suljetun muodon ratkaisu tarkoittaa, että sinulla on yhtälö, jolle voit kytkeä sen parametrien arvot ja tehdä peruslaskennan, ja saat vastauksen", Rus sanoi. "Saat vastauksen yhdellä laukauksella" sen sijaan, että antaisit tietokoneen jauhaa, kunnes se päättää, että se on tarpeeksi lähellä. Tämä vähentää laskennallista aikaa ja energiaa, mikä nopeuttaa prosessia huomattavasti.

"Heidän menetelmänsä on voittaa kilpailijat useilla suuruusluokilla tarkkuudesta tinkimättä", sanoi Sayan Mitra, tietojenkäsittelytieteilijä Illinoisin yliopistosta, Urbana-Champaignista.

Sen lisäksi, että Hasani sanoi, että heidän uusimmat verkkonsa ovat nopeampia, ne ovat myös epätavallisen vakaita, mikä tarkoittaa, että järjestelmä pystyy käsittelemään valtavia syöttöjä ilman, että se menee hukkaan. "Tässä tärkein panos on se, että stabiilius ja muut mukavat ominaisuudet leimautuvat näihin järjestelmiin niiden pelkän rakenteen ansiosta", sanoi Sriram Sankaranarayanan, tietojenkäsittelytieteilijä Coloradon yliopistosta, Boulderista. Nestemäiset verkot näyttävät toimivan siinä, mitä hän kutsui "söpöksi paikaksi: ne ovat tarpeeksi monimutkaisia ​​salliakseen mielenkiintoisten asioiden tapahtua, mutta eivät niin monimutkaisia, että ne johtaisivat kaoottiseen käyttäytymiseen".

Tällä hetkellä MIT-ryhmä testaa uusinta verkkoaan autonomisella antennilennolla. Vaikka drone on koulutettu navigoimaan metsässä, he ovat siirtäneet sen Cambridgen kaupunkiympäristöön nähdäkseen, kuinka se selviytyy uusista olosuhteista. Lechner piti alustavia tuloksia rohkaisevina.

Nykyisen mallin jalostamisen lisäksi tiimi pyrkii myös parantamaan verkkonsa arkkitehtuuria. Seuraava askel, Lechner sanoi, "on selvittää, kuinka monta tai kuinka vähän neuronia tarvitsemme tietyn tehtävän suorittamiseen." Ryhmä haluaa myös kehittää optimaalisen tavan yhdistää neuronit. Tällä hetkellä jokainen neuroni linkittää jokaiseen toiseen neuroniin, mutta se ei toimi näin C. elegans, jossa synaptiset yhteydet ovat valikoivampia. Sukulamadon johdotusjärjestelmän lisätutkimuksilla he toivovat voivansa määrittää, mitkä heidän järjestelmänsä neuronit tulisi kytkeä yhteen.

Autonomisen ajon ja lennon kaltaisten sovellusten lisäksi nestemäiset verkot näyttävät soveltuvan hyvin sähköverkkojen, rahoitustapahtumien, sään ja muiden ajan myötä vaihtelevien ilmiöiden analysointiin. Lisäksi Hasani sanoi, että uusinta versiota nestemäisistä verkoista voidaan käyttää "aivojen toimintasimulaatioiden suorittamiseen sellaisessa mittakaavassa, jota ei ole aiemmin toteutettu".

Mitra on erityisen kiinnostunut tästä mahdollisuudesta. "Se on tavallaan runollista, mikä osoittaa, että tämä tutkimus saattaa olla saavuttamassa täyden ympyrän", hän sanoi. "Neuraaliverkot kehittyvät siihen pisteeseen, että juuri luonnosta saamamme ideat voivat pian auttaa meitä ymmärtämään luontoa paremmin."