A mesterséges intelligencia algoritmusait úgy tervezték, hogy az ütések és indítások során tanuljanak. Ahelyett, hogy tudásbázisukat folyamatosan frissítenék új információkkal, ahogyan az emberek teszik, az algoritmusok csak a képzési szakaszban tanulhatnak. Ezt követően tudásuk fagyott marad; elvégzik azt a feladatot, amelyre kiképezték őket, anélkül, hogy tovább tudnának tanulni. Ahhoz, hogy akár egy új dolgot is megtanulhassunk, az algoritmusokat újra a semmiből kell betanítani. Mintha minden alkalommal, amikor egy új emberrel találkoznál, csak úgy tudnád megtudni a nevét, ha újraindítod az agyad.
A nulláról való képzés a katasztrofális felejtésnek nevezett viselkedéshez vezethet, amikor a gép új ismereteket épít be annak az árán, hogy szinte mindent elfelejt, amit már megtanult. Ez a helyzet abból adódik, hogy a mai legerősebb AI-algoritmusok, az úgynevezett neurális hálózatok új dolgokat tanulnak meg.
Ezek az algoritmusok lazán az agyunkon alapulnak, ahol a tanulás magában foglalja a neuronok közötti kapcsolatok erősségének megváltoztatását. De ez a folyamat bonyolulttá válik. Az idegi kapcsolatok a múltbeli tudást is képviselik, így túlzott változtatásuk felejtést okoz.
A biológiai neurális hálózatok több százmillió év során olyan stratégiákat fejlesztettek ki, amelyek biztosítják a fontos információk stabilitását. De a mai mesterséges neurális hálózatok küzdenek azért, hogy megfelelő egyensúlyt találjanak az új és a régi tudás között. Kapcsolataik túl könnyen felülírhatók, amikor a hálózat új adatokat lát, ami a múltbeli információk hirtelen és súlyos kudarcát okozhatja.
Ennek megakadályozása érdekében Christopher Kanan, a Rochesteri Egyetem 41 éves informatikusa segített létrehozni a mesterséges intelligencia kutatásának egy új területét, amelyet folyamatos tanulásnak neveznek. Célja, hogy a mesterséges intelligencia folyamatosan új dolgokat tanuljon a folyamatos adatfolyamokból, és mindezt anélkül, hogy elfelejtené mindazt, ami korábban történt.
Kanan szinte egész életében a gépi intelligenciával játszik. Gyerekként Oklahomában, aki csak szórakozni akart a gépekkel, megtanította a botok játékát a korai többjátékos számítógépes játékokra. Emiatt elgondolkodott az általános mesterséges intelligencia lehetőségéről – egy olyan gépről, amely minden tekintetben képes emberként gondolkodni. Ez felkeltette az érdeklődést az elmék működése iránt, és filozófia és számítástechnika szakot végzett az Oklahoma State University-n, mielőtt a posztgraduális tanulmányai a San Diego-i Kaliforniai Egyetemre vitték volna.
Kanan most már nem csak a videojátékokban talál ihletet, hanem abban is, ahogy közel 2 éves lánya a világról tanul, és minden új tanulási tapasztalat az utolsóra épít. Az ő és mások munkája miatt a katasztrofális felejtés már nem olyan katasztrofális.
Quanta beszélt Kanannal a gépi memóriákról, a neurális hálózatok képzési szabályainak megszegéséről, és arról, hogy az AI valaha is eléri-e az emberi szintű tanulást. Az interjút az egyértelműség kedvéért sűrítettük és szerkesztettük.
Milyen hatással van a filozófiai képzésed a munkádról alkotott gondolkodásodra?
Akadémikusként nagyon jól szolgált. A filozófia azt tanítja neked: „Hogyan állítasz fel ésszerű érveket” és „Hogyan elemezed mások érveit?” Ez sok minden, amit a tudományban csinálsz. Még mindig vannak akkori esszéim a Turing-teszt kudarcairól és hasonló dolgokról. És ezeken a dolgokon még mindig sokat gondolok.
Laboratóriumomat a következő kérdés ihlette: Nos, ha nem tudjuk megcsinálni X-et, hogyan leszünk képesek Y-ra? Idővel tanulunk, de a neurális hálózatok általában nem. Egyszer kiképezed őket. Utána ez egy rögzített entitás. És ez egy alapvető dolog, amit meg kell oldanod, ha egyszer mesterséges általános intelligenciát akarsz létrehozni. Ha nem tud tanulni anélkül, hogy felpörgetné az agyát, és a nulláról indulna újra, akkor nem igazán fog eljutni oda, igaz? Számomra ez a képesség előfeltétele.
Hogyan kezelték eddig a kutatók a katasztrofális felejtést?
A legsikeresebb módszer, az úgynevezett újrajátszás, eltárolja a korábbi tapasztalatokat, majd edzés közben új példákkal visszajátssza, így nem vesznek el. Az agyunkban végbemenő memóriakonszolidáció ihlette, ahol alvás közben a napi tevékenységek magas szintű kódolása „újrajátszik”, ahogy a neuronok újraaktiválódnak.
Más szóval, az algoritmusok esetében az új tanulás nem tudja teljesen felszámolni a múltbeli tanulást, mivel keverjük a tárolt múltbeli tapasztalatokat.
Három stílus létezik erre. A legelterjedtebb stílus a „veridical replay”, ahol a kutatók a nyers bemenetek egy részét tárolják – például az objektumfelismerési feladat eredeti képeit –, majd ezeket a múltból származó tárolt képeket új, megtanulandó képekkel keverik össze. A második megközelítés a képek tömörített reprezentációit játssza vissza. A harmadik, sokkal kevésbé elterjedt módszer a „generatív újrajátszás”. Itt egy mesterséges neurális hálózat valójában egy múltbeli tapasztalat szintetikus változatát állítja elő, majd ezt a szintetikus példát új példákkal keveri. Laboratóriumom az utóbbi két módszerre összpontosított.
Sajnos azonban az újrajátszás nem túl kielégítő megoldás.
Miért nem?
Ahhoz, hogy valami újat tanulhasson, a neurális hálózatnak legalább néhány információt el kell tárolnia minden, a múltban tanult fogalomról. És idegtudományi szempontból a hipotézis az, hogy te és én egy viszonylag friss tapasztalatot játszunk le – nem olyasmit, ami gyerekkorunkban történt –, hogy megakadályozzuk, hogy elfelejtsük ezt a közelmúltbeli tapasztalatot. Míg a mély neurális hálózatokban ezt tesszük, ez nem igaz. Nem feltétlenül kell mindent eltárolnia, amit látott, de el kell tárolnia valamit a múltban megtanult minden feladatról az újrajátszás használatához. És nem világos, hogy mit kell tárolni. Tehát úgy tűnik, hogy a ma történt újrajátszás még mindig nem ér véget.
Ha teljesen meg tudnánk oldani a katasztrofális felejtést, az azt jelentené, hogy az AI idővel folyamatosan új dolgokat tanulhatna?
Nem pontosan. Úgy gondolom, hogy a folyamatos tanulás terén a nagy, nagy, nagy nyitott kérdések nincsenek katasztrofális feledésben. Ami igazán érdekel, az az: Hogyan teszi a múltbeli tanulást hatékonyabbá a jövőbeli tanulást? És hogyan korrigálja a múlt tanulságait, ha valamit a jövőben tanulunk? Ezek olyan dolgok, amelyeket nem sokan mérnek fel, és szerintem ez kritikus része a mezőny előremozdításának, mert valójában nem arról van szó, hogy egyszerűen elfelejtünk dolgokat. Ez arról szól, hogy jobb tanulóvá válj.
Szerintem ott hiányzik a mezőből az erdő a fáknak. A közösség nagy része úgy állítja be a problémát, hogy az nem felel meg sem az érdekes biológiai kérdéseknek, sem az érdekes mérnöki alkalmazásoknak. Nem hagyhatjuk, hogy mindenki folyton ugyanazt a játékproblémát csinálja. Azt kell mondanod: Mi a kesztyűs feladatunk? Hogyan vigyük előre a dolgokat?
Akkor miért gondolja, hogy a legtöbb ember ezekre az egyszerű problémákra összpontosít?
Csak találgatni tudok. A legtöbb munkát olyan hallgatók végzik, akik követik a múltbeli munkákat. Másolják a beállításokat, amit mások csináltak, és kisebb teljesítménynövekedést mutatnak be ugyanazokkal a mérésekkel. Az új algoritmusok elkészítése nagyobb valószínűséggel vezet publikációhoz, még akkor is, ha ezek az algoritmusok nem igazán teszik lehetővé számunkra, hogy jelentős előrelépést érjünk el a folyamatos tanulásban. Engem az lep meg, hogy hasonló munkát végeznek nagy cégek, akiknek nincs ugyanaz az ösztönzése, kivéve a gyakornoki munkát.
Ezenkívül ez a munka nem triviális. Meg kell határoznunk a megfelelő kísérleti és algoritmikus beállítást annak mérésére, hogy a múltbeli tanulás segít-e a jövőbeli tanulásban. A nagy probléma az, hogy jelenleg nincsenek megfelelő adatkészleteink a folyamatos tanulás tanulmányozásához. Úgy értem, alapvetően a hagyományos gépi tanulásban használt, meglévő adatkészleteket használjuk, és újrahasznosítjuk őket.
Lényegében a gépi tanulás dogmájában (vagy legalábbis amikor elkezdem tanítani a gépi tanulást) van egy oktatókészletünk, van egy tesztkészletünk — edzünk az oktatókészleten, tesztelünk a tesztkészleten. A folyamatos tanulás megszegi ezeket a szabályokat. A képzési készlet ezután olyasvalamivé válik, ami fejlődik, ahogy a tanuló tanul. De továbbra is a meglévő adatkészletekre korlátozódunk. Ezen dolgoznunk kell. Egy igazán jó, folyamatos tanulási környezetre van szükségünk, amelyben igazán kiélhetjük magunkat.
Milyen lenne az ideális folyamatos tanulási környezet?
Könnyebb megmondani, hogy mi nem, mint hogy mi az. Részt vettem egy panelen, ahol ezt kritikus problémaként azonosítottuk, de nem hiszem, hogy bárki azonnal megkapja a választ.
Meg tudom mondani, milyen tulajdonságai lehetnek. Tehát most tegyük fel, hogy az AI-algoritmusok nem megtestesült ügynökök szimulációkban. Akkor legalább ideális esetben tanulunk a videókból, vagy valami hasonlóból, mint például a multimodális videofolyamokból, és remélhetőleg többet teszünk [statikus képek] osztályozásánál.
Sok nyitott kérdés van ezzel kapcsolatban. Néhány évvel ezelőtt részt vettem egy folyamatos tanulási workshopon, és néhány hozzám hasonló ember azt mondta: „Le kell hagynunk az MNIST nevű adatkészlet használatával, ez túl egyszerű.” Aztán valaki azt mondta: „Rendben, nos, tanuljuk meg fokozatosan a StarCraftot [a stratégiai alapú videojátékot].” És most is ezt teszem különböző okok miatt, de nem hiszem, hogy ez is igaz lenne. Az élet sokkal gazdagabb, mint megtanulni StarCraftot játszani.
Hogyan próbált az Ön laborja olyan algoritmusokat megtervezni, amelyek az idő múlásával képesek tanulni?
Egykori tanítványommal, Tyler Hayes-el, én folyamatos tanulási feladat úttörője volt az analóg érveléshez. Úgy gondoltuk, hogy ez egy jó terület a transzfertanulás gondolatának tanulmányozására, ahol készségeket sajátít el, és most összetettebb készségeket kell használnia összetettebb problémák megoldásához. Pontosabban azt mértük, hogy a visszafelé átvitel mennyire segít a múltban tanulni, és fordítva. És jó bizonyítékot találtunk az átvitelre, sokkal fontosabbra, mint egy olyan egyszerű feladatra, mint az objektumfelismerés.
Laboratóriuma az algoritmusok betanítására is összpontosít, hogy folyamatosan tanuljanak egy-egy példából vagy nagyon kis példakészletekből. Hogyan segít ez?
Sok folyamatos tanulási beállítás még mindig nagyon nagy mennyiségű példát használ. Tehát lényegében azt mondják majd az algoritmusnak: „Itt van 100,000 100,000 dolog; tanuld meg őket. Íme a következő XNUMX XNUMX dolog; tanuld meg őket." Ez nem igazán egyezik azzal, amit a valós alkalmazásnak mondanék, vagyis: „Itt van egy új dolog; Tanuld meg. Itt van még egy újdonság; Tanuld meg."
Ha azt akarjuk, hogy a mesterséges intelligencia többet tanuljon, mint mi, akkor arra is törekednünk kell, hogy megismételjük azt, ahogyan az emberek különböző életkorban különböző dolgokat tanulnak, folyamatosan finomítva tudásunkat?
Úgy gondolom, hogy ez egy nagyon gyümölcsöző út az előrelépéshez ezen a területen. Az emberek azt mondják nekem, hogy most, hogy gyerekem van, csak a fejlődés megszállottja vagyok, de látom, hogy a lányom képes egy csapásra tanulásra, ahol látja, hogy egyszer csinálok valamit, és azonnal le tudja másolni. A gépi tanulási algoritmusok pedig ma már semmi ilyesmire nem képesek.
Tényleg kinyitotta a szemem. Sokkal több kell a fejünkben, mint a modern neurális hálózatainkban. Ezért gondolom, hogy a szakterületnek az idő múlásával a tanulás e gondolata felé kell haladnia, ahol az algoritmusok jobb tanulókká válnak a múlt tapasztalataira építve.
Gondolod, hogy a mesterséges intelligencia valaha is ugyanúgy tanulni fog, mint az emberek?
Szerintem fognak. Egyértelműen. Ma ez sokkal ígéretesebb, mert nagyon sok ember dolgozik ezen a területen. De még mindig több kreativitásra van szükségünk. A gépi tanulási közösség kultúrájának nagy része a vezetőt követő megközelítés.
Azt gondolom, hogy csak biokémiai gépek vagyunk, és végül rá fogunk jönni, hogyan készítsük el az algoritmusainkat a megfelelő architektúrákhoz, amelyek szerintem több képességgel rendelkeznek majd, mint manapság. Számomra nincs olyan meggyőző érv, amely szerint ez lehetetlen.
