Baby's zijn bruisende, knuffelige, giechelende ballen van vreugde. Het zijn ook enorm krachtige leermachines. Als ze drie maanden oud zijn, hebben ze al intuïtie over hoe de dingen om hen heen zich gedragen - zonder dat iemand hen expliciet de regels van het spel leert.
Dit vermogen, dat 'intuïtieve fysica' wordt genoemd, lijkt op het eerste gezicht uiterst triviaal. Als ik een glas vul met water en het op tafel zet, weet ik dat het glas een object is - iets waar ik mijn handen omheen kan wikkelen zonder dat het in mijn handpalmen smelt. Het zakt niet door de tafel. En als het begon te zweven, zou ik staren en dan meteen de deur uit rennen.
Baby's ontwikkelen dit vermogen snel door gegevens uit hun externe omgeving op te nemen en een soort 'gezond verstand' te vormen over de dynamiek van de fysieke wereld. Als dingen niet bewegen zoals verwacht, bijvoorbeeld in goocheltrucs waarbij objecten verdwijnen, zullen ze verrast zijn.
Voor AI is het een heel andere zaak. Terwijl recente AI-modellen mensen al hebben verslagen van het spelen van games tot het oplossen van decennia-oude wetenschappelijke raadsels, worstelen ze nog steeds met het ontwikkelen van intuïtie over de fysieke wereld.
Deze maand lieten onderzoekers van DeepMind, eigendom van Google, zich inspireren door ontwikkelingspsychologie en bouwde een AI die op natuurlijke wijze eenvoudige regels over de wereld extraheert door video's te bekijken. Netflix en chill werkten niet op zichzelf; het AI-model vanlleen leerde de regels van onze fysieke wereld toen ze een basisidee van objecten kregen, zoals wat hun grenzen zijn, waar ze zijn en hoe ze bewegen. Net als bij baby's toonde de AI "verrassing" wanneer magische situaties werden getoond die niet logisch waren, zoals een bal die een helling oprolt.
Nagesynchroniseerd met PLATO (voor Physics Learning through Auto-encoding en Tracking Objects), was de AI verrassend flexibel. Het had slechts een relatief klein aantal voorbeelden nodig om zijn 'intuïtie' te ontwikkelen. Toen het dat eenmaal had geleerd, kon de software zijn voorspellingen generaliseren over hoe dingen bewogen en in wisselwerking stonden met andere objecten, evenals over scenario's die nog nooit eerder waren tegengekomen.
In zekere zin raakt PLATO de sweet spot tussen nature en nurture. Ontwikkelingspsychologen hebben lang gediscussieerd over de vraag of leren bij baby's kan worden bereikt door alleen patronen te vinden in gegevens uit ervaringen. PLATO suggereert dat het antwoord nee is, althans niet voor deze specifieke taak. Zowel ingebouwde kennis als ervaring zijn van cruciaal belang om het hele leerverhaal te voltooien.
Voor alle duidelijkheid: PLATO is geen digitale replica van een drie maanden oude baby - en is daar ook nooit voor ontworpen. Het geeft echter wel een glimp van hoe onze eigen geest zich mogelijk ontwikkelt.
"Het werk... verlegt de grenzen van wat alledaagse ervaringen wel en niet kunnen verklaren in termen van intelligentie," commentaar Drs. Susan Hespos en Apoorva Shivaram, respectievelijk van de Northwestern University en Western Sydney University, die niet bij het onderzoek betrokken waren. Het kan "ons vertellen hoe we betere computermodellen kunnen bouwen die de menselijke geest simuleren".
Het raadsel van het gezond verstand
Als ze nog maar drie maanden oud zijn, zullen de meeste baby's geen oog dichtknijpen als ze een speeltje laten vallen en het op de grond valt; ze hebben het concept van zwaartekracht al opgepikt.
Hoe dit gebeurt, is nog steeds verbijsterend, maar er zijn enkele ideeën. Op die leeftijd hebben baby's nog steeds moeite om te kronkelen, kruipen of anderszins te bewegen. Hun inbreng van de buitenwereld is vooral door observatie. Dat is geweldig nieuws voor AI: het betekent dat in plaats van robots te bouwen om hun omgeving fysiek te verkennen, het mogelijk is om via video's een gevoel van natuurkunde in AI te brengen.
Het is een theorie die wordt onderschreven door Dr. Yann LeCun, een vooraanstaand AI-expert en hoofd AI-wetenschapper bij Meta. In een talk uit 2019, stelde hij dat baby's waarschijnlijk leren door observatie. Hun hersenen bouwen voort op deze gegevens om een conceptueel idee van de werkelijkheid te vormen. Daarentegen hebben zelfs de meest geavanceerde deep learning-modellen nog steeds moeite om een gevoel van onze fysieke wereld op te bouwen, wat beperkt hoeveel ze met de wereld kunnen omgaan - waardoor ze bijna letterlijk in de wolken zijn.
Dus hoe meet je het begrip van een baby van alledaagse natuurkunde? "Gelukkig voor ons hebben ontwikkelingspsychologen tientallen jaren besteed aan het bestuderen van wat baby's weten over de fysieke wereld," schreef hoofdwetenschapper Dr. Luis Piloto. Een bijzonder krachtige test is het paradigma van schending van verwachting (VoE). Laat een baby een bal zien die een heuvel oprolt, willekeurig verdwijnt of plotseling de andere kant op gaat, en de baby zal langer naar de afwijking staren dan wanneer hij zijn normale verwachtingen zou observeren. Er is iets vreemds aan de hand.
Space Oddity
In de nieuwe studie paste het team VoE aan voor het testen van AI. Ze pakten vijf verschillende fysieke concepten aan om PLATO te bouwen. Daaronder valt stevigheid - dat wil zeggen, twee objecten kunnen niet door elkaar heen gaan; en continuïteit - het idee dat dingen bestaan en niet knipperen, zelfs niet als ze worden verborgen door een ander object (de 'peek-a-boo'-test).
Om PLATO te bouwen, begon het team eerst met een standaardmethode in AI met een tweeledige aanpak. Eén component, het perceptuele model, neemt visuele gegevens op om discrete objecten in een afbeelding te ontleden. De volgende is de dynamische voorspeller, die een neuraal netwerk gebruikt om de geschiedenis van eerdere objecten te beschouwen en het gedrag van de volgende te voorspellen. Met andere woorden, het model bouwt een soort 'fysica-engine' die objecten of scenario's in kaart brengt en raadt hoe iets zich in het echte leven zou gedragen. Deze opstelling gaf PLATO een eerste idee van de fysieke eigenschappen van objecten, zoals hun positie en hoe snel ze bewegen.
Daarna kwam de opleiding. Het team toonde PLATO minder dan 30 uur aan synthetische video's van een open source dataset. Dit zijn geen video's van echte gebeurtenissen. Stel je liever old-school Nintendo-achtige blokvormige animaties voor van een bal die van een helling rolt, tegen een andere bal stuitert of plotseling verdwijnt. PLATO leerde uiteindelijk te voorspellen hoe een enkel object zou bewegen in het volgende videoframe, en werkte ook zijn geheugen voor dat object bij. Met training werden de voorspellingen voor de volgende "scène" nauwkeuriger.
Het team gooide vervolgens een moersleutel in de spaken. Ze presenteerden PLATO zowel een normale scène als een onmogelijke, zoals een bal die plotseling verdwijnt. Bij het meten van het verschil tussen de werkelijke gebeurtenis en de voorspellingen van PLATO, kon het team het niveau van 'verrassing' van de AI meten - dat door het dak ging voor magische gebeurtenissen.
Het leren veralgemeend naar andere bewegende objecten. Uitgedaagd met een compleet andere dataset ontwikkeld door MIT, met onder andere konijnen en bowlingpinnen, maakte PLATO vakkundig onderscheid tussen onmogelijke en realistische gebeurtenissen. PLATO had nog nooit eerder een konijn 'gezien', maar zonder enige hertraining toonde het verbazing toen een konijn de wetten van de fysica tartte. Net als bij baby's was PLATO in staat om zijn fysieke intuïtie vast te leggen met slechts 28 uur videotraining.
Tegen Hespos en Shivaram: "Deze bevindingen komen ook overeen met kenmerken die we zien in onderzoeken bij zuigelingen."
Digitale intuïtie
PLATO is niet bedoeld als een AI-model voor kinderredeneringen. Maar het laat zien dat het aanboren van onze ontluikende babyhersenen computers kan inspireren met een gevoel van lichamelijkheid, zelfs wanneer het software-"brein" letterlijk in een doos opgesloten zit. Het gaat niet alleen om het bouwen van humanoïde robots. Van protheses tot zelfrijdende auto's, een intuïtieve greep van de fysieke wereld overbrugt de amorfe digitale wereld van nullen en enen naar de alledaagse realiteit.
Het is niet de eerste keer dat AI-wetenschappers denken dat ze de geest van machines een boost kunnen geven met een vleugje vindingrijkheid voor peuters. een idee is om AI een gevoel van theory of mind te geven - het vermogen om zichzelf van anderen te onderscheiden en zichzelf in andermans schoenen te kunnen zien. Het is een vaardigheid die van nature voor kinderen van ongeveer vier jaar oud is, en als het wordt ingebed in AI-modellen, kan het enorm helpen om sociale interacties te begrijpen.
De nieuwe studie bouwt voort op onze eerste levensmaanden als een rijke bron voor het ontwikkelen van AI met gezond verstand. Voorlopig staat het vakgebied nog in de kinderschoenen. De auteurs geven hun dataset vrij zodat anderen kunnen voortbouwen op het vermogen van een AI-model om te interageren met complexere fysieke concepten, waaronder video's uit de echte wereld. Voor nu "kunnen deze onderzoeken dienen als een synergetische kans tussen AI en ontwikkelingswetenschap", aldus Hespos en Shivaram.
