Pavlovsk assosiativ læring er en grunnleggende form for læring som former atferden til mennesker og dyr. Imidlertid er trening med tilbakepropageringsmetoden på "konvensjonelle" ANN-er, spesielt i moderne dype nevrale nettverk, beregningsmessig og energikrevende.
Ny forskning basert på Pavlovsk læring med optisk parallell prosessering viser det spennende potensialet for ulike AI-oppgaver.
Forskere fra Oxford UniversityInstitutt for materialer, Universitetene i Exeter, og Munster har utviklet en on-chip optisk prosessor som kan oppdage likheter i datasett opptil 1,000 ganger raskere enn konvensjonelle maskinlæringsalgoritmer som kjører på elektroniske prosessorer.
Associative Monadic Learning Element (AMLE) bruker et minnemateriale som lærer mønstre for å assosiere lignende funksjoner i datasett, og simulerer den betingede refleksen observert av Pavlov i tilfelle av en "match" i stedet for tilbakepropageringen som foretrekkes av nevrale nettverk for å "fine- tune»-resultater.
For å overvåke læringsprosessen, er AMLE-inngangene paret med de riktige utgangene, og minnematerialet kan tilbakestilles ved hjelp av lyssignaler. Etter å ha trent med bare fem par bilder, ble AMLE testet og funnet å skille mellom katte- og ikke-kattbilder.
De betydelige ytelsesegenskapene til den nye optiske brikken i forhold til en konvensjonell elektronisk brikke er ned til to viktige forskjeller i design:
- En unik nettverksarkitektur som inkluderer assosiativ læring som en byggestein i stedet for å bruke nevroner og en nevrale nettverket.
- For å øke beregningshastigheten, bruk 'bølgelengdedelingsmultipleksing' for å sende flere optiske signaler på forskjellige bølgelengder på en enkelt kanal.
Brikketeknologien bruker lys for å overføre og motta data for å maksimere informasjonstettheten. Flere signaler med forskjellige bølgelengder leveres samtidig for parallell prosessering, og akselererer gjenkjenningsoppgavedeteksjonstider. Beregningshastigheten øker med hver bølgelengde.
Professor Wolfram Pernice, medforfatter fra Münster University, forklarte: "Enheten fanger naturlig opp likheter i datasett mens den gjør det parallelt ved å bruke lys for å øke den totale beregningshastigheten - som langt kan overgå evnene til konvensjonelle elektroniske brikker."
Den første forfatteren professor Zengguang Cheng, nå ved Fudan University, sa: "Det er mer effektivt for problemer som ikke trenger omfattende analyse av svært komplekse funksjoner i datasettene. Mange læringsoppgaver er volumbaserte og har ikke det kompleksitetsnivået – i disse tilfellene kan assosiativ læring fullføre oppgavene raskere og til en lavere beregningskostnad."
Professor Harish Bhaskaran, som ledet studien, sa, "Det er stadig tydeligere at AI vil være i sentrum for mange innovasjoner vi vil se i den kommende fasen av menneskehetens historie. Dette arbeidet baner vei for å realisere raske optiske prosessorer som fanger dataassosiasjoner for bestemte typer AI beregninger, selv om det fortsatt er mange spennende utfordringer fremover.»
Tidsreferanse:
- James YS Tan, Zengguang Cheng, et al. Monadisk Pavlovsk assosiativ læring i et fotonisk nettverk uten tilbakepropagasjon. Optica 9, 792-802 (2022). GJØR JEG: 10.1364/OPTICA.455864
