Pavlovsk associativ læring er en grundlæggende læringsform, der former menneskers og dyrs adfærd. Men træning ved hjælp af tilbagepropageringsmetoden på "konventionelle" ANN'er, især i moderne dybe neurale netværk, er beregningsmæssigt og energikrævende.
Ny forskning baseret på Pavlovsk læring med optisk parallel behandling viser det spændende potentiale for forskellige AI-opgaver.
Forskere fra Oxford Universityafdelingen for materialer, Universiteterne i Exeter, og Munster har udviklet en on-chip optisk processor, der kan registrere ligheder i datasæt op til 1,000 gange hurtigere end konventionelle maskinlæringsalgoritmer, der kører på elektroniske processorer.
Associative Monadic Learning Element (AMLE) bruger et hukommelsesmateriale, der lærer mønstre til at associere lignende funktioner i datasæt, simulerer den betingede refleks observeret af Pavlov i tilfælde af et "match" snarere end den tilbageudbredelse, der foretrækkes af neurale netværk for at "fine- tune” resultater.
For at overvåge indlæringsprocessen parres AMLE-indgangene med de passende udgange, og hukommelsesmaterialet kan nulstilles ved hjælp af lyssignaler. Efter træning med kun fem par billeder, blev AMLE testet og fundet at skelne mellem en kat og ikke-kat billeder.
Den nye optiske chips betydelige ydeevne i forhold til en konventionel elektronisk chip skyldes to nøgleforskelle i design:
- En unik netværksarkitektur, der inkorporerer associativ læring som en byggesten frem for at bruge neuroner og en neurale netværk.
- For at øge beregningshastigheden skal du bruge 'bølgelængdedelingsmultipleksing' til at sende flere optiske signaler på forskellige bølgelængder på en enkelt kanal.
Chipteknologien anvender lys til at transmittere og modtage data for at maksimere informationstætheden. Flere signaler med forskellige bølgelængder leveres samtidigt til parallel bearbejdning, hvilket accelererer detektionstider for genkendelsesopgaver. Beregningshastigheden stiger med hver bølgelængde.
Professor Wolfram Pernice, medforfatter fra Münster University, forklarede: "Enheden fanger naturligvis ligheder i datasæt, mens den gør det parallelt ved at bruge lys til at øge den overordnede beregningshastighed - hvilket langt kan overstige de traditionelle elektroniske chips."
Medforfatter professor Zengguang Cheng, nu ved Fudan University, sagde: "Det er mere effektivt til problemer, der ikke kræver omfattende analyse af meget komplekse funktioner i datasættene. Mange læringsopgaver er volumenbaserede og har ikke det niveau af kompleksitet – i disse tilfælde kan associativ læring fuldføre opgaverne hurtigere og til en lavere beregningsomkostninger.”
Professor Harish Bhaskaran, der ledede undersøgelsen, sagde, "Det er mere og mere tydeligt, at AI vil være i centrum for mange innovationer, vi vil være vidne til i den kommende fase af menneskehedens historie. Dette arbejde baner vejen for at realisere hurtige optiske processorer, der fanger dataassociationer for bestemte typer af AI beregninger, selvom der stadig er mange spændende udfordringer forude."
Journal Reference:
- James YS Tan, Zengguang Cheng, et al. Monadisk Pavlovsk associativ læring i et fotonisk netværk uden rygudbredelse. Optica 9, 792-802 (2022). DOI: 10.1364/OPTICA.455864
