Pavlovsk associativ inlärning är en grundläggande form av lärande som formar människors och djurs beteende. Däremot är träning med backpropagation-metoden på "konventionella" ANN, särskilt i moderna djupa neurala nätverk, beräknings- och energikrävande.
Ny forskning baserad på Pavlovsk inlärning med optisk parallell bearbetning visar den spännande potentialen för olika AI-uppgifter.
Forskare från Oxford Universityavdelningen för material, Universiteten i Exeter, och Munster har utvecklat en on-chip optisk processor som kan upptäcka likheter i datauppsättningar upp till 1,000 XNUMX gånger snabbare än konventionella maskininlärningsalgoritmer som körs på elektroniska processorer.
Associative Monadic Learning Element (AMLE) använder ett minnesmaterial som lär sig mönster för att associera samman liknande egenskaper i datauppsättningar, och simulerar den villkorliga reflex som observerats av Pavlov i fallet med en "match" snarare än den bakåtpropagation som föredras av neurala nätverk för att "fin- tune” resultat.
För att övervaka inlärningsprocessen paras AMLE-ingångarna med lämpliga utgångar, och minnesmaterialet kan återställas med hjälp av ljussignaler. Efter att ha tränat med bara fem par bilder testades AMLE och visade sig skilja mellan en katt och icke-kattbilder.
De avsevärda prestandamöjligheterna hos det nya optiska chippet jämfört med ett konventionellt elektroniskt chip beror på två viktiga skillnader i design:
- En unik nätverksarkitektur som innehåller associativt lärande som en byggsten snarare än att använda neuroner och en neurala nätverk.
- För att öka beräkningshastigheten, använd "våglängdsmultiplexering" för att skicka flera optiska signaler på olika våglängder på en enda kanal.
Chipteknologin använder ljus för att överföra och ta emot data för att maximera informationstätheten. Flera signaler med olika våglängder tillförs samtidigt för parallell bearbetning, vilket påskyndar tiderna för identifiering av uppgifter. Beräkningshastigheten ökar för varje våglängd.
Professor Wolfram Pernice, medförfattare från Münster University, förklarade: "Enheten fångar naturligt likheter i datauppsättningar samtidigt som den gör det parallellt med ljus för att öka den totala beräkningshastigheten - vilket vida kan överstiga kapaciteten hos konventionella elektroniska chips."
Den första författaren professor Zengguang Cheng, nu vid Fudan University, sa: "Det är mer effektivt för problem som inte behöver substantiell analys av mycket komplexa funktioner i datamängderna. Många lärandeuppgifter är volymbaserade och har inte den komplexitetsnivån – i dessa fall kan associativ inlärning slutföra uppgifterna snabbare och till en lägre beräkningskostnad.”
Professor Harish Bhaskaran, som ledde studien, sade, "Det är allt tydligare att AI kommer att stå i centrum för många innovationer vi kommer att bevittna i den kommande fasen av mänsklighetens historia. Detta arbete banar väg för att förverkliga snabba optiska processorer som fångar dataassociationer för särskilda typer av AI beräkningar, även om det fortfarande finns många spännande utmaningar framför oss.”
Tidskriftsreferens:
- James YS Tan, Zengguang Cheng, et al. Monadisk Pavlovsk associativ inlärning i ett fotoniskt nätverk utan återförökning. Optica 9, 792-802 (2022). DOI: 10.1364/OPTICA.455864
