Pawlowsches assoziatives Lernen ist eine grundlegende Form des Lernens, die das Verhalten von Mensch und Tier prägt. Das Training mit der Backpropagation-Methode auf „herkömmlichen“ KNNs, insbesondere in modernen tiefen neuronalen Netzen, ist jedoch rechen- und energieintensiv.
Neue Forschung auf der Grundlage des Pawlowschen Lernens mit optischer Parallelverarbeitung zeigt das spannende Potenzial für verschiedene KI-Aufgaben.
Wissenschaftler aus Oxford UniversityMaterialabteilung, Universitäten von Exeter, und Munster haben einen optischen On-Chip-Prozessor entwickelt, der Ähnlichkeiten in Datensätzen bis zu 1,000-mal schneller erkennen kann als herkömmliche Algorithmen für maschinelles Lernen, die auf elektronischen Prozessoren ausgeführt werden.
Das Associative Monadic Learning Element (AMLE) verwendet ein Gedächtnismaterial, das Muster lernt, um ähnliche Merkmale in Datensätzen zu assoziieren, und simuliert den bedingten Reflex, der von Pavlov im Fall einer „Übereinstimmung“ beobachtet wurde, und nicht die Backpropagation, die von neuronalen Netzwerken bevorzugt wird, um „Fein- tune“ Ergebnisse.
Zur Überwachung des Lernvorgangs werden die AMLE-Eingänge mit den entsprechenden Ausgängen gepaart und das Speichermaterial kann über Lichtsignale zurückgesetzt werden. Nach dem Training mit nur fünf Bildpaaren wurde das AMLE getestet und es wurde festgestellt, dass es zwischen Katzen- und Nicht-Katzenbildern unterscheiden kann.
Die beträchtliche Leistungsfähigkeit des neuen optischen Chips gegenüber einem herkömmlichen elektronischen Chip ist auf zwei wesentliche Designunterschiede zurückzuführen:
- Eine einzigartige Netzwerkarchitektur, die assoziatives Lernen als Baustein enthält, anstatt Neuronen zu verwenden und a neuronale Netzwerk.
- Um die Rechengeschwindigkeit zu erhöhen, verwenden Sie „Wellenlängenmultiplexing“, um mehrere optische Signale auf verschiedenen Wellenlängen auf einem einzigen Kanal zu senden.
Die Chiptechnologie verwendet Licht zum Übertragen und Empfangen von Daten, um die Informationsdichte zu maximieren. Mehrere Signale mit verschiedenen Wellenlängen werden gleichzeitig für eine parallele Verarbeitung bereitgestellt, was die Erkennungszeiten für Erkennungsaufgaben beschleunigt. Die Rechengeschwindigkeit steigt mit jeder Wellenlänge.
Professor Wolfram Pernice, Co-Autor von der WWU, erklärte: „Das Gerät erfasst auf natürliche Weise Ähnlichkeiten in Datensätzen, während es gleichzeitig Licht verwendet, um die Gesamtberechnungsgeschwindigkeit zu erhöhen – was die Fähigkeiten herkömmlicher elektronischer Chips bei weitem übersteigen kann.“
Co-Erstautor Professor Zengguang Cheng, jetzt an der Fudan-Universität, sagte: „Es ist effizienter für Probleme, die keine umfassende Analyse hochkomplexer Merkmale in den Datensätzen erfordern. Viele Lernaufgaben sind volumenbasiert und nicht so komplex – in diesen Fällen kann assoziatives Lernen die Aufgaben schneller und mit geringeren Rechenkosten erledigen.“
Professor Harish Bhaskaran, der die Studie leitete, sagte, „Es wird immer offensichtlicher, dass KI im Mittelpunkt vieler Innovationen stehen wird, die wir in der kommenden Phase der Menschheitsgeschichte erleben werden. Diese Arbeit ebnet den Weg zur Realisierung schneller optischer Prozessoren, die Datenzuordnungen für bestimmte Arten von AI Berechnungen, obwohl noch viele spannende Herausforderungen vor uns liegen.“
Journal Referenz:
- James YS Tan, Zengguang Cheng, et al. Monadisches Pawlowsches assoziatives Lernen in einem backpropagation-freien photonischen Netzwerk. Optica 9, 792–802 (2022). DOI: 10.1364/OPTICA.455864
