Nauka asocjacyjna Pawłowa jest podstawową formą uczenia się, która kształtuje zachowanie ludzi i zwierząt. Jednak szkolenie z wykorzystaniem metody wstecznej propagacji błędów na „konwencjonalnych” sieciach SSN, zwłaszcza w nowoczesnych głębokich sieciach neuronowych, jest energochłonne i obliczeniowe.
Nowe badania oparte na uczeniu się Pawłowa z równoległym przetwarzaniem optycznym pokazują ekscytujący potencjał różnych zadań AI.
Naukowcy z Oxford UniversityDział Materiałów, Uniwersytety w Exeter, a firma Munster opracowała wbudowany procesor optyczny, który może wykrywać podobieństwa w zestawach danych do 1,000 razy szybciej niż konwencjonalne algorytmy uczenia maszynowego działające na procesorach elektronicznych.
Asocjacyjny element uczenia się monadycznego (AMLE) wykorzystuje materiał pamięciowy, który uczy się wzorców, aby kojarzyć ze sobą podobne cechy w zbiorach danych, symulując odruch warunkowy obserwowany przez Pawłowa w przypadku „dopasowania”, a nie propagacji wstecznej preferowanej przez sieci neuronowe do „dokładnego”. dostroić”.
Aby nadzorować proces uczenia, wejścia AMLE są sparowane z odpowiednimi wyjściami, a materiał pamięci można zresetować za pomocą sygnałów świetlnych. Po treningu z zaledwie pięcioma parami obrazów, AMLE został przetestowany i stwierdzono, że rozróżnia obrazy kota i nie-kota.
Znaczne możliwości nowego układu optycznego w porównaniu z konwencjonalnym układem elektronicznym sprowadzają się do dwóch kluczowych różnic w konstrukcji:
- Unikalna architektura sieciowa zawierająca asocjacyjne uczenie się jako element konstrukcyjny zamiast wykorzystywania neuronów i a sieci neuronowe.
- Aby zwiększyć prędkość obliczeniową, użyj „multipleksowania z podziałem długości fali”, aby wysłać wiele sygnałów optycznych o różnych długościach fal w jednym kanale.
Technologia chipowa wykorzystuje światło do przesyłania i odbierania danych, aby zmaksymalizować gęstość informacji. Wiele sygnałów o różnych długościach fal jest dostarczanych jednocześnie w celu równoległego przetwarzania, przyspieszając czas wykrywania zadań rozpoznawania. Prędkość obliczeniowa rośnie z każdą długością fali.
Profesor Wolfram Pernice, współautor z Uniwersytetu w Münster, wyjaśnił: „Urządzenie naturalnie wychwytuje podobieństwa w zestawach danych, robiąc to jednocześnie, wykorzystując światło w celu zwiększenia ogólnej szybkości obliczeń – co może znacznie przekroczyć możliwości konwencjonalnych chipów elektronicznych”.
Współpierwszy autor, profesor Zengguang Cheng, obecnie na Uniwersytecie Fudan, powiedział: „Jest bardziej wydajny w przypadku problemów, które nie wymagają szczegółowej analizy bardzo złożonych funkcji w zestawach danych. Wiele zadań edukacyjnych jest opartych na objętości i nie ma takiego poziomu złożoności – w takich przypadkach uczenie asocjacyjne może wykonać zadania szybciej i przy niższych kosztach obliczeniowych”.
Profesor Harish Bhaskaran, który prowadził badanie, powiedziany, „Coraz bardziej oczywiste jest, że sztuczna inteligencja będzie w centrum wielu innowacji, których będziemy świadkami w nadchodzącej fazie historii ludzkości. Ta praca toruje drogę do realizacji szybkich procesorów optycznych, które przechwytują powiązania danych dla określonych typów AI obliczeń, choć przed nami jeszcze wiele ekscytujących wyzwań”.
Referencje czasopisma:
- James YS Tan, Zengguang Cheng, et al. Monadyczne uczenie asocjacyjne Pawłowa w sieci fotonicznej wolnej od wstecznej propagacji. optyka 9, 792-802 (2022). DOI: 10.1364/OPTYKA.455864
