Павловское ассоциативное обучение — это основная форма обучения, которая формирует поведение людей и животных. Однако обучение с использованием метода обратного распространения на «обычных» ИНС, особенно в современных глубоких нейронных сетях, требует больших вычислительных ресурсов и энергии.
Новое исследование, основанное на павловском обучении с оптической параллельной обработкой, демонстрирует захватывающий потенциал для различных задач ИИ.
Ученые из Оксфордский университетотдел материалов, Университеты Эксетераи Munster разработали встроенный оптический процессор, который может обнаруживать сходство в наборах данных до 1,000 раз быстрее, чем обычные алгоритмы машинного обучения, работающие на электронных процессорах.
Ассоциативный монадический обучающий элемент (AMLE) использует материал памяти, который запоминает шаблоны, чтобы связать вместе схожие функции в наборах данных, имитируя условный рефлекс, наблюдаемый Павловым в случае «совпадения», а не обратное распространение, предпочитаемое нейронными сетями для «точности». настроить».
Для наблюдения за процессом обучения входы AMLE сопряжены с соответствующими выходами, а материал памяти можно сбрасывать с помощью световых сигналов. После обучения всего с пятью парами изображений AMLE был протестирован и обнаружил, что он различает изображения кошек и других изображений.
Значительные возможности нового оптического чипа по сравнению с обычным электронным чипом обусловлены двумя ключевыми отличиями в конструкции:
- Уникальная сетевая архитектура, включающая ассоциативное обучение в качестве строительного блока, а не использование нейронов и нейронной сети.
- Чтобы увеличить скорость вычислений, используйте «мультиплексирование с разделением по длине волны» для отправки нескольких оптических сигналов на разных длинах волн по одному каналу.
Технология чипа использует свет для передачи и приема данных, чтобы максимизировать плотность информации. Несколько сигналов на разных длинах волн подаются одновременно для параллельной обработки, что ускоряет время обнаружения задачи распознавания. Скорость вычислений возрастает с каждой длиной волны.
Профессор Вольфрам Пернис, соавтор из Мюнстерского университета, объяснил: «Устройство естественным образом фиксирует сходство в наборах данных, делая это параллельно, используя свет для увеличения общей скорости вычислений, которая может намного превышать возможности обычных электронных чипов».
Соавтор, профессор Цзэнгуан Ченг, сейчас работающий в Фуданьском университете, сказал: «Это более эффективно для задач, не требующих существенного анализа очень сложных функций в наборах данных. Многие учебные задачи основаны на объеме и не имеют такого уровня сложности — в этих случаях ассоциативное обучение может выполнять задачи быстрее и с меньшими вычислительными затратами».
Профессор Хариш Бхаскаран, руководивший исследованием, — сказал, «Становится все более очевидным, что ИИ будет в центре многих инноваций, свидетелями которых мы станем на грядущем этапе истории человечества. Эта работа прокладывает путь к созданию быстрых оптических процессоров, которые захватывают ассоциации данных для определенных типов изображений. AI вычислений, хотя впереди еще много интересных задач».
Справочник журнала:
- Джеймс Ю.С. Тан, Цзэнгуан Ченг и др. Монадическое павловское ассоциативное обучение в фотонной сети без обратного распространения. Оптика 9, 792–802 (2022). ДОИ: 10.1364/ОПТИКА.455864
