파블로프 연합 학습은 인간과 동물의 행동을 형성하는 학습의 기본 형태입니다. 그러나 특히 현대 심층 신경망에서 "기존" ANN에 대한 역전파 방법을 사용하는 훈련은 계산 및 에너지 집약적입니다.
광학 병렬 처리를 사용한 파블로프 학습에 기반한 새로운 연구는 다양한 AI 작업에 대한 흥미로운 잠재력을 보여줍니다.
과학자 옥스포드 대학의 재료부, 엑서터 대학교, 그리고 Munster는 전자 프로세서에서 실행되는 기존 기계 학습 알고리즘보다 최대 1,000배 더 빠르게 데이터 세트의 유사성을 감지할 수 있는 온칩 광학 프로세서를 개발했습니다.
AMLE(Associative Monadic Learning Element)는 패턴을 학습하여 데이터세트의 유사한 기능을 함께 연결하는 메모리 자료를 사용하여 신경망이 "미세한 것"으로 선호하는 역전파보다는 "일치"의 경우 Pavlov가 관찰한 조건부 반사를 시뮬레이션합니다. 조정" 결과.
학습 과정을 감독하기 위해 AMLE 입력은 적절한 출력과 쌍을 이루고 메모리 자료는 광 신호를 사용하여 재설정될 수 있습니다. XNUMX쌍의 이미지로 훈련한 후 AMLE를 테스트한 결과 고양이 이미지와 고양이가 아닌 이미지를 구별하는 것으로 나타났습니다.
기존 전자 칩에 비해 새로운 광학 칩의 상당한 성능 기능은 설계에서 두 가지 주요 차이점으로 요약됩니다.
- 뉴런을 사용하는 대신 연관 학습을 빌딩 블록으로 통합하는 독특한 네트워크 아키텍처 신경망.
- 계산 속도를 높이려면 '파장 분할 다중화'를 사용하여 단일 채널에서 서로 다른 파장의 여러 광 신호를 보냅니다.
칩 기술은 정보 밀도를 최대화하기 위해 데이터를 송수신하기 위해 빛을 사용합니다. 병렬 처리를 위해 다양한 파장의 여러 신호를 동시에 공급하여 인식 작업 감지 시간을 단축합니다. 컴퓨팅 속도는 각 파장에 따라 증가합니다.
뮌스터 대학의 공동 저자인 Wolfram Pernice 교수는 다음과 같이 설명했습니다. "이 장치는 데이터 세트의 유사성을 자연스럽게 캡처하는 동시에 빛을 사용하여 병렬로 수행하여 전체 계산 속도를 높입니다. 이는 기존 전자 칩의 기능을 훨씬 능가할 수 있습니다."
공동 제XNUMX저자인 현재 푸단 대학교의 Zengguang Cheng 교수는 다음과 같이 말했습니다. “데이터 세트에서 매우 복잡한 기능에 대한 상당한 분석이 필요하지 않은 문제에 더 효율적입니다. 많은 학습 작업은 볼륨 기반이며 복잡성 수준이 없습니다. 이러한 경우 연관 학습은 작업을 더 빠르고 더 낮은 계산 비용으로 완료할 수 있습니다.”
연구를 주도한 Harish Bhaskaran 교수는, 말했다, “AI가 인류 역사의 다가오는 국면에서 목격하게 될 많은 혁신의 중심이 될 것이 점점 더 분명해지고 있습니다. 이 작업은 특정 유형의 데이터 연결을 캡처하는 고속 광 프로세서를 실현하는 길을 열어줍니다. AI 여전히 많은 흥미진진한 과제가 남아 있지만."
저널 참조 :
- James YS Tan, Zengguang Cheng, et al. 역전파가 없는 광자 네트워크에서 모나딕 파블로프 연관 학습. Optica 9, 792-802(2022). DOI: 10.1364/옵티카.455864
