NSF 제안 권유에 관한 웨비나: 안전한 학습 지원 시스템

NSF (National Science Foundation)는 제안 권유를위한 웨비나를 개최합니다.안전한 학습 지원 시스템5년 2023월 1일 오후 00시~2시(동부 표준시).

웨비나 시놉시스: 인공 지능(AI) 시스템의 크기가 빠르게 증가하고 새로운 기능을 획득하고 고위험 환경에 배치됨에 따라 시스템의 안전이 매우 중요해졌습니다. 시스템 안전을 보장하려면 정확성, 효율성 및 확장성을 개선하는 것 이상이 필요합니다. 시스템이 극단적인 이벤트에 대해 견고하다는 것을 확인하고 비정상적이고 안전하지 않은 동작을 모니터링해야 합니다.

National Science Foundation, Open Philanthropy 및 Good Ventures 간의 파트너십인 Safe Learning-Enabled Systems 프로그램의 목표는 안전이 보장되는 학습 지원 시스템의 설계 및 구현으로 이어지는 기초 연구를 육성하는 것입니다. 높은 수준의 자신감. 기존의 기계 학습 시스템은 고정된 테스트 세트와 관련하여 점별로 평가되지만 이러한 정적 범위는 고부담 운영 환경에서 전례 없는 조건에 노출될 때 제한적인 보증만 제공합니다. 그러한 시스템의 학습 구성 요소가 가능한 모든 입력에 대한 안전 보장을 달성하는지 확인하는 것은 불가능하지는 않지만 어려울 수 있습니다. 대신 시스템의 안전 보장은 현실적인(아직 적절하게 비관적인) 운영 환경에서 체계적으로 생성된 데이터와 관련하여 설정되어야 합니다. 안전은 또한 "알려지지 않은 미지"에 대한 복원력을 요구하며, 이를 위해서는 배포 중을 포함하여 예상치 못한 환경적 위험 또는 비정상적인 시스템 동작을 모니터링하기 위한 개선된 방법이 필요합니다. 경우에 따라 안전은 블랙박스 테스트만으로는 발견할 수 없는 예기치 않은 동작을 식별하기 위해 학습된 모델의 내부 논리를 리버스 엔지니어링, 검사 및 해석하는 새로운 방법과 직접 적응하여 성능을 개선하는 방법을 추가로 요구할 수 있습니다. 시스템의 내부 논리. 설정이 무엇이든 모든 학습 지원 시스템의 종단 간 안전 보장은 명확하고 정확하게 지정되어야 합니다. 안전 사양을 충족한다고 주장하는 모든 시스템은 경험적으로 확증된 분석 및/또는 수학적 증거를 통해 엄격한 증거를 제공해야 합니다.

이 웨비나는 연구 커뮤니티의 요청에 대해 논의하고 질문에 답변합니다.

웹 세미나 등록 여기에서 지금 확인해 보세요..