Hội thảo trực tuyến về Mời thầu NSF: Hệ thống hỗ trợ học tập an toàn

Quỹ khoa học quốc gia (NSF) sẽ tổ chức một hội thảo trực tuyến để thu hút đề xuất của họ “Hệ thống hỗ trợ học tập an toàn” vào ngày 5 tháng 2023 năm 1, 00:2-00:XNUMX chiều Giờ Miền Đông.

Tóm tắt hội thảo trên web: Khi các hệ thống trí tuệ nhân tạo (AI) nhanh chóng tăng kích thước, có được các khả năng mới và được triển khai trong các cài đặt rủi ro cao, thì sự an toàn của chúng trở nên cực kỳ quan trọng. Đảm bảo an toàn hệ thống đòi hỏi nhiều hơn là cải thiện độ chính xác, hiệu quả và khả năng mở rộng: nó đòi hỏi phải đảm bảo rằng hệ thống mạnh mẽ trước các sự kiện cực đoan và giám sát chúng để phát hiện hành vi bất thường và không an toàn.

Mục tiêu của chương trình Hệ thống hỗ trợ học tập an toàn, là sự hợp tác giữa Quỹ khoa học quốc gia, Open Philanthropy và Good Ventures, là thúc đẩy nghiên cứu cơ bản dẫn đến việc thiết kế và triển khai các hệ thống hỗ trợ học tập trong đó đảm bảo an toàn với mức độ tự tin cao. Mặc dù các hệ thống máy học truyền thống được đánh giá theo từng điểm đối với một bộ thử nghiệm cố định, nhưng phạm vi tĩnh như vậy chỉ cung cấp sự đảm bảo hạn chế khi tiếp xúc với các điều kiện chưa từng có trong môi trường vận hành có rủi ro cao. Việc xác minh rằng các thành phần học tập của các hệ thống như vậy đạt được sự đảm bảo an toàn cho tất cả các đầu vào khả thi có thể khó khăn, nếu không muốn nói là không thể. Thay vào đó, các đảm bảo an toàn của hệ thống thường sẽ cần được thiết lập đối với dữ liệu được tạo một cách có hệ thống từ các môi trường vận hành thực tế (nhưng bi quan một cách thích hợp). An toàn cũng đòi hỏi khả năng phục hồi đối với “những ẩn số chưa biết”, điều này đòi hỏi phải có các phương pháp cải tiến để giám sát các mối nguy môi trường bất ngờ hoặc các hành vi hệ thống bất thường, bao gồm cả trong quá trình triển khai. Trong một số trường hợp, sự an toàn có thể yêu cầu thêm các phương pháp mới để thiết kế ngược, kiểm tra và giải thích logic bên trong của các mô hình đã học để xác định hành vi không mong muốn mà không thể tìm thấy bằng thử nghiệm hộp đen và các phương pháp để cải thiện hiệu suất bằng cách điều chỉnh trực tiếp logic bên trong của hệ thống. Bất kể cài đặt nào, các đảm bảo an toàn từ đầu đến cuối của bất kỳ hệ thống hỗ trợ học tập nào đều phải được chỉ định rõ ràng và chính xác. Bất kỳ hệ thống nào tuyên bố đáp ứng thông số kỹ thuật an toàn đều phải cung cấp bằng chứng nghiêm ngặt, thông qua phân tích được chứng thực bằng thực nghiệm và/hoặc bằng chứng toán học.

Hội thảo trực tuyến này sẽ thảo luận về việc trưng cầu và trả lời các câu hỏi từ cộng đồng nghiên cứu.

Đăng ký hội thảo trên web tại đây.