NSF 提案征集网络研讨会：支持安全学习的系统

美国国家科学基金会 (NSF) 将举行网络研讨会征集提案“支持安全学习的系统” 5 年 2023 月 1 日，东部时间下午 00:2-00:XNUMX。

网络研讨会概要： 随着人工智能 (AI) 系统的规模迅速增加、获得新功能并部署在高风险环境中，它们的安全性变得极其重要。 确保系统安全需要的不仅仅是提高准确性、效率和可扩展性：它需要确保系统对极端事件具有鲁棒性，并监控它们是否存在异常和不安全行为。

Safe Learning-Enabled Systems 计划是美国国家科学基金会、Open Philanthropy 和 Good Ventures 之间的合作伙伴关系，其目标是促进基础研究，从而设计和实施可确保安全的学习系统高水平的信心。 虽然传统的机器学习系统是针对固定测试集​​逐点评估的，但当暴露在高风险操作环境中前所未有的条件下时，这种静态覆盖只能提供有限的保证。 验证此类系统的学习组件是否为所有可能的输入实现安全保证可能很困难，如果不是不可能的话。 相反，系统的安全保证通常需要根据从现实（但适当悲观）操作环境中系统生成的数据来建立。 安全还需要对“未知的未知数”具有弹性，这需要改进方法来监测意外的环境危害或异常的系统行为，包括在部署期间。 在某些情况下，安全性可能进一步需要新的方法来逆向工程、检查和解释学习模型的内部逻辑，以识别仅靠黑盒测试无法发现的意外行为，以及通过直接适应来提高性能的方法系统的内部逻辑。 无论设置如何，任何支持学习的系统的端到端安全保证都必须明确和准确地指定。 任何声称满足安全规范的系统都必须通过经验证实的分析和/或数学证明来提供严格的证据。

该网络研讨会将讨论征求意见并回答研究界的问题。

注册网络研讨会 相关信息.