Seminario web sobre solicitud de propuestas de NSF: sistemas habilitados para el aprendizaje seguro

La Fundación Nacional de Ciencias (NSF) llevará a cabo un seminario web para su solicitud de propuesta "Sistemas habilitados para el aprendizaje seguro” el 5 de abril de 2023, de 1:00 p. m. a 2:00 p. m., hora del este.

Sinopsis del seminario web: A medida que los sistemas de inteligencia artificial (IA) aumentan rápidamente de tamaño, adquieren nuevas capacidades y se implementan en entornos de alto riesgo, su seguridad se vuelve extremadamente importante. Garantizar la seguridad del sistema requiere más que mejorar la precisión, la eficiencia y la escalabilidad: requiere garantizar que los sistemas sean resistentes a eventos extremos y monitorearlos para detectar comportamientos anómalos e inseguros.

El objetivo del programa Safe Learning-Enabled Systems, que es una asociación entre la National Science Foundation, Open Philanthropy y Good Ventures, es fomentar la investigación fundamental que conduzca al diseño e implementación de sistemas habilitados para el aprendizaje en los que se garantiza la seguridad con altos niveles de confianza. Si bien los sistemas de aprendizaje automático tradicionales se evalúan puntualmente con respecto a un conjunto de prueba fijo, dicha cobertura estática solo brinda una garantía limitada cuando se expone a condiciones sin precedentes en entornos operativos de alto riesgo. Verificar que los componentes de aprendizaje de dichos sistemas logren garantías de seguridad para todas las entradas posibles puede ser difícil, si no imposible. En cambio, las garantías de seguridad de un sistema a menudo deberán establecerse con respecto a los datos generados sistemáticamente a partir de entornos operativos realistas (pero apropiadamente pesimistas). La seguridad también requiere resiliencia ante "incógnitas desconocidas", lo que requiere métodos mejorados para monitorear peligros ambientales inesperados o comportamientos anómalos del sistema, incluso durante la implementación. En algunos casos, la seguridad puede requerir además nuevos métodos para la ingeniería inversa, la inspección y la interpretación de la lógica interna de los modelos aprendidos para identificar comportamientos inesperados que no se pudieron encontrar solo con pruebas de caja negra, y métodos para mejorar el rendimiento mediante la adaptación directa. la lógica interna de los sistemas. Cualquiera que sea la configuración, las garantías de seguridad de extremo a extremo de cualquier sistema habilitado para el aprendizaje deben especificarse de forma clara y precisa. Cualquier sistema que pretenda satisfacer una especificación de seguridad debe proporcionar pruebas rigurosas, mediante análisis corroborados empíricamente y/o con pruebas matemáticas.

Este seminario web discutirá la solicitud y responderá preguntas de la comunidad de investigación.

Registrarse para el seminario web esta página.