Webinar sobre Solicitação de Proposta NSF: Sistemas Habilitados para Aprendizado Seguro

A National Science Foundation (NSF) realizará um webinar para solicitação de propostas “Sistemas Habilitados para Aprendizagem Segura”Em 5 de abril de 2023, das 1h às 00h, horário do leste.

Sinopse do webinar: À medida que os sistemas de inteligência artificial (IA) aumentam rapidamente de tamanho, adquirem novas capacidades e são implantados em ambientes de alto risco, a sua segurança torna-se extremamente importante. Garantir a segurança do sistema exige mais do que melhorar a precisão, a eficiência e a escalabilidade: requer garantir que os sistemas sejam robustos a eventos extremos e monitorá-los quanto a comportamentos anômalos e inseguros.

O objetivo do programa Safe Learning-Enabled Systems, que é uma parceria entre a National Science Foundation, Open Philanthropy e Good Ventures, é promover pesquisas fundamentais que levem ao projeto e implementação de sistemas habilitados para aprendizagem nos quais a segurança é garantida com altos níveis de confiança. Embora os sistemas tradicionais de aprendizado de máquina sejam avaliados pontualmente em relação a um conjunto de testes fixo, essa cobertura estática fornece apenas uma garantia limitada quando exposta a condições sem precedentes em ambientes operacionais de alto risco. Verificar se os componentes de aprendizagem de tais sistemas alcançam garantias de segurança para todas as entradas possíveis pode ser difícil, se não impossível. Em vez disso, as garantias de segurança de um sistema terão frequentemente de ser estabelecidas no que diz respeito a dados gerados sistematicamente a partir de ambientes operacionais realistas (embora apropriadamente pessimistas). A segurança também exige resiliência a “desconhecidos desconhecidos”, o que exige métodos melhorados de monitorização de perigos ambientais inesperados ou comportamentos anómalos do sistema, inclusive durante a implantação. Em alguns casos, a segurança pode exigir ainda novos métodos de engenharia reversa, inspeção e interpretação da lógica interna dos modelos aprendidos para identificar comportamentos inesperados que não poderiam ser encontrados apenas através de testes de caixa preta, e métodos para melhorar o desempenho adaptando diretamente a lógica interna dos sistemas. Qualquer que seja o cenário, as garantias de segurança ponta a ponta de qualquer sistema habilitado para aprendizagem devem ser especificadas de forma clara e precisa. Qualquer sistema que pretenda satisfazer uma especificação de segurança deve fornecer evidências rigorosas, através de análises corroboradas empiricamente e/ou com comprovação matemática.

Este webinar discutirá a solicitação e responderá perguntas da comunidade de pesquisa.

Registre-se para o webinar SUA PARTICIPAÇÃO FAZ A DIFERENÇA.