Roteiro da CISA: traçando um rumo para o desenvolvimento confiável de IA

Defesa cibernética: Embora os sistemas de IA possam ajudar as organizações a melhorar as suas defesas contra ameaças cibernéticas emergentes e avançadas, os sistemas de software baseados em IA representam um número de riscos que necessitam de um robusto Defesa de IA. O roteiro visa promover o uso benéfico da IA ​​e, ao mesmo tempo, proteger os sistemas do país contra ameaças baseadas na IA.

Redução de riscos e resiliência: Infraestrutura crítica as organizações utilizam cada vez mais sistemas de IA para manter e reforçar a sua própria resiliência cibernética. Com o seu roteiro, a CISA pretende promover uma adoção responsável e consciente dos riscos de sistemas de software baseados em IA que sejam “seguro por design” — onde a segurança é implementada na fase de design do ciclo de vida de desenvolvimento de um produto para que as falhas exploráveis ​​possam ser reduzidas na fonte.

Colaboração operacional: À medida que a tecnologia de IA prolifera, os cidadãos dos EUA e os setores de infraestruturas críticas podem estar sujeitos a ameaças direcionadas, o que pode exigir a partilha de informações e respostas coordenadas por parte de organizações, agências responsáveis ​​pela aplicação da lei e parceiros internacionais. A CISA planeia desenvolver uma estrutura que ajude a melhorar o alinhamento e a coordenação entre as partes interessadas relevantes.

Unificação da agência: A CISA pretende unificar e integrar sistemas de software de IA em toda a agência, o que a ajudará a usar os sistemas de IA de forma mais coerente. A CISA também planeia recrutar e desenvolver uma força de trabalho que seja capaz de aproveitar de forma otimizada os sistemas de IA.

Uso responsável da IA: A CISA pretende implantar ferramentas de software habilitadas para IA para reforçar as defesas cibernéticas e apoiar infraestruturas críticas. Todos os sistemas e ferramentas passarão por um rigoroso processo de seleção onde a CISA garantirá que os sistemas relacionados à IA sejam responsáveis, seguros, éticos e seguros para uso. A CISA também implementará processos de governança robustos que não serão apenas consistentes com os processos de compras federais, leis e políticas aplicáveis, privacidade e direitos e liberdades civis, mas também adotarão uma abordagem para avaliação contínua de modelos de IA, ao mesmo tempo em que revê as práticas de segurança de TI para integrar com segurança a tecnologia.

Garanta os sistemas de IA: Para construir um desenvolvimento e implementação de software de IA mais seguros e resilientes, a CISA planeja defender seguro por design iniciativas, desenvolver melhores práticas e orientações de segurança para uma ampla gama de partes interessadas (por exemplo, agências governamentais civis federais, empresas do setor privado, governos estaduais, locais, tribais e territoriais) e impulsionar a adoção de fortes práticas de gestão de vulnerabilidades, especificando um processo de divulgação de vulnerabilidades e fornecer orientação para testes de segurança e exercícios de red teaming para sistemas de IA.

Proteja a infraestrutura crítica do uso malicioso de IA: A CISA fará parceria com agências governamentais e parceiros da indústria, como o Joint Cyber ​​Defense Collaborative para desenvolver, testar e avaliar ferramentas de IA e colaborar na evolução Ameaças de IA. A CISA publicará materiais para aumentar a conscientização sobre os riscos emergentes e também avaliará os métodos de gestão de riscos para determinar a estrutura analítica apropriada para a avaliação e tratamento dos riscos de IA.

Colaborar com interagências, parceiros internacionais e o público: Para aumentar a conscientização, compartilhar informações sobre ameaças e melhorar a resposta a incidentes e as capacidades de investigação, a CISA planeja promover abordagens colaborativas, como grupos de trabalho de IA, participando ou participando de reuniões interagências e coordenando estreitamente com entidades do Departamento de Segurança Interna. A CISA trabalhará em todas as agências para garantir que suas políticas e estratégias estejam alinhadas com o todo o governo abordagem e envolverá parceiros internacionais para incentivar a adoção de melhores práticas internacionais para IA segura.

Expanda a experiência em IA na força de trabalho: Pessoas vigilância, supervisão e intuição são sempre necessárias para detectar ameaças cibernéticas baseadas em IA e não baseadas em IA e para garantir que os sistemas de IA estejam livres de erros, preconceitos e manipulação. A intuição e a vigilância humanas só podem ser reforçadas com iniciativas robustas de sensibilização para a segurança. É por isso que a CISA planeja educar continuamente a força de trabalho sobre sistemas e técnicas de software de IA, recrutar funcionários com experiência em IA e conduzir programas de treinamento de conscientização de segurança que devem incluir exercícios situacionais para garantir que os funcionários entendam os aspectos legais, éticos e políticos da tecnologia baseada em IA. sistemas, além dos aspectos técnicos.