La hoja de ruta de CISA: trazando un rumbo para el desarrollo de una IA confiable

Ciberdefensa: Si bien los sistemas de IA pueden ayudar a las organizaciones a mejorar sus defensas contra amenazas cibernéticas tanto emergentes como avanzadas, los sistemas de software basados ​​en IA plantean un desafío. número de riesgos que requieren una robusta defensa de IA. La hoja de ruta tiene como objetivo promover el uso beneficioso de la IA y, al mismo tiempo, proteger los sistemas del país de las amenazas basadas en la IA.

Reducción de riesgos y resiliencia: Infraestructura crítica Las organizaciones utilizan cada vez más sistemas de IA para mantener y fortalecer su propia resiliencia cibernética. Con su hoja de ruta, CISA pretende promover una adopción responsable y consciente de los riesgos de sistemas de software basados ​​en IA que sean “seguro por diseño”: donde la seguridad se implementa en la fase de diseño del ciclo de vida de desarrollo de un producto para que las fallas explotables puedan reducirse en su origen.

Colaboración operativa: A medida que prolifera la tecnología de IA, los ciudadanos estadounidenses y los sectores de infraestructura críticos pueden verse sujetos a amenazas específicas, que pueden requerir el intercambio de información y respuestas coordinadas de organizaciones, agencias de aplicación de la ley y socios internacionales. CISA planea desarrollar un marco que ayude a mejorar la alineación y coordinación entre las partes interesadas relevantes.

Unificación de agencias: CISA tiene como objetivo unificar e integrar los sistemas de software de IA en toda la agencia, lo que le ayudará a utilizar los sistemas de IA de manera más coherente. CISA también planea contratar y desarrollar una fuerza laboral que sea capaz de aprovechar de manera óptima los sistemas de inteligencia artificial.

Uso responsable de la IA: CISA tiene la intención de implementar herramientas de software habilitadas para IA para reforzar las defensas cibernéticas y respaldar la infraestructura crítica. Todos los sistemas y herramientas pasarán por un riguroso proceso de selección en el que CISA garantizará que los sistemas relacionados con la IA sean responsables, seguros, éticos y seguros de usar. CISA también implementará procesos de gobernanza sólidos que no solo serán consistentes con los procesos de adquisiciones federales, las leyes y políticas aplicables, la privacidad y los derechos y libertades civiles, sino que también adoptarán un enfoque para la evaluación continua de los modelos de IA mientras revisan las prácticas de seguridad de TI para integrar de forma segura. La tecnología.

Asegurar los sistemas de IA: Para construir un desarrollo e implementación de software de IA más seguro y resiliente, CISA planea defender seguro por diseño iniciativas, desarrollar mejores prácticas de seguridad y orientación para una amplia gama de partes interesadas (por ejemplo, agencias gubernamentales civiles federales, empresas del sector privado, gobiernos estatales, locales, tribales y territoriales) e impulsar la adopción de prácticas sólidas de gestión de vulnerabilidades, especificando un proceso de divulgación de vulnerabilidades. y proporcionar orientación para pruebas de seguridad y ejercicios de formación de equipos rojos para sistemas de inteligencia artificial.

Proteja la infraestructura crítica del uso malicioso de la IA: CISA se asociará con agencias gubernamentales y socios de la industria como el Colaboración conjunta de ciberdefensa desarrollar, probar y evaluar herramientas de IA y colaborar en la evolución Amenazas de IA. CISA publicará materiales para crear conciencia sobre los riesgos emergentes y también evaluará los métodos de gestión de riesgos para determinar el marco analítico apropiado para la evaluación y el tratamiento de los riesgos de la IA.

Colaborar con socios interinstitucionales, internacionales y el público: Para crear conciencia, compartir información sobre amenazas y mejorar la respuesta a incidentes y las capacidades de investigación, CISA planea fomentar enfoques colaborativos como grupos de trabajo de IA, asistir o participar en reuniones interinstitucionales y coordinar estrechamente con entidades del Departamento de Seguridad Nacional. CISA trabajará a través de toda la agencia para garantizar que sus políticas y estrategias se alineen con las todo el gobierno enfoque e involucrará a socios internacionales para fomentar la adopción de las mejores prácticas internacionales para una IA segura.

Ampliar la experiencia en IA en la fuerza laboral: Personas Siempre se necesita vigilancia, supervisión e intuición para detectar amenazas cibernéticas basadas y no basadas en IA y para garantizar que los sistemas de IA estén libres de errores, sesgos y manipulación. La intuición y la vigilancia humanas sólo pueden fortalecerse con iniciativas sólidas de concientización sobre la seguridad. Es por eso que CISA planea educar continuamente a la fuerza laboral sobre sistemas y técnicas de software de IA, reclutar empleados con experiencia en IA y llevar a cabo programas de capacitación en concientización sobre seguridad que deben incluir ejercicios situacionales para garantizar que los empleados comprendan los aspectos legales, éticos y políticos de la IA. sistemas, más allá de los aspectos técnicos.