Feuille de route de la CISA : tracer la voie à suivre pour un développement fiable de l’IA

Cyberdéfense : Alors que les systèmes d’IA peuvent aider les organisations à améliorer leurs défenses contre les cybermenaces émergentes et avancées, les systèmes logiciels basés sur l’IA constituent un défi majeur. nombre de risques qui nécessitent un robuste Défense de l'IA. La feuille de route vise à promouvoir l'utilisation bénéfique de l'IA et, en même temps, à protéger les systèmes nationaux contre les menaces basées sur l'IA.

Réduction des risques et résilience : Infrastructure critique les organisations utilisent de plus en plus les systèmes d’IA pour maintenir et renforcer leur propre cyber-résilience. Avec sa feuille de route, CISA vise à promouvoir une adoption responsable et consciente des risques de systèmes logiciels basés sur l’IA qui sont «sécurisé par conception» – où la sécurité est mise en œuvre dès la phase de conception du cycle de vie de développement d'un produit afin que les failles exploitables puissent être réduites à la source.

Collaboration opérationnelle : À mesure que la technologie de l’IA se développe, les citoyens américains et les secteurs des infrastructures critiques peuvent être soumis à des menaces ciblées, qui peuvent nécessiter le partage d’informations et des réponses coordonnées de la part des organisations, des organismes chargés de l’application de la loi et des partenaires internationaux. La CISA prévoit de développer un cadre qui contribue à améliorer l’alignement et la coordination entre les parties prenantes concernées.

Unification des agences : CISA vise à unifier et à intégrer les systèmes logiciels d’IA au sein de l’agence, ce qui l’aidera à utiliser les systèmes d’IA de manière plus cohérente. CISA prévoit également de recruter et de développer une main-d’œuvre capable d’exploiter de manière optimale les systèmes d’IA.

Utilisation responsable de l’IA : CISA a l’intention de déployer des outils logiciels basés sur l’IA pour renforcer les cyberdéfenses et prendre en charge les infrastructures critiques. Tous les systèmes et outils passeront par un processus de sélection rigoureux au cours duquel CISA garantira que les systèmes liés à l'IA sont responsables, sécurisés, éthiques et sûrs à utiliser. La CISA déploiera également des processus de gouvernance robustes qui seront non seulement conformes aux processus de passation des marchés fédéraux, aux lois et politiques applicables, à la vie privée et aux droits et libertés civils, mais adopteront également une approche d'évaluation continue des modèles d'IA tout en examinant les pratiques de sécurité informatique pour les intégrer en toute sécurité. la technologie.

Garantir les systèmes d’IA : Pour construire et mettre en œuvre un développement et une mise en œuvre de logiciels d’IA plus sûrs et plus résilients, la CISA prévoit de défendre sécurisé par conception initiatives, développer les meilleures pratiques et conseils en matière de sécurité pour un large éventail de parties prenantes (par exemple, les agences gouvernementales civiles fédérales, les entreprises du secteur privé, les gouvernements étatiques, locaux, tribaux et territoriaux) et favoriser l'adoption de solides pratiques de gestion des vulnérabilités, en spécifiant un processus de divulgation des vulnérabilités. et fournir des conseils pour les tests de sécurité et les exercices d’équipe rouge pour les systèmes d’IA.

Protégez les infrastructures critiques contre l’utilisation malveillante de l’IA : CISA s'associera avec des agences gouvernementales et des partenaires industriels tels que le Collaboration conjointe de cyberdéfense développer, tester et évaluer des outils d’IA et collaborer à l’évolution Menaces de l'IA. La CISA publiera des documents pour sensibiliser aux risques émergents et évaluera également les méthodes de gestion des risques afin de déterminer le cadre analytique approprié pour l'évaluation et le traitement des risques liés à l'IA.

Collaborer avec les partenaires interinstitutionnels, internationaux et le public : Pour sensibiliser, partager des informations sur les menaces et améliorer les capacités de réponse aux incidents et d'enquête, la CISA prévoit de favoriser des approches collaboratives telles que des groupes de travail sur l'IA, d'assister ou de participer à des réunions interinstitutions et de coordonner étroitement avec les entités du ministère de la Sécurité intérieure. La CISA travaillera au sein de l’ensemble des agences pour garantir que ses politiques et stratégies s’alignent sur les pangouvernemental approche et engagera des partenaires internationaux pour encourager l’adoption des meilleures pratiques internationales pour une IA sécurisée.

Développez l’expertise en IA au sein du personnel : Humain la vigilance, la surveillance et l’intuition sont toujours nécessaires pour détecter les cybermenaces basées ou non sur l’IA et pour garantir que les systèmes d’IA sont exempts d’erreurs, de biais et de manipulations. L’intuition et la vigilance humaines ne peuvent être renforcées que par de solides initiatives de sensibilisation à la sécurité. C'est pourquoi CISA prévoit de former continuellement le personnel aux systèmes et techniques logiciels d'IA, de recruter des employés possédant une expertise en IA et de mener des programmes de formation de sensibilisation à la sécurité qui devraient inclure des exercices de mise en situation pour garantir que les employés comprennent les aspects juridiques, éthiques et politiques des systèmes basés sur l'IA. systèmes, au-delà des aspects techniques.