Дорожная карта CISA: прокладываем курс на надежную разработку искусственного интеллекта

Киберзащита: В то время как системы искусственного интеллекта могут помочь организациям улучшить свою защиту от новых и продвинутых киберугроз, программные системы на основе искусственного интеллекта представляют собой количество рисков что требует надежного ИИ-защита. Дорожная карта направлена ​​на содействие выгодному использованию ИИ и в то же время на защиту национальных систем от угроз, основанных на ИИ.

Снижение рисков и устойчивость: Критическая инфраструктура организации все чаще используют системы искусственного интеллекта для поддержания и укрепления собственной киберустойчивости. В своей дорожной карте CISA стремится содействовать ответственному и осознанному принятию программных систем на основе искусственного интеллекта, которые «безопасный дизайн» — где безопасность реализуется на этапе проектирования жизненного цикла разработки продукта, чтобы можно было уменьшить количество уязвимостей, которые могут быть использованы в самом начале.

Оперативное сотрудничество: По мере распространения технологий искусственного интеллекта граждане США и критически важные отрасли инфраструктуры могут подвергаться целенаправленным угрозам, что может потребовать обмена информацией и скоординированных ответов со стороны организаций, правоохранительных органов и международных партнеров. CISA планирует разработать структуру, которая поможет улучшить согласованность и координацию между соответствующими заинтересованными сторонами.

Объединение агентств: CISA стремится унифицировать и интегрировать системы программного обеспечения искусственного интеллекта во всем агентстве, что поможет ему использовать системы искусственного интеллекта более согласованно. CISA также планирует нанимать и развивать рабочую силу, способную оптимально использовать системы искусственного интеллекта.

Ответственное использование ИИ: CISA намерена внедрить программные инструменты с поддержкой искусственного интеллекта для усиления киберзащиты и поддержки критически важной инфраструктуры. Все системы и инструменты пройдут строгий процесс отбора, в ходе которого CISA обеспечит, чтобы системы, связанные с ИИ, были ответственными, безопасными, этичными и безопасными в использовании. CISA также развернет надежные процессы управления, которые не только будут соответствовать процессам федеральных закупок, применимым законам и политикам, конфиденциальности, а также гражданским правам и свободам, но также примут подход для непрерывной оценки моделей ИИ, одновременно анализируя методы ИТ-безопасности для безопасной интеграции. технология.

Обеспечьте системам искусственного интеллекта: Чтобы обеспечить более безопасную и отказоустойчивую разработку и внедрение программного обеспечения для искусственного интеллекта, CISA планирует продвигать обеспечить, по-дизайн инициативы, разрабатывать передовые методы обеспечения безопасности и рекомендации для широкого круга заинтересованных сторон (например, федеральные гражданские правительственные учреждения, компании частного сектора, правительства штатов, местные, племенные и территориальные правительства) и стимулировать внедрение надежных методов управления уязвимостями, определяя процесс раскрытия уязвимостей. а также предоставление рекомендаций по тестированию безопасности и учениям «красной команды» для систем искусственного интеллекта.

Защитите критическую инфраструктуру от злонамеренного использования ИИ: CISA будет сотрудничать с государственными учреждениями и отраслевыми партнерами, такими как Совместное сотрудничество в области киберзащиты разрабатывать, тестировать и оценивать инструменты искусственного интеллекта и сотрудничать в разработке угрозы ИИ. CISA опубликует материалы для повышения осведомленности о возникающих рисках, а также оценит методы управления рисками, чтобы определить соответствующую аналитическую основу для оценки и лечения рисков ИИ.

Сотрудничать с межведомственными, международными партнерами и общественностью: Чтобы повысить осведомленность, поделиться информацией об угрозах, а также улучшить возможности реагирования на инциденты и расследования, CISA планирует развивать совместные подходы, такие как рабочие группы по искусственному интеллекту, посещение или участие в межведомственных совещаниях и тесное сотрудничество с подразделениями Министерства внутренней безопасности. CISA будет работать на межведомственном уровне, чтобы обеспечить соответствие своей политики и стратегии общегосударственный подход и будет привлекать международных партнеров к поощрению внедрения передового международного опыта в области безопасного ИИ.

Расширьте опыт использования искусственного интеллекта среди сотрудников: Человек бдительность, надзор и интуиция всегда необходимы для обнаружения киберугроз, основанных и не связанных с искусственным интеллектом, а также для обеспечения того, чтобы системы искусственного интеллекта были свободны от ошибок, предвзятости и манипуляций. Человеческую интуицию и бдительность можно усилить только с помощью надежных инициатив по повышению осведомленности о безопасности. Вот почему CISA планирует постоянно обучать персонал программным системам и методам искусственного интеллекта, нанимать сотрудников с опытом работы в области искусственного интеллекта и проводить программы обучения по вопросам безопасности, которые должны включать ситуационные упражнения, чтобы сотрудники понимали правовые, этические и политические аспекты использования искусственного интеллекта. систем, помимо технических аспектов.