КОММЕНТАРИЙ
Быстрое внедрение технологии искусственного интеллекта вызвало серьезные кибер-беспокойства среди экспертов в области ИИ, политиков, титанов технологической индустрии, стран и мировых лидеров. В ответ Агентство кибербезопасности и инфраструктуры (CISA) обнародовало свою 2023–2024 «Дорожная карта CISA по искусственному интеллекту», с целью создания безопасной и заслуживающей доверия разработки и использования ИИ в соответствии с указаниями Исполнительный указ Белого дома 14110.
CISA выпустила свой «Стратегический план» на 2023–2025 годы с миссией создания безопасной и устойчивой инфраструктуры для американского общества. Дорожная карта ИИ представляет собой адаптацию тех же четырех целей, выделенных в стратегическом плане:
-
Киберзащита: В то время как системы искусственного интеллекта могут помочь организациям улучшить свою защиту от новых и продвинутых киберугроз, программные системы на основе искусственного интеллекта представляют собой количество рисков что требует надежного ИИ-защита. Дорожная карта направлена на содействие выгодному использованию ИИ и в то же время на защиту национальных систем от угроз, основанных на ИИ.
-
Снижение рисков и устойчивость: Критическая инфраструктура организации все чаще используют системы искусственного интеллекта для поддержания и укрепления собственной киберустойчивости. В своей дорожной карте CISA стремится содействовать ответственному и осознанному принятию программных систем на основе искусственного интеллекта, которые «безопасный дизайн» — где безопасность реализуется на этапе проектирования жизненного цикла разработки продукта, чтобы можно было уменьшить количество уязвимостей, которые могут быть использованы в самом начале.
-
Оперативное сотрудничество: По мере распространения технологий искусственного интеллекта граждане США и критически важные отрасли инфраструктуры могут подвергаться целенаправленным угрозам, что может потребовать обмена информацией и скоординированных ответов со стороны организаций, правоохранительных органов и международных партнеров. CISA планирует разработать структуру, которая поможет улучшить согласованность и координацию между соответствующими заинтересованными сторонами.
-
Объединение агентств: CISA стремится унифицировать и интегрировать системы программного обеспечения искусственного интеллекта во всем агентстве, что поможет ему использовать системы искусственного интеллекта более согласованно. CISA также планирует нанимать и развивать рабочую силу, способную оптимально использовать системы искусственного интеллекта.
Дорожная карта ИИ возлагает ответственность за обеспечение безопасности на разработчиков ИИ, а не на потребителей ИИ
Исторически производители программного обеспечения для искусственного интеллекта сопротивлялись созданию продуктов, которые были бы безопасны по своей конструкции, перекладывая бремя безопасности на потребителей искусственного интеллекта. Дорожная карта CISA по искусственному интеллекту требует, чтобы производители систем искусственного интеллекта применяли принципы безопасного проектирования на протяжении всего жизненного цикла разработки. Это включает в себя то, что безопасность при проектировании является главным приоритетом бизнеса, принятие на себя ответственности за результаты безопасности для клиентов и ведение разработки продуктов с радикальной прозрачностью и подотчетностью.
CISA планирует реализовать пять направлений усилий для достижения заявленных целей
CISA определила пять направлений усилий по унификации и ускорению реализации вышеуказанной дорожной карты:
-
Ответственное использование ИИ: CISA намерена внедрить программные инструменты с поддержкой искусственного интеллекта для усиления киберзащиты и поддержки критически важной инфраструктуры. Все системы и инструменты пройдут строгий процесс отбора, в ходе которого CISA обеспечит, чтобы системы, связанные с ИИ, были ответственными, безопасными, этичными и безопасными в использовании. CISA также развернет надежные процессы управления, которые не только будут соответствовать процессам федеральных закупок, применимым законам и политикам, конфиденциальности, а также гражданским правам и свободам, но также примут подход для непрерывной оценки моделей ИИ, одновременно анализируя методы ИТ-безопасности для безопасной интеграции. технология.
-
Обеспечьте системам искусственного интеллекта: Чтобы обеспечить более безопасную и отказоустойчивую разработку и внедрение программного обеспечения для искусственного интеллекта, CISA планирует продвигать обеспечить, по-дизайн инициативы, разрабатывать передовые методы обеспечения безопасности и рекомендации для широкого круга заинтересованных сторон (например, федеральные гражданские правительственные учреждения, компании частного сектора, правительства штатов, местные, племенные и территориальные правительства) и стимулировать внедрение надежных методов управления уязвимостями, определяя процесс раскрытия уязвимостей. а также предоставление рекомендаций по тестированию безопасности и учениям «красной команды» для систем искусственного интеллекта.
-
Защитите критическую инфраструктуру от злонамеренного использования ИИ: CISA будет сотрудничать с государственными учреждениями и отраслевыми партнерами, такими как Совместное сотрудничество в области киберзащиты разрабатывать, тестировать и оценивать инструменты искусственного интеллекта и сотрудничать в разработке угрозы ИИ. CISA опубликует материалы для повышения осведомленности о возникающих рисках, а также оценит методы управления рисками, чтобы определить соответствующую аналитическую основу для оценки и лечения рисков ИИ.
-
Сотрудничать с межведомственными, международными партнерами и общественностью: Чтобы повысить осведомленность, поделиться информацией об угрозах, а также улучшить возможности реагирования на инциденты и расследования, CISA планирует развивать совместные подходы, такие как рабочие группы по искусственному интеллекту, посещение или участие в межведомственных совещаниях и тесное сотрудничество с подразделениями Министерства внутренней безопасности. CISA будет работать на межведомственном уровне, чтобы обеспечить соответствие своей политики и стратегии общегосударственный подход и будет привлекать международных партнеров к поощрению внедрения передового международного опыта в области безопасного ИИ.
-
Расширьте опыт использования искусственного интеллекта среди сотрудников: Человек бдительность, надзор и интуиция всегда необходимы для обнаружения киберугроз, основанных и не связанных с искусственным интеллектом, а также для обеспечения того, чтобы системы искусственного интеллекта были свободны от ошибок, предвзятости и манипуляций. Человеческую интуицию и бдительность можно усилить только с помощью надежных инициатив по повышению осведомленности о безопасности. Вот почему CISA планирует постоянно обучать персонал программным системам и методам искусственного интеллекта, нанимать сотрудников с опытом работы в области искусственного интеллекта и проводить программы обучения по вопросам безопасности, которые должны включать ситуационные упражнения, чтобы сотрудники понимали правовые, этические и политические аспекты использования искусственного интеллекта. систем, помимо технических аспектов.
С помощью инициатив, изложенных в дорожной карте CISA, агентство надеется создать более надежную систему кибербезопасности для страны, защитить критически важную инфраструктуру от злонамеренного использования ИИ и сделать безопасность приоритетом в качестве основного бизнес-требования в инструментах и системах на основе ИИ.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://www.darkreading.com/vulnerabilities-threats/cisa-s-ai-road-map-charting-a-course-for-trustworthy-ai-development
- :имеет
- :является
- :нет
- :куда
- 10
- 11
- 12
- 14
- 15%
- 17
- 7
- 8
- 9
- a
- выше
- ускорять
- отчетность
- Достигать
- через
- адаптация
- принять
- Принятие
- продвинутый
- против
- агентствах
- агентство
- AI
- AI модели
- Риски ИИ
- Системы искусственного интеллекта
- цель
- Цель
- выравнивать
- выравнивание
- Все
- причислены
- всегда
- американские
- среди
- an
- Аналитические фармацевтические услуги
- и
- и инфраструктура
- отношение
- подхода
- подходы
- соответствующий
- МЫ
- искусственный
- искусственный интеллект
- AS
- аспекты
- оценки;
- At
- посещение
- осведомленность
- BE
- полезный
- ЛУЧШЕЕ
- лучшие практики
- предубеждения
- поддерживать
- широкий
- строить
- Строительство
- бремя
- бизнес
- но
- by
- CAN
- возможности
- способный
- чемпион
- графиков
- Circle
- Граждане
- гражданский
- Гражданские права
- гражданский
- тесно
- сотрудничать
- сотрудничество
- совместный
- Компании
- Проводить
- последовательный
- Потребители
- (CIJ)
- непрерывно
- согласованный
- координирующий
- координация
- Основные
- "Курс"
- Создающий
- критической
- Критическая инфраструктура
- Клиенты
- кибер-
- Информационная безопасность
- Защита
- доставки
- Кафедра
- Департамент внутренней безопасности
- развертывание
- Проект
- принципы проектирования
- обнаруживать
- Определять
- развивать
- застройщиков
- Развитие
- направленный
- раскрытие
- управлять
- e
- воспитывать
- усилие
- появление
- сотрудников
- поощрять
- принуждение
- заниматься
- обеспечивать
- Весь
- лиц
- ошибки
- этический
- оценивать
- развивается
- исполнительный
- распоряжение
- опыта
- эксперты
- Федеральный
- 5
- недостатки
- Что касается
- Способствовать
- 4
- Рамки
- Бесплатно
- от
- Цели
- управление
- Правительство
- государственные учреждения
- Правительства
- Группы
- руководство
- Освоение
- Есть
- помощь
- помогает
- Выделенные
- родина
- Национальная Безопаность
- надеется,
- Вилла / Бунгало
- HTTP
- HTTPS
- человек
- ICON
- идентифицированный
- осуществлять
- реализация
- в XNUMX году
- улучшать
- in
- инцидент
- реакция на инцидент
- включают
- включает в себя
- все больше и больше
- промышленность
- партнеры по отрасли
- информация
- Инфраструктура
- инициативы
- интегрировать
- Интеллекта
- намерен
- Мультиязычность
- интуиция
- следственный
- IT
- это безопасность
- ЕГО
- JPG
- закон
- правоохранительной
- Законодательство
- Лидеры
- ведущий
- Юр. Информация
- Жизненный цикл
- линий
- локальным
- поддерживать
- Создание
- злонамеренный
- управление
- мандаты
- Манипуляция
- Производители
- карта
- материалы
- Май..
- заседаниях
- методы
- Наша миссия
- Модели
- БОЛЕЕ
- народ
- Наций
- необходимый
- of
- on
- только
- ответственность
- or
- заказ
- организации
- Результаты
- изложенные
- за
- надзор
- собственный
- собственность
- участвующий
- партнер
- партнеры
- pass
- фаза
- план
- Планы
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- сборах
- политика
- политики
- поза
- практиками
- Принципы
- Расставляйте приоритеты
- приоритет
- политикой конфиденциальности.
- частная
- частный сектор
- процесс
- Процессы
- приобретение
- Продукт
- разработка продукта
- Продукция
- Программы
- продвижении
- для защиты
- обеспечение
- что такое варган?
- публиковать
- Оферты
- Полагая
- радикальный
- повышение
- ассортимент
- рекрут
- Red
- Цена снижена
- снижение
- выпустил
- соответствующие
- требовать
- требование
- упругость
- упругий
- ответ
- ответы
- ответственный
- обзор
- правые
- тщательный
- Снижение
- управление рисками
- рисках,
- Дорога
- Дорожная карта
- надежный
- s
- безопасный
- то же
- сектор
- Сектора юридического права
- безопасный
- безопасно
- безопасность
- Безопасность
- выбор
- Поделиться
- разделение
- должен
- So
- Software
- разработка программного обеспечения
- Источник
- вызвало
- заинтересованных сторон
- Стэнфорд
- Область
- заявил
- Стратегический
- стратегий
- УКРЕПЛЯТЬ
- усиленный
- сильный
- такие
- поддержка
- система
- системы
- с
- целевое
- технологии
- техническая промышленность
- Технический
- снижения вреда
- Технологии
- тестXNUMX
- Тестирование
- который
- Ассоциация
- Источник
- их
- этой
- угроза
- угрозы
- Через
- по всему
- время
- титанов
- в
- инструменты
- топ
- Обучение
- Прозрачность
- лечение
- племенной
- заслуживающий доверия
- понимать
- представила
- us
- использование
- через
- зоркость
- уязвимость
- ЧТО Ж
- , которые
- в то время как
- зачем
- будете
- Работа
- Трудовые ресурсы
- работает
- Рабочие группы
- Мир
- зефирнет