Дорожня карта CISA: прокладення курсу для надійної розробки ШІ

Кіберзахист: У той час як системи штучного інтелекту можуть допомогти організаціям удосконалити свій захист від нових, а також прогресивних кіберзагроз, системи програмного забезпечення на основі штучного інтелекту становлять кількість ризиків які вимагають міцного Захист ШІ. Дорожня карта спрямована на сприяння корисному використанню штучного інтелекту та, водночас, на захист національних систем від загроз, заснованих на штучному інтелекті.

Зниження ризиків і стійкість: Критична інфраструктура організації все частіше використовують системи штучного інтелекту для підтримки та посилення власної кіберстійкості. Своєю дорожньою картою CISA прагне сприяти відповідальному та з урахуванням ризиків впровадження програмних систем на основі штучного інтелекту, які «захищений дизайном” — де безпека впроваджується на етапі проектування життєвого циклу розробки продукту, щоб можна було зменшити недоліки, які можна використати, у джерелі.

Оперативна співпраця: У міру поширення технології штучного інтелекту громадяни США та сектори критичної інфраструктури можуть піддаватися цілеспрямованим загрозам, що може вимагати обміну інформацією та скоординованої відповіді з боку організацій, правоохоронних органів і міжнародних партнерів. CISA планує розробити структуру, яка допоможе покращити узгодженість і координацію між відповідними зацікавленими сторонами.

Об'єднання агентств: CISA має на меті уніфікувати та інтегрувати системи програмного забезпечення штучного інтелекту в агентстві, що допоможе йому більш узгоджено використовувати системи штучного інтелекту. CISA також планує набирати та розвивати робочу силу, здатну оптимально використовувати системи ШІ.

Відповідальне використання ШІ: CISA має намір розгорнути програмні інструменти з підтримкою ШІ для посилення кіберзахисту та підтримки критичної інфраструктури. Усі системи та інструменти пройдуть суворий процес відбору, у якому CISA гарантує, що системи, пов’язані зі штучним інтелектом, є відповідальними, безпечними, етичними та безпечними у використанні. CISA також запровадить надійні процеси управління, які не лише відповідатимуть федеральним процесам закупівель, чинним законам і політикам, конфіденційності та громадянським правам і свободам, а й запровадять підхід для постійної оцінки моделей штучного інтелекту, одночасно переглядаючи методи безпеки ІТ для безпечної інтеграції технологія.

Забезпечити системи ШІ: Щоб створити більш безпечну та стійку розробку та впровадження програмного забезпечення ШІ, CISA планує підтримувати безпечний дизайн ініціативи, розробка найкращих практик безпеки та вказівок для широкого кола зацікавлених сторін (наприклад, федеральні цивільні урядові установи, компанії приватного сектору, державні, місцеві, племінні та територіальні органи влади) і сприяння прийняттю ефективних методів управління вразливістю, вказуючи процес розкриття вразливостей а також надання вказівок щодо тестування безпеки та вправ для командних вправ для систем ШІ.

Захист критичної інфраструктури від зловмисного використання ШІ: CISA співпрацюватиме з державними установами та галузевими партнерами, такими як Спільна співпраця з кіберзахисту розробляти, тестувати та оцінювати інструменти штучного інтелекту та співпрацювати в розвитку загрози ШІ. CISA опублікує матеріали для підвищення обізнаності про нові ризики, а також оцінить методи управління ризиками, щоб визначити відповідну аналітичну структуру для оцінки та лікування ризиків ШІ.

Співпрацювати з міжвідомчими, міжнародними партнерами та громадськістю: Щоб підвищити обізнаність, поділитися інформацією про загрози та покращити можливості реагування на інциденти та розслідування, CISA планує сприяти підходам до співпраці, таким як робочі групи штучного інтелекту, відвідування чи участь у міжвідомчих зустрічах і тісна координація з підрозділами Міністерства внутрішньої безпеки. CISA працюватиме між відомствами, щоб забезпечити відповідність своєї політики та стратегій загальнодержавний підхід і залучатиме міжнародних партнерів для заохочення впровадження найкращих міжнародних практик щодо безпечного ШІ.

Розширення досвіду штучного інтелекту серед робочої сили: Людина пильність, нагляд та інтуїція завжди потрібні для виявлення кіберзагроз на основі штучного інтелекту та без нього, а також для забезпечення відсутності помилок, упереджень і маніпуляцій у системах штучного інтелекту. Людську інтуїцію та пильність можна зміцнити лише за допомогою надійних ініціатив щодо підвищення обізнаності щодо безпеки. Ось чому CISA планує постійно навчати працівників системі та техніці програмного забезпечення штучного інтелекту, набирати співробітників із досвідом роботи з штучним інтелектом і проводити навчальні програми з питань безпеки, які мають включати ситуаційні вправи, щоб гарантувати, що працівники розуміють правові, етичні та політичні аспекти ШІ. системи, крім технічних аспектів.