Дізнайтеся, як оцінити ризик систем ШІ | Веб-сервіси Amazon

Штучний інтелект (ШІ) — це галузь, що швидко розвивається, і має потенціал для вдосконалення та трансформації багатьох аспектів суспільства. У 2023 році темпи впровадження технологій штучного інтелекту ще більше прискорилися завдяки розробці потужних базових моделей (FM) і, як наслідок, розвитку генеративних можливостей штучного інтелекту.

В Amazon ми запустили кілька генеративних служб ШІ, як-от Amazon Bedrock та Amazon Code Whisperer, і зробили ряд високоефективних генераторних моделей доступними через Amazon SageMaker JumpStart. Ці послуги призначені для підтримки наших клієнтів у розкритті нових можливостей генеративного штучного інтелекту, включаючи розширену творчість, створення персоналізованого та динамічного контенту та інноваційний дизайн. Вони також можуть допомогти фахівцям зі штучним інтелектом зрозуміти світ, як ніколи раніше, — долаючи мовні бар’єри, зміну клімату, прискорюючи наукові відкриття тощо.

Однак, щоб реалізувати весь потенціал генеративного штучного інтелекту, важливо ретельно продумати будь-які потенційні ризики. Перш за все, це приносить користь зацікавленим сторонам системи штучного інтелекту, сприяючи відповідальній і безпечній розробці та розгортанню, а також заохочуючи прийняття проактивних заходів для усунення потенційного впливу. Отже, створення механізмів для оцінки та управління ризиками є важливим процесом для практиків ШІ, який став основним компонентом багатьох галузевих стандартів ШІ, що розвиваються (наприклад, ISO 42001, ISO 23894 та NIST RMF) і законодавство (наприклад Закон ЄС про ШІ).

У цій публікації ми обговорюємо, як оцінити потенційний ризик вашої системи ШІ.

Які різні рівні ризику?

Хоча може бути простіше почати окремо розглядати окрему модель машинного навчання (ML) і пов’язані з нею ризики, важливо розглянути деталі конкретного застосування такої моделі та відповідного сценарію використання як частини повної системи ШІ. . Насправді типова система штучного інтелекту, ймовірно, базується на кількох різних моделях машинного навчання, які працюють разом, і організація може прагнути створити кілька різних систем штучного інтелекту. Отже, ризики можна оцінювати для кожного випадку використання та на різних рівнях, а саме ризик моделі, ризик системи AI та ризик підприємства.

Корпоративний ризик охоплює широкий спектр ризиків, з якими може зіткнутися організація, включаючи фінансові, операційні та стратегічні ризики. Ризик системи ШІ зосереджується на впливі, пов’язаному з впровадженням і роботою систем ШІ, тоді як ризик моделі ML стосується саме вразливості та невизначеності, властивих моделям ML.

У цьому дописі ми зосереджуємося насамперед на системних ризиках ШІ. Однак важливо зазначити, що всі різні рівні управління ризиками в організації повинні бути розглянуті та узгоджені.

Як визначається системний ризик ШІ?

Управління ризиками в контексті системи штучного інтелекту може бути шляхом до мінімізації ефекту невизначеності або потенційних негативних впливів, водночас надаючи можливості для максимізації позитивного впливу. Сам по собі ризик — це не потенційна шкода, а вплив невизначеності на цілі. Відповідно до Структура управління ризиками NIST (NIST RMF), ризик можна оцінити як мультиплікативну міру ймовірності настання події, визначену за часом величиною наслідків відповідної події.

Є два аспекти ризику: невід'ємний ризик і залишковий ризик. Властивий ризик – це рівень ризику, який демонструє система штучного інтелекту за відсутності засобів пом’якшення чи контролю. Залишковий ризик охоплює ризики, що залишилися після врахування стратегій пом’якшення.

Завжди пам’ятайте, що оцінка ризиків – це діяльність, орієнтована на людину, яка потребує зусиль усієї організації; ці зусилля варіюються від забезпечення участі всіх відповідних зацікавлених сторін у процесі оцінки (таких як команди продукту, інженерів, науки, продажів і безпеки) до оцінки того, як соціальні перспективи та норми впливають на ймовірність і наслідки певних подій.

Чому ваша організація повинна дбати про оцінку ризиків?

Створення основ управління ризиками для систем ШІ може принести користь суспільству в цілому, сприяючи безпечному та відповідальному проектуванню, розробці та експлуатації систем ШІ. Структури управління ризиками також можуть принести користь організаціям через наступне:

• Поліпшення процесу прийняття рішень – Розуміючи ризики, пов’язані з системами штучного інтелекту, організації можуть приймати кращі рішення про те, як зменшити ці ризики та використовувати системи штучного інтелекту безпечним і відповідальним способом.
• Покращене планування відповідності – Структура оцінки ризиків може допомогти організаціям підготуватися до вимог оцінки ризиків у відповідних законах і нормативних актах
• зміцнення довіри – Демонструючи, що вони вживають заходів для зменшення ризиків систем штучного інтелекту, організації можуть показати своїм клієнтам і зацікавленим сторонам, що вони віддані використанню штучного інтелекту безпечним і відповідальним способом.

Як оцінити ризик?

В якості першого кроку організація повинна розглянути можливість опису сценарію використання штучного інтелекту, який необхідно оцінити, і визначити всіх відповідних зацікавлених сторін. Варіант використання — це конкретний сценарій або ситуація, яка описує, як користувачі взаємодіють із системою ШІ для досягнення певної мети. Під час створення опису варіанту використання може бути корисно вказати бізнес-проблему, яка вирішується, перерахувати залучених зацікавлених сторін, охарактеризувати робочий процес і надати деталі щодо ключових вхідних і вихідних даних системи.

Коли справа доходить до зацікавлених сторін, деяких легко не помітити. Наступний малюнок є хорошою відправною точкою для визначення ролей зацікавлених сторін ШІ.

Важливим наступним кроком оцінки ризиків системи ШІ є виявлення потенційно шкідливих подій, пов’язаних із варіантом використання. Розглядаючи ці події, може бути корисно подумати про різні аспекти відповідального ШІ, наприклад, про справедливість і надійність. Різні зацікавлені сторони можуть зазнати впливу в різному ступені в різних аспектах. Наприклад, низький ризик надійності для кінцевого користувача може бути результатом незначних збоїв у системі ШІ, тоді як низький ризик справедливості може бути спричинений системою ШІ, яка створює незначно різні результати для різних демографічних груп.

Щоб оцінити ризик події, ви можете використовувати шкалу ймовірності в поєднанні зі шкалою тяжкості для вимірювання ймовірності виникнення, а також ступеня наслідків. Корисною відправною точкою при розробці цих шкал може бути NIST RMF, яка пропонує використовувати якісні нечислові категорії від дуже низького до дуже високого ризику або принципи напівкількісної оцінки, такі як шкали (наприклад, 1–10), біни чи інші принципи. репрезентативні числа. Після того, як ви визначили шкали ймовірності та серйозності для всіх відповідних параметрів, ви можете використовувати схему матриці ризику для кількісної оцінки загального ризику для зацікавлених сторін за кожним відповідним параметром. На наступному малюнку показано приклад матриці ризиків.

Використовуючи цю матрицю ризиків, ми можемо розглядати подію з низьким рівнем серйозності та рідкісною ймовірністю виникнення як дуже низький ризик. Майте на увазі, що початкова оцінка буде оцінкою внутрішнього ризику, а стратегії зменшення ризику можуть допомогти знизити рівень ризику надалі. Потім процес можна повторити, щоб сформувати рейтинг будь-якого залишкового ризику для кожної події. Якщо існує кілька подій, визначених за одним і тим же виміром, може бути корисним вибрати найвищий рівень ризику серед усіх, щоб створити остаточне підсумкове оцінювання.

Використовуючи остаточне підсумкове оцінювання, організації повинні будуть визначити, які рівні ризику прийнятні для їхніх систем ШІ, а також розглянути відповідні правила та політику.

Зобов'язання AWS

Завдяки взаємодії з Білий дім та UN, серед іншого, ми прагнемо ділитися своїми знаннями та досвідом для сприяння відповідальному та безпечному використанню ШІ. У цьому плані Адам Селіпскі з Amazon нещодавно представляв AWS на виставці Саміт безпеки ШІ за участю глав держав і лідерів галузі, що ще раз демонструє нашу відданість співпраці у відповідальному розвитку штучного інтелекту.

Висновок

Оскільки штучний інтелект продовжує розвиватися, оцінка ризиків стає все більш важливою та корисною для організацій, які прагнуть створювати та розгортати штучний інтелект відповідально. Завдяки створенню системи оцінки ризиків і плану зменшення ризиків організації можуть зменшити ризик потенційних інцидентів, пов’язаних зі штучним інтелектом, і заслужити довіру своїх клієнтів, а також отримати переваги, такі як підвищення надійності, справедливість для різних демографічних груп тощо.

Почніть свій шлях із розробки системи оцінки ризиків у вашій організації та поділіться своїми думками в коментарях.

Також ознайомтеся з оглядом генеративних ризиків ШІ, опублікованим на Amazon Science: Відповідальний ШІ в епоху генерації, а також ознайомтеся з набором послуг AWS, які можуть допомогти вам під час оцінки ризиків і їх пом’якшення: Роз'яснити Amazon SageMaker, Монітор моделі Amazon SageMaker, AWS CloudTrail, А також модель системи управління.

---

Про авторів

Мія С. Майєр є прикладним науковцем і викладачем машинного навчання в Університеті машинного навчання AWS; де вона досліджує та викладає безпечність, зрозумілість і справедливість систем машинного навчання та ШІ. Протягом своєї кар’єри Мія створила кілька університетських програм, виступала в якості запрошеного лектора та основного доповідача та виступала на численних великих навчальних конференціях. Вона також допомагає внутрішнім командам і клієнтам AWS розпочати відповідальний шлях у сфері ШІ.

Баталов Денис Васильович 17-річний ветеран Amazon і доктор філософії в галузі машинного навчання, Денис працював над такими захоплюючими проектами, як Search Inside the Book, мобільні програми Amazon і Kindle Direct Publishing. З 2013 року він допомагав клієнтам AWS запровадити технологію AI/ML як архітектор рішень. Наразі Денис є світовим технічним керівником AI/ML, відповідальним за функціонування AWS ML Specialist Solutions Architects у всьому світі. Денис часто виступає на публіці, стежити за ним можна в Twitter @dbatalov.

Доктор Сара Лю є старшим технічним менеджером програми в команді AWS Responsible AI. Вона працює з командою вчених, керівників наборів даних, інженерів ML, дослідників, а також інших міжфункціональних команд, щоб підвищити планку відповідального ШІ в сервісах ШІ AWS. Її поточні проекти включають розробку сервісних карток штучного інтелекту, проведення оцінки ризиків для відповідального штучного інтелекту, створення високоякісних наборів оціночних даних і впровадження програм якості. Вона також допомагає внутрішнім командам і клієнтам відповідати стандартам галузі ШІ, що розвиваються.

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
• PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
• ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
• PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
• джерело: https://aws.amazon.com/blogs/machine-learning/learn-how-to-assess-risk-of-ai-systems/