Дорогі наслідки неетичного AI Whisperer (Падма Чукка)

                         

Так.. Я говорю про додатки штучного інтелекту – наші незліченні додатки штучного інтелекту та майбутні програми, які нашіптують людям, що робити… як це зробити…але не про шепотів, які взаємодіють із чат-ботами ШІ.

За оцінками  IDC За прогнозами, глобальний ринок штучного інтелекту може сягнути понад 500 мільярдів доларів США до 2024 року, що на 50% більше, ніж у 2021 році. Це означає, що ми перейшли від бізнес-експериментів до визнання того, що він є невід’ємною частиною стратегії підприємств будь-якого розміру. Це необхідний інструмент, щоб перетворити дані на розуміння, щоб ініціювати дії на основі кращих рішень. Ніхто не обговорює переваги штучного інтелекту для зниження бізнес-ризику та підвищення рентабельності інвестицій завдяки інноваціям. Але, як завжди, є … АЛЕ … неупереджений ШІ легше сказати, ніж зробити.

Вирішально важливі для бізнесу, ці моделі штучного інтелекту повинні працювати надійно з видимістю та підзвітністю. Інакше невдача в цьому випадку матиме жахливі наслідки, які вплинуть на грошовий потік будь-якої компанії та можуть навіть призвести до юридичних справ. Єдиний спосіб уникнути цього — це автоматизація та прозорість, щоб відповісти на одне запитання: «Чи можете ви довести, що ця програма/робоче навантаження AI побудовано етично». Ака...як ти керуєш? І чи можете ви довести, що вона управляється постійно?

Саме тут люблять компанії IBM інвестували в управління штучним інтелектом, щоб організувати загальний процес спрямування, управління та моніторингу діяльності організації в сфері штучного інтелекту. Основне завдання полягає в тому, щоб усі бізнес-підрозділи залишалися проактивними та включали структуру управління в ініціативи для зміцнення здатності дотримуватись етичних принципів і норм. Зокрема, регульовані галузі, як-от банківська справа та фінансові послуги, за законом зобов’язані надавати докази, щоб задовольнити регулятори.

Вплив штучного інтелекту зростає в геометричній прогресії в секторі фінансових послуг через величезний тиск цифрової трансформації. Як сказано, це легше сказати, ніж зробити, оскільки:

1. Впевнено запустіть програми AI:

У деяких випадках моделі будуються без чіткості та каталогізації; Зайве говорити, що моніторинг вислизає посеред усього, щоб відстежувати наскрізний життєвий цикл. У той час як банки борються із застарілими програмами, автоматизація процесів для створення прозорості та зрозумілості стала складнішою та, у свою чергу, чорною скринькою. Ніхто не знає, чому/як приймалися рішення. Нові програми, переплутані зі застарілими програмами, ніколи не побачать світла, хоча це пов’язано з величезною рентабельністю інвестицій через якість і неусвідомлені ризики.

Це підводить нас до другого пункту – управління ризиком для репутації

2. Управління ризиком репутації разом із загальним ризиком

я запитав #чатGPT та  #Бард – хто така Падма Чукка. #ChatGPT відмовився відповідати, навіть якщо я змінив запитання кількома способами. Тим не менш, Бард дав мені детальну відповідь, включаючи мій профіль LinkedIn… але дані з різних сайтів, де мій старий профіль все ще існує як частина біографії доповідача. З цього моменту я ще не відкрив Барда. Так швидко мене відключили, він же – ризик для репутації. Припустімо, що я можу вимкнути простого чат-бота, коли розумію, що дані можуть бути суперечливими. Як я міг не переконатися, перш ніж прийняти рішення про покупку програми на базі ШІ для ведення критично важливого бізнесу? Репутаційний ризик є важливим фактором, про який іноді компанії забувають. Якщо ви кількісно оціните репутаційний ризик, можна побачити величезний вплив на бізнес, якщо ви не будете активні.

Щоб додати складності, третє…

3. Як компанія може відреагувати на зміну правил штучного інтелекту?

Щоб уникнути репутаційного ризику, успішна та відповідальна команда штучного інтелекту повинна бути в курсі всіх місцевих і глобальних нормативних актів, миттєво знімаючи відео. І невідповідність може зрештою коштувати організації штрафів у мільйони доларів, пов’язаних із роботою, як-от запропонований Закон ЄС про штучний інтелект. Це може становити до 30 мільйонів євро або 6% світового доходу компанії – OUCH.

Що ж, не все повинно бути райдужним на початку... якщо ми знаємо, як перетворити страшну ситуацію на рожеву.

Не дивно… це завжди люди, процес і технології. Отже, по-перше, створіть багатофункціональний керівний орган для навчання, скерування та моніторингу ініціатив на основі цілей. Потім порівняйте поточні технології та процеси штучного інтелекту, зрозумійте прогалини, а потім виправте їх для майбутніх перевірок. Потім поверніться до набору автоматизованих робочих процесів керування відповідно до вимог відповідності. Нарешті, налаштуйте систему моніторингу, щоб сповіщати власників, якщо прийнятний поріг наближається. З точки зору технологій, добре архітектурний, добре виконаний і добре підключений штучний інтелект потребує кількох будівельних блоків. І переконайтеся, що він має деякі або всі можливості:

· Цілісність даних у різних розгортаннях

· Використовуйте відкриті, гнучкі існуючі інструменти, які відповідають принципам управління AI

· Обов’язково надайте доступ до самообслуговування з елементами керування конфіденційністю – це спосіб відстеження

· Дизайн з урахуванням автоматизації та управління ШІ

· Можна підключати та налаштовувати для багатьох зацікавлених сторін за допомогою настроюваного робочого процесу

Після того, як ми змінимо програму з страшної на Rosy... наступне питання полягає в тому, як ви доведете...

По-перше, поверніться до принципів штучного інтелекту компанії – будуйте з ними, і все ж вам потрібно «показати», що ви відповідаєте вимогам, особливо в регульованих середовищах, таких як фінансові послуги. Оскільки фінансові служби повинні скаржитися на NIST 800-53, вони можуть переглянути NIST AI Risk Management Framework (AI RMF). NIST запропонував елементи керування в чотирьох сімействах – Govern, Map, Measure та Manage. Використовуючи це як керівний фактор і стрес-тестуйте програми, щоб виявити прогалини, які потрібно виправити та контролювати.

IBM може перевірити ваші моделі перед тим, як ви запустите їх у виробництво, а також перевірити справедливість, якість і дрейф. Він також може надати документацію, що пояснює поведінку моделі та прогнози для задоволення вимог регуляторів і аудиторів. Ці пояснення можуть забезпечити видимість і полегшити аудит, а також підвищити прозорість і можливість визначити можливі ризики.

 Упевнено слухайте цей шепіт ШІ!

#Фінансові послуги #відповідальний #ethicalai #NISTAIRMF

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• Платоблокчейн. Web3 Metaverse Intelligence. Розширені знання. Доступ тут.
• Карбування майбутнього з Адріенн Ешлі. Доступ тут.
• джерело: https://www.finextra.com/blogposting/24053/the-costly-consequences-of-unethical-ai-whisperer?utm_medium=rssfinextra&utm_source=finextrablogs