Безпека має розширити можливості розробників штучного інтелекту

Безсумнівно, GenAI змінить спосіб ведення бізнесу. Дослідницькі фірми оцінюють величезний приріст продуктивності у всіх секторах, яка, якщо її виконати, повністю змінить кожну галузь. З таким великим потенціалом стає зрозуміло, чому кожне підприємство прагне дозволити своїм командам створювати програми на основі штучного інтелекту якомога швидше. Однак служби безпеки повинні діяти зараз, щоб переконатися, що ці програми витримають перевірку.

Перегони, щоб перш за все отримати бізнес-цінність ШІ

Деякі підприємства вже створили сотні додатків на основі ШІ. Швидкість розвитку просто неймовірна, є такі помітні приклади, як Microsoft випускає програми Copilot зі швидкістю, що набагато перевищує ту, яку зазвичай забезпечує величезне підприємство.

Через незрілість фреймворків і інструментів навколо Розробка додатків AI, вони будуються за допомогою широкого спектру технологій. Фреймворки розробки, які будуються на основі кількох фундаментальних моделей, численні та суттєво відрізняються, і вони продовжують з’являтися. Рамки як LangChain та AutoGPT набули значної популярності безпрецедентними темпами. У великому підприємстві можна легко очікувати, що для створення цих програм використовуються десятки різних фреймворків.

Перші організації, які зможуть отримати приріст продуктивності від штучного інтелекту раніше за інших, отримають величезну перемогу. Таким чином, ми беремо участь у змаганнях, де нам потрібно задовольнятися доступними зараз фреймворками та просто виконувати завдання. Ймовірно, для стандартизації фреймворків знадобиться багато часу, і до того часу ви вже запізнитесь у гру.

Ми повинні дивитися в очі реальності: бізнес переосмислюється — за допомогою неперевірених інструментів, фреймворків і моделей загроз — безпрецедентними темпами.

Безпека: з чого ми взагалі починаємо?

Створення такої кількості нових програм за такий короткий проміжок часу має величезні наслідки для безпеки. По-перше, це просто додаткові програми з тими ж ризиками безпеки, що й будь-яка інша програма; їм потрібно правильно керувати ідентифікацією, потоком даних і секретами, і це лише деякі проблеми. По-друге, GenAI створює деякі унікальні проблеми безпеки, які фреймворки подібні до OWASP LLM Топ 10 допомогти захопити і виховувати на.

Передові організації безпеки у співпраці з IT-спеціалістами створюють спеціальні центри для інвентаризації, оцінки та захисту цих програм. Зауважте, що це вимагає створення абсолютно нових процесів і нових делегованих обов’язків. В ідеалі ці центри можуть служити допоміжним ресурсом для розробників, пропонуючи послуги з моделювання загроз і перевірки дизайну, щоб забезпечити дотримання стандартів безпеки.

Створити централізований ресурс, як ці, нелегко. Пошук усіх проектів на базі штучного інтелекту на підприємстві є величезною проблемою інвентар завжди є. Розвиток технічних навичок, необхідних для аудиту цих додатків, також є складним, особливо через поширення різних фреймворків штучного інтелекту, кожен зі своїми особливостями та недоліками. Моніторинг цих додатків у виробництві є ще одним викликом як з технічної точки зору отримання правильних даних із незрілих фреймворків розробки, так і з точки зору аналізу безпеки, щоб знати, на що звертати увагу.

Однак це не непереборні виклики. Насправді вони дотримуються типової формули проблеми безпеки додатків: інвентаризація, оцінка безпеки та захист під час виконання. Щоб просунутися вперед і дати можливість нашому бізнесу першими захопити революцію штучного інтелекту, ми маємо почати просуватися у вирішенні цих проблем.

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
• PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
• ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
• PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
• джерело: https://www.darkreading.com/edge/security-must-empower-ai-developers-now