Три вразливості системи безпеки, виявлені у функціях розширення, які використовує ChatGPT, відкривають двері для несанкціонованого доступу до облікових записів і служб користувачів без натискання кнопки миші, включаючи конфіденційні репозиторії на таких платформах, як GitHub.
Плагіни ChatGPT і спеціальні версії ChatGPT, опубліковані розробниками, розширюють можливості моделі штучного інтелекту, уможливлюючи взаємодію із зовнішніми службами, надаючи популярному генеруючому чатботу OpenAI доступ і дозволи для виконання завдань на різних веб-сайтах сторонніх розробників, включаючи GitHub і Google Drive. .
Дослідники Salt Labs виявили три критичні вразливості, що впливають на ChatGPT, перший з яких відбувається під час встановлення нових плагінів, коли ChatGPT перенаправляє користувачів на веб-сайти плагінів для затвердження коду. Використовуючи це, зловмисники можуть обманом змусити користувачів схвалити зловмисний код, що призведе до автоматичного встановлення неавторизованих плагінів і потенційної наступної компрометації облікового запису.
По-друге, PluginLab, фреймворк для розробки плагінів, не має належної автентифікації користувачів, що дозволяє зловмисникам видавати себе за користувачів і виконувати захоплення облікових записів, як видно з плагіном «AskTheCode», який з’єднує ChatGPT з GitHub.
Нарешті дослідники Salt виявили, що певні плагіни чутливі до Маніпуляції з перенаправленням OAuth, дозволяючи зловмисникам вставляти шкідливі URL-адреси та викрадати облікові дані користувача, сприяючи подальшому захопленню облікових записів.
У звіті зазначено, що проблеми були усунені, і немає жодних доказів того, що уразливості були використані, тому користувачі повинні оновити свої програми якомога швидше.
Проблеми безпеки GenAI ставлять під загрозу величезну екосистему
Янів Балмас, віце-президент з досліджень Salt Security, каже, що проблеми, які виявила дослідницька група, можуть поставити під загрозу сотні тисяч користувачів і організацій.
«Керівники служби безпеки в будь-якій організації повинні краще розуміти ризики, тому їм слід перевірити, які плагіни та GPT використовує їхня компанія, а також які сторонні облікові записи доступні через ці плагіни та GPT», — каже він. «Як відправну точку ми б запропонували провести перевірку безпеки їх коду».
Для розробників плагінів і GPT Балмас рекомендує розробникам краще знати про внутрішню структуру екосистеми GenAI, задіяні заходи безпеки, як їх використовувати та як ними зловживати. Це зокрема стосується того, які дані надсилаються в GenAI і які дозволи надаються платформі GenAI або підключеним стороннім плагінам — наприклад, дозвіл для Google Drive або GitHub.
Балмас зазначає, що дослідницька група Salt перевірила лише невеликий відсоток цієї екосистеми, і каже, що результати вказують на наявність більшого ризику, пов’язаного з іншими платформами GenAI та багатьма існуючими та майбутніми плагінами GenAI.
Балмас також каже, що OpenAI має приділяти більше уваги безпеці у своїй документації для розробників, що допоможе зменшити ризики.
Ризики безпеки плагіна GenAI, ймовірно, зростуть
Сара Джонс, аналітик аналізу кіберзагроз у Critical Start, погоджується, що висновки Salt Lab свідчать про ширший ризик безпеки пов’язані з плагінами GenAI.
«У міру того як GenAI стає все більш інтегрованим у робочі процеси, уразливості в плагінах можуть надати зловмисникам доступ до конфіденційних даних або функцій на різних платформах», — каже вона.
Це підкреслює необхідність надійних стандартів безпеки та регулярних перевірок як для платформ GenAI, так і для їхніх екосистем плагінів, оскільки хакери починають цільові недоліки в цих платформах.
Даррен Гуччіоне, генеральний директор і співзасновник Keeper Security, каже, що ці вразливості служать «яскравим нагадуванням» про невід’ємні ризики безпеки, пов’язані зі сторонніми програмами, і повинні спонукати організації посилити свій захист.
«Оскільки організації поспішають використовувати штучний інтелект, щоб отримати конкурентну перевагу та підвищити операційну ефективність, тиск щодо швидкого впровадження цих рішень не повинен мати перевагу над оцінкою безпеки та навчанням співробітників», — говорить він.
Поширення додатків із підтримкою штучного інтелекту також спричинило проблеми безпека ланцюжка поставок програмного забезпечення, вимагаючи від організацій адаптації засобів контролю безпеки та політики керування даними.
Він зазначає, що співробітники все частіше вводять власні дані в інструменти штучного інтелекту, включаючи інтелектуальну власність, фінансові дані, бізнес-стратегії тощо, і несанкціонований доступ зловмисника може завдати шкоди організації.
«Атака захоплення облікового запису, яка загрожує обліковому запису GitHub працівника або іншим конфіденційним обліковим записам, може мати однакові згубні наслідки», – застерігає він.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://www.darkreading.com/vulnerabilities-threats/critical-chatgpt-plugin-vulnerabilities-expose-sensitive-data
- : має
- :є
- : ні
- $UP
- 7
- a
- МЕНЮ
- зловживання
- доступ
- рахунки
- Рахунки
- пристосовувати
- зачіпає
- погоджується
- AI
- AI чат
- Дозволити
- Також
- an
- аналітик
- та
- будь-який
- застосування
- твердження
- додатка
- ЕСТЬ
- AS
- асоційований
- At
- атака
- аудит
- Authentication
- автоматичний
- знати
- BE
- стає
- було
- буття
- Краще
- більший
- обидва
- бізнес
- by
- можливості
- застереження
- Генеральний директор
- певний
- ланцюг
- проблеми
- Chatbot
- ChatGPT
- перевірено
- Співзасновник
- код
- компанія
- конкурентоспроможний
- компроміс
- підключений
- З'єднувальний
- управління
- може
- Повноваження
- калічить
- критичний
- виготовлений на замовлення
- кібер-
- руйнівний
- дані
- оборонні споруди
- розробників
- розробка
- документація
- Двері
- управляти
- під час
- екосистема
- екосистеми
- край
- ефективність
- акцент
- підкреслює
- Співробітник
- співробітників
- працює
- дозволяє
- підвищувати
- вхід
- однаково
- оцінки
- докази
- приклад
- виконувати
- існуючий
- експлуатований
- експлуатація
- піддаватися
- продовжити
- розширення
- зовнішній
- сприяння
- фінансовий
- фінансові дані
- результати
- Перший
- фіксованою
- недоліки
- для
- знайдений
- Рамки
- функціональні можливості
- Функції
- далі
- майбутнє
- Отримувати
- genai
- генеративний
- Генеративний ШІ
- GitHub
- даний
- управління
- Надання
- хакери
- було
- Мати
- he
- допомога
- Як
- How To
- HTTPS
- Сотні
- Вплив
- уособлювати
- здійснювати
- in
- includes
- У тому числі
- Augmenter
- все більше і більше
- вказувати
- притаманне
- установка
- інтегрований
- інтелектуальний
- інтелектуальна власність
- Інтелект
- Взаємодії
- в
- введені
- залучений
- питання
- Джонс
- JPG
- lab
- Labs
- Лідери
- провідний
- Важіль
- як
- Ймовірно
- Робить
- malicious
- багато
- Може..
- заходи
- модель
- більше
- повинен
- Необхідність
- Нові
- немає
- зазначив,
- of
- on
- тільки
- відкрити
- OpenAI
- оперативний
- or
- організація
- організації
- Інше
- з
- над
- відсоток
- дозвіл
- Дозволи
- платформа
- Платформи
- plato
- Інформація про дані Платона
- PlatoData
- точка
- точок
- Політика
- популярний
- це можливо
- потенціал
- президент
- тиск
- правильний
- власність
- власником
- забезпечувати
- опублікований
- put
- швидко
- рекомендує
- зменшити
- регулярний
- доречний
- нагадування
- звітом
- дослідження
- Дослідники
- огляд
- Risk
- ризики
- міцний
- порив
- s
- сіль
- говорить
- безпеку
- Заходи безпеки
- ризики для безпеки
- бачив
- чутливий
- посланий
- служити
- Послуги
- вона
- Повинен
- з
- невеликий
- So
- Рішення
- скоро
- конкретно
- стандартів
- різко
- старт
- Починаючи
- стратегії
- пропонувати
- поставка
- ланцюжка поставок
- схильний
- Приймати
- поглинання
- завдання
- команда
- Що
- Команда
- їх
- Їх
- Там.
- Ці
- вони
- третя сторона
- це
- ті
- тисячі
- загроза
- через
- до
- інструменти
- Навчання
- трюк
- несанкціонований
- непокритий
- розуміти
- Оновити
- використання
- користувач
- користувачі
- використання
- різний
- величезний
- версії
- віце
- Віцепрезидент
- Уразливості
- було
- we
- веб-сайти
- були
- Що
- коли
- який
- волі
- з
- в
- Робочі процеси
- б
- зефірнет