Три уязвимости безопасности, обнаруженные в функциях расширения, которые использует ChatGPT, открывают дверь для несанкционированного доступа без щелчка мыши к учетным записям и сервисам пользователей, включая конфиденциальные репозитории на таких платформах, как GitHub.
Плагины ChatGPT и пользовательские версии ChatGPT, опубликованные разработчиками, расширяют возможности модели искусственного интеллекта, обеспечивая взаимодействие с внешними сервисами, предоставляя популярному генеративному чат-боту OpenAI доступ и разрешения на выполнение задач на различных сторонних веб-сайтах, включая GitHub и Google Drive. .
Исследователи «Соляной лаборатории» обнаружили три критические уязвимости, влияющие на ChatGPT, первый из которых происходит во время установки новых плагинов, когда ChatGPT перенаправляет пользователей на веб-сайты плагинов для утверждения кода. Воспользовавшись этим, злоумышленники могут обманным путем заставить пользователей одобрить вредоносный код, что приведет к автоматической установке неавторизованных плагинов и потенциальному последующему компрометации учетной записи.
Во-вторых, PluginLab, платформа для разработки плагинов, не имеет надлежащей аутентификации пользователей, что позволяет злоумышленникам выдавать себя за пользователей и осуществлять захват учетных записей, как это видно на примере плагина AskTheCode, соединяющего ChatGPT с GitHub.
Наконец, исследователи Salt обнаружили, что некоторые плагины уязвимы для Манипулирование перенаправлением OAuth, что позволяет злоумышленникам вставлять вредоносные URL-адреса и красть учетные данные пользователей, что облегчает дальнейший захват учетных записей.
В отчете отмечается, что с тех пор проблемы были устранены, и нет никаких доказательств того, что уязвимости были использованы, поэтому пользователям следует как можно скорее обновить свои приложения.
Проблемы безопасности GenAI ставят под угрозу обширную экосистему
Янив Балмас, вице-президент по исследованиям Salt Security, говорит, что проблемы, обнаруженные исследовательской группой, могут подвергнуть риску сотни тысяч пользователей и организаций.
«Руководители службы безопасности в любой организации должны лучше понимать риск, поэтому им следует проверить, какие плагины и GPT использует их компания и какие сторонние учетные записи подвергаются воздействию этих плагинов и GPT», — говорит он. «В качестве отправной точки мы бы предложили провести проверку безопасности их кода».
Разработчикам плагинов и GPT Балмас рекомендует разработчикам лучше знать внутреннюю структуру экосистемы GenAI, связанные с ней меры безопасности, способы их использования и способы злоупотребления ими. В частности, это включает в себя то, какие данные отправляются в GenAI и какие разрешения предоставляются платформе GenAI или подключенным сторонним плагинам — например, разрешение для Google Drive или GitHub.
Балмас отмечает, что исследовательская группа Salt проверила лишь небольшой процент этой экосистемы, и говорит, что результаты показывают, что существует больший риск, связанный с другими платформами GenAI, а также многими существующими и будущими плагинами GenAI.
Балмас также говорит, что OpenAI следует уделять больше внимания безопасности в своей документации для разработчиков, что поможет снизить риски.
Риски безопасности подключаемого модуля GenAI, вероятно, возрастут
Сара Джонс, аналитик по исследованию киберугроз в Critical Start, согласна, что результаты Соляной лаборатории предполагают более широкий риск безопасности связанные с плагинами GenAI.
«Поскольку GenAI становится все более интегрированным с рабочими процессами, уязвимости в плагинах могут предоставить злоумышленникам доступ к конфиденциальным данным или функциям на различных платформах», — говорит она.
Это подчеркивает необходимость надежных стандартов безопасности и регулярных проверок как для платформ GenAI, так и для их подключаемых экосистем, поскольку хакеры начинают устранять недостатки этих платформ.
Даррен Гуччионе, генеральный директор и соучредитель Keeper Security, говорит, что эти уязвимости служат «ярким напоминанием» о присущих рисках безопасности, связанных со сторонними приложениями, и должны побудить организации усилить свою защиту.
«Поскольку организации стремятся использовать ИИ для получения конкурентного преимущества и повышения операционной эффективности, необходимость быстрого внедрения этих решений не должна преобладать над оценкой безопасности и обучением сотрудников», — говорит он.
Распространение приложений с поддержкой искусственного интеллекта также создало проблемы в безопасность цепочки поставок программного обеспечения, требуя от организаций адаптировать свои меры безопасности и политики управления данными.
Он отмечает, что сотрудники все чаще вводят в инструменты искусственного интеллекта конфиденциальные данные, включая интеллектуальную собственность, финансовые данные, бизнес-стратегии и многое другое, и несанкционированный доступ злоумышленника может нанести ущерб организации.
«Атака захвата учетной записи, ставящая под угрозу учетную запись GitHub сотрудника или другие конфиденциальные учетные записи, может иметь столь же разрушительные последствия», — предупреждает он.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://www.darkreading.com/vulnerabilities-threats/critical-chatgpt-plugin-vulnerabilities-expose-sensitive-data
- :имеет
- :является
- :нет
- $UP
- 7
- a
- О нас
- злоупотребление
- доступ
- Учетная запись
- Учетные записи
- приспосабливать
- затрагивающий
- соглашается с тем,
- AI
- AI chatbot
- Позволяющий
- причислены
- an
- аналитик
- и
- любой
- Приложения
- утверждение
- Программы
- МЫ
- AS
- связанный
- At
- атаковать
- аудит
- Аутентификация
- Автоматический
- знать
- BE
- становится
- было
- не являетесь
- Лучшая
- больший
- изоферменты печени
- бизнес
- by
- возможности
- предостережения
- Генеральный директор
- определенный
- цепь
- проблемы
- Chatbot
- ChatGPT
- проверил
- Соучредитель
- код
- Компания
- конкурентоспособный
- скомпрометированы
- подключенный
- Соединительный
- контрольная
- может
- Полномочия
- калечащий
- критической
- изготовленный на заказ
- кибер-
- повреждения
- данным
- оборонительные сооружения
- застройщиков
- Развитие
- документации
- Двери
- управлять
- в течение
- экосистема
- Экосистемы
- Edge
- затрат
- акцент
- подчеркивает
- Сотрудник
- сотрудников
- работает
- позволяет
- повышать
- входящий
- одинаково
- оценки
- , поскольку большинство сенаторов
- пример
- выполнять
- существующий
- Эксплуатируемый
- эксплуатации
- подвергаться
- продлить
- расширение
- и, что лучший способ
- облегчающий
- финансовый
- финансовые данные
- результаты
- Во-первых,
- фиксированной
- недостатки
- Что касается
- найденный
- Рамки
- функциональные возможности
- Функции
- далее
- будущее
- Gain
- Genai
- генеративный
- Генеративный ИИ
- GitHub
- данный
- управление
- предоставление
- Хакеры
- было
- Есть
- he
- помощь
- Как
- How To
- HTTPS
- Сотни
- Воздействие
- олицетворять
- осуществлять
- in
- включает в себя
- В том числе
- Увеличение
- все больше и больше
- указывать
- свойственный
- установка
- интегрированный
- интеллектуальный
- интеллектуальная собственность
- Интеллекта
- взаимодействие
- в
- выпустили
- вовлеченный
- вопросы
- Джонс
- JPG
- лаборатория
- Labs
- Лидеры
- ведущий
- Кредитное плечо
- такое как
- Вероятно
- Создание
- злонамеренный
- многих
- Май..
- меры
- модель
- БОЛЕЕ
- должен
- Необходимость
- Новые
- нет
- отметил,
- of
- on
- только
- открытый
- OpenAI
- оперативный
- or
- организация
- организации
- Другое
- внешний
- за
- процент
- разрешение
- Разрешения
- Платформа
- Платформы
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Точка
- пунктов
- сборах
- Популярное
- возможное
- потенциал
- президент
- давление
- правильный
- собственность
- ( изучите наши патенты),
- обеспечивать
- опубликованный
- положил
- быстро
- рекомендует
- уменьшить
- регулярный
- соответствующие
- напоминание
- отчету
- исследованиям
- исследователи
- обзоре
- Снижение
- рисках,
- надежный
- торопить
- s
- соль
- говорит
- безопасность
- Меры безопасности
- риски безопасности
- видел
- чувствительный
- послать
- служить
- Услуги
- она
- должен
- с
- небольшой
- So
- Решения
- скоро
- конкретно
- стандартов
- сильно
- Начало
- Начало
- стратегий
- предлагать
- поставка
- цепочками поставок
- восприимчивый
- взять
- поглощение
- задачи
- команда
- который
- Ассоциация
- их
- Их
- Там.
- Эти
- они
- сторонние
- этой
- те
- тысячи
- угроза
- Через
- в
- инструменты
- Обучение
- трюк
- неразрешенный
- непокрытый
- понимать
- Обновление ПО
- использование
- Информация о пользователе
- пользователей
- через
- различный
- Огромная
- версии
- вице
- вице-президент
- Уязвимости
- законопроект
- we
- веб-сайты
- были
- Что
- когда
- который
- будете
- в
- Рабочие процессы
- бы
- зефирнет