Исследователи из IBM Security выявили новую поразительную угрозу в области искусственного интеллекта: возможность манипулировать живыми разговорами с помощью метода, известного как «аудио-джекинг».
Используя генеративный искусственный интеллект и технологию DeepFake Audio, этот метод может перехватывать и изменять произнесенные слова в реальном времени, создавая беспрецедентные риски в цифровой коммуникации.
Читайте также: Обнаружение дипфейков с помощью искусственного интеллекта прогрессирует в борьбе с растущими проблемами обмана
Разоблачение угрозы аудиоподключения
Аудиоразъем работает путем обработки живого звука двусторонней связи, например телефонных звонков, и поиска определенных ключевых слов или фраз. Когда эти триггеры обнаруживаются, ИИ вмешивается и заменяет подлинный звук обработанной версией deepfake, прежде чем он достигнет места назначения. Потрясающий иллюстрация Методика предоставлена исследователями IBM, которые незаметно изменили информацию о банковском счете, произнесенную во время разговора.
Аудиоджекинг: использование генеративного ИИ для искажения аудиотранзакций в реальном времени. Развитие генеративного ИИ, в том числе моделей преобразования текста в изображение, текста в речь и больших языковых моделей (LLM), значительно изменило нашу работу и личную жизнь. Хотя эти достижения… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Шах Шейх (@shah_sheikh) 1 февраля 2024
Легкость, с которой может быть разработана проверка концепции этой атаки, приводит в замешательство. Исследователи отметили, что самой сложной частью было не создание искусственного интеллекта, а скорее технические особенности записи и обработки живого звука. Такая простота разработки представляет собой значительный отход от традиционных ожиданий, поскольку такие усилия потребовали бы значительных знаний в нескольких областях компьютерных наук.
«Создать этот PoC оказалось на удивление и пугающе легко. Большую часть времени мы потратили на то, чтобы выяснить, как захватить звук с микрофона и передать его генеративному искусственному интеллекту».
В этой схеме роль Генеративный ИИ имеет решающее значение. Используя всего лишь три секунды человеческого голоса, технология может создать убедительный клон для создания законных дипфейков по запросу. Эта возможность, доступная через API, указывает на тревожную тенденцию в процессе демократизации передовых инструментов манипулирования.
«В настоящее время нам нужно всего три секунды голоса человека, чтобы клонировать его и использовать API преобразования текста в речь для создания подлинных фальшивых голосов».
Последствия и потенциальные злоупотребления
Однако последствия аудиоджекинга выходят за рамки простого финансового мошенничества. Такая технология способна осуществлять цензуру в режиме реального времени, незаметно изменяя прямые трансляции, такие как новости и политические выступления. Эти возможности ставят под угрозу целостность информации, что имеет серьезные последствия для демократии и общественного доверия.
Благодаря низкому барьеру для атаки с использованием аудиоджекинга, использование сложной социальной инженерии или фишинга значительно снижается. Эта легкость затем поднимает проблемы распространения таких атак, что создает проблемы для текущих мер безопасности и требует новых механизмов защиты.
«Зрелость этого PoC будет сигнализировать о значительном риске, прежде всего для потребителей… Чем более усовершенствована эта атака, тем шире сеть жертв, которую она может создать».
Феномен аудиоподключения подчеркивает более широкую проблему развития ИИ: двойственную природу генеративные технологии. С одной стороны, они являются источником неограниченных возможностей для инноваций и творчества; с другой стороны, не следует пренебрегать их потенциалом неправильного использования. Этот инцидент поднимает ключевой вопрос: как общество может использовать преимущества ИИ, одновременно защищаясь от его темных применений?
Навигация в будущее безопасности ИИ
В условиях меняющегося ландшафта цифровых угроз обнаружение IBM Security аудиоподслушивания является важным предупреждением о необходимости проявлять бдительность и модернизировать кибербезопасность. Развитие контрмер, включая инновационные алгоритмы обнаружения и более эффективные методы шифрования, имеет решающее значение для борьбы с такими сложными угрозами.
Кроме того, это раскрытие показывает, что этические вопросы являются неотъемлемой частью Исследования ИИ и развитие. Установление правил и критериев ответственного использования ИИ имеет важное значение для устранения опасностей, связанных с такими мощными технологиями.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :имеет
- :является
- :нет
- $UP
- 1
- 11
- 7
- 8
- a
- способность
- Учетная запись
- через
- адресация
- продвинутый
- против
- AI
- алгоритмы
- изменен
- an
- и
- API
- API
- Приложения
- МЫ
- искусственный
- искусственный интеллект
- AS
- At
- атаковать
- нападки
- аудио
- аутентичный
- доступен
- Банка
- счет в банке
- барьер
- BE
- было
- до
- не являетесь
- тесты
- Преимущества
- Beyond
- шире
- но
- by
- Объявления
- CAN
- возможности
- способный
- захватить
- Цензура
- проблемы
- сложные
- менялась
- борьбе
- Связь
- Связь
- скомпрометированы
- компьютер
- Информатика
- значительный
- Потребители
- Разговор
- Беседы
- может
- Создающий
- креативность
- критической
- Текущий
- Информационная безопасность
- Опасности
- темнее
- обман
- deepfakes
- Защита
- Спрос
- демократия
- демократизация
- Вылет из
- назначение
- обнаруженный
- обнаружение
- Развитие
- Интернет
- раскрытие
- обсуждение
- двойной
- в течение
- простота
- легко
- эффекты
- усилие
- шифрование
- Проект и
- существенный
- этический
- эволюция
- ожидания
- опыта
- эксперты
- не настоящие
- Поля
- финансовый
- Финансовое мошенничество
- Найдите
- Что касается
- мошенничество
- от
- будущее
- порождать
- генеративный
- Генеративный ИИ
- Go
- Рост
- рука
- упряжь
- Есть
- Как
- How To
- Однако
- HTTPS
- IBM
- Идентификация
- последствия
- in
- инцидент
- В том числе
- информация
- Инновации
- инновационный
- рефлексологии
- целостность
- Интеллекта
- вопрос
- вопросы
- IT
- ЕГО
- всего
- ключевые слова
- известный
- пейзаж
- язык
- большой
- законный
- жить
- Живет
- искать
- Низкий
- низкий барьер
- манипулировать
- Манипуляция
- зрелость
- меры
- механизмы
- метод
- микрофон
- Модели
- модернизировать
- БОЛЕЕ
- самых
- природа
- Необходимость
- сеть
- Новые
- Новости
- отметил,
- of
- on
- ONE
- только
- or
- Другое
- наши
- внешний
- за
- часть
- личного
- явление
- фишинг
- Телефон
- телефонные звонки
- фразы
- основной
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- PoC
- пунктов
- политический
- возможности,
- потенциал
- мощный
- процесс
- обработка
- производит
- глубокий
- наводящие
- при условии
- что такое варган?
- общественное доверие
- вопрос
- повышения
- скорее
- доходит до
- Читать
- реальные
- реального времени
- запись
- Цена снижена
- рафинированный
- представляет
- исследователи
- Показали
- Показывает
- Рост
- Снижение
- рисках,
- Роли
- условиями,
- охрана
- схема
- Наука
- секунды
- безопасность
- Меры безопасности
- установка
- несколько
- шейх
- СДВИГАЯ
- должен
- сигнал
- значительный
- существенно
- Соцсети
- Социальная инженерия
- Общество
- сложный
- Источник
- конкретный
- речи
- потраченный
- говорят
- Распространение
- поразительный
- Шаги
- Ошеломляющий
- такие
- удивительно
- принимает
- техника
- снижения вреда
- технологии
- Технологии
- Преобразование текста в речь
- который
- Ассоциация
- Будущее
- их
- тогда
- Эти
- они
- этой
- угроза
- угрозы
- три
- Через
- Таким образом
- время
- в
- инструменты
- традиционный
- Сделки
- тенденция
- правда
- Доверие
- нижнее подчеркивание
- Неограниченный
- беспрецедентный
- Применение
- использование
- через
- версия
- с помощью
- жертвы
- Режимы
- ГОЛОСА
- предупреждение
- законопроект
- we
- когда
- , которые
- в то время как
- КТО
- Шире
- в
- без
- слова
- Работа
- работает
- бы
- зефирнет