Дослідники з IBM Security виявили нову приголомшливу загрозу в штучному інтелекті: здатність маніпулювати живими розмовами за допомогою техніки, відомої як «аудіоджекінг».
Використовуючи генеративний штучний інтелект і аудіотехнологію deepfake, цей метод може перехоплювати та змінювати вимовлені слова в реальному часі, створюючи безпрецедентні ризики для цифрового спілкування.
Читайте також: ШІ Deepfake Detection прогресує проти зростаючих викликів обману
Викриття загрози аудіороз’єму
Аудіороз’єм працює шляхом обробки живого аудіо з двостороннього зв’язку, наприклад телефонних дзвінків, і пошуку конкретних ключових слів або фраз. Коли ці тригери виявляються, штучний інтелект втручається та замінює автентичне аудіо обробленою версією deepfake, перш ніж воно досягне місця призначення. Приголомшливий ілюстрація Техніку надали дослідники IBM, які змінили інформацію про банківський рахунок, яка була озвучена під час розмови, не виявивши.
Аудіороз’єм: використання генеративного штучного інтелекту для спотворення аудіотрансляцій у реальному часі: розвиток генеративного штучного інтелекту, включаючи перетворення тексту в зображення, перетворення тексту в мовлення та великі мовні моделі (LLM), суттєво змінив нашу роботу та особисте життя. Хоча ці досягнення… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Шах Шейх (@shah_sheikh) 1 Лютого, 2024
Легкість, з якою можна знайти підтвердження цієї атаки, викликає занепокоєння. Дослідники відзначили, що найскладнішою частиною було не створення штучного інтелекту, а скоріше технічні особливості запису та обробки живого аудіо. Така легкість розробки є суттєвим відхиленням від традиційних очікувань, коли такі зусилля вимагали б значного досвіду в кількох галузях інформатики.
«Створити цей PoC було напрочуд і жахливо легко. Більшу частину часу ми витратили на те, щоб з’ясувати, як захопити аудіо з мікрофона та передати аудіо генеруючому ШІ».
У цій схемі роль в Генеративний ШІ є критичним. Використовуючи лише три секунди голосу людини, технологія може створити переконливий клон для створення законних дипфейків на вимогу. Ця можливість, доступна через API, вказує на тривожну тенденцію в процесі демократизації передових інструментів маніпулювання.
«Зараз нам потрібно лише три секунди голосу людини, щоб клонувати його та використовувати API перетворення тексту в мовлення для генерації справжніх підроблених голосів».
Наслідки та потенційні зловживання
Однак наслідки аудіоджекінгу виходять за рамки лише фінансового шахрайства. Така технологія здатна здійснювати цензуру в реальному часі, змінюючи прямі трансляції, такі як новини та політичні виступи, без виявлення. Ці можливості порушують цілісність інформації, що має серйозні наслідки для демократії та громадської довіри.
З низьким бар’єром для атаки аудіокрому значно зменшено складну соціальну інженерію чи фішинг. Ця легкість породжує проблеми з поширенням таких атак, що створює проблеми для поточних заходів безпеки та вимагає нових механізмів захисту.
«Зрілість цього PoC сигналізує про значний ризик, перш за все для споживачів... Чим більше ця атака буде уточненою, тим ширшу мережу жертв вона може створити».
Феномен аудіороз’єму підкреслює ширшу проблему в розробці ШІ: подвійну природу генеративні технології. З одного боку, вони є джерелом необмежених можливостей для інновацій і творчості; з іншого боку, не слід нехтувати їхнім зловживаним потенціалом. Цей інцидент підштовхує до ключового питання: як суспільство може використовувати переваги штучного інтелекту, одночасно захищаючись від його темних програм?
Навігація в майбутньому безпеки ШІ
З огляду на мінливий ландшафт цифрових загроз ідентифікація аудіокомбінації IBM Security є важливим попередженням про необхідність бути пильними та модернізувати кібербезпеку. Еволюція контрзаходів, включаючи інноваційні алгоритми виявлення та ефективніші методи шифрування, має вирішальне значення для боротьби з такими складними загрозами.
Крім того, це розкриття показує, що етичні питання є невід’ємною частиною Дослідження ШІ і розвитку. Встановлення правил і контрольних показників для відповідального використання ШІ має важливе значення для усунення небезпек таких потужних технологій.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- : має
- :є
- : ні
- $UP
- 1
- 11
- 7
- 8
- a
- здатність
- рахунки
- через
- адресація
- просунутий
- проти
- AI
- алгоритми
- змінений
- an
- та
- API
- Інтерфейси
- застосування
- ЕСТЬ
- штучний
- штучний інтелект
- AS
- At
- атака
- нападки
- аудіо
- Authentic
- доступний
- Банк
- рахунок у банку
- бар'єр
- BE
- було
- перед тим
- буття
- тести
- Переваги
- За
- ширше
- але
- by
- Виклики
- CAN
- можливості
- здатний
- захоплення
- цензура
- проблеми
- складні
- змінилися
- боротьба
- Комунікація
- зв'язку
- компроміс
- комп'ютер
- Інформатика
- значний
- Споживачі
- Розмова
- розмови
- може
- створення
- креативність
- критичний
- Поточний
- Кібербезпека
- Небезпеки
- темніше
- обман
- deepfakes
- оборони
- Попит
- Демократія
- демократизація
- від'їзд
- призначення
- виявлено
- Виявлення
- розробка
- цифровий
- розкриття
- обговорення
- подвійний
- під час
- простота
- легко
- ефекти
- зусилля
- шифрування
- Машинобудування
- істотний
- етичний
- еволюція
- очікування
- експертиза
- experts
- підроблений
- Поля
- фінансовий
- фінансові шахрайства
- знайти
- для
- шахрайство
- від
- майбутнє
- породжувати
- генеративний
- Генеративний ШІ
- Go
- Зростання
- рука
- збруя
- Мати
- Як
- How To
- Однак
- HTTPS
- IBM
- Ідентифікація
- наслідки
- in
- інцидент
- У тому числі
- інформація
- інновація
- інноваційний
- інтегральний
- цілісність
- Інтелект
- питання
- питання
- IT
- ЙОГО
- просто
- ключові слова
- відомий
- ландшафт
- мова
- великий
- законний
- жити
- Місце проживання
- шукати
- низький
- низький бар'єр
- маніпулювати
- Маніпуляція
- зрілість
- заходи
- механізми
- метод
- мікрофон
- Моделі
- модернізувати
- більше
- найбільш
- природа
- Необхідність
- мережу
- Нові
- новини
- зазначив,
- of
- on
- ONE
- тільки
- or
- Інше
- наші
- з
- над
- частина
- персонал
- явище
- phishing
- телефон
- телефонні дзвінки
- фрази
- основний
- plato
- Інформація про дані Платона
- PlatoData
- PoC
- точок
- політичний
- можливостей
- потенціал
- потужний
- процес
- обробка
- виробляти
- глибокий
- підказок
- за умови
- громадськість
- суспільну довіру
- питання
- піднімається
- швидше
- Досягає
- Читати
- реальний
- реального часу
- запис
- Знижений
- рафінований
- представляє
- Дослідники
- Показали
- Виявляє
- Зростання
- Risk
- ризики
- Роль
- Правила
- захист
- схема
- наука
- seconds
- безпеку
- Заходи безпеки
- установка
- кілька
- шейх
- ПЕРЕМІЩЕННЯ
- Повинен
- Сигнал
- значний
- істотно
- соціальна
- Соціальна інженерія
- суспільство
- складний
- Source
- конкретний
- виступи
- відпрацьований
- говорять
- Поширення
- вражаючий
- заходи
- Приголомшливий
- такі
- дивно
- приймає
- техніка
- методи
- Технології
- Технологія
- Перетворення тексту в мову
- Що
- Команда
- Майбутнє
- їх
- потім
- Ці
- вони
- це
- загроза
- загрози
- три
- через
- Таким чином
- час
- до
- інструменти
- традиційний
- Transactions
- Trend
- правда
- Довіряйте
- нижнє підкреслення
- необмежений
- безпрецедентний
- Використання
- використання
- використання
- версія
- через
- жертви
- Голос
- ГОЛОСИ
- попередження
- було
- we
- коли
- який
- в той час як
- ВООЗ
- ширше
- з
- в
- без
- слова
- Work
- працює
- б
- зефірнет