Федеральна торгова комісія (FTC) обіцяє винагороду в розмірі 25,000 XNUMX доларів США за найкраще рішення для боротьби зі зростаючою загрозою клонування голосу ШІ.
Кількість онлайн-сервісів, які пропонують прості у використанні засоби клонування голосу, які іноді називають аудіо-підробками, зросла після того, як генеративний штучний інтелект став мейнстрімом, що викликає занепокоєння щодо його потенціалу зловживання під час кібератак.
Наприклад, широко розповсюджена загроза може включати підробку голосів генеральних директорів, щоб видати себе за них і дати вказівку фінансовому відділу перевести гроші на рахунок зловмисника. Друзів і сім’ї також можна обманом змусити надіслати гроші близьким артисти-виконавці їхні засоби до існування можуть опинитися під загрозою, якщо технологія продовжуватиме розвиватися.
Зацікавлені сторони мають до 12 січня подати свої ідеї щодо боротьби з шахрайством із клонуванням голосу на основі ШІ, зосереджуючись головним чином на запобіганні, моніторингу та оцінці технології.
«Ці зусилля можуть допомогти просунути ідеї щодо зменшення ризиків на першому етапі — захистити споживачів, творчих професіоналів і малий бізнес від шкоди клонування голосу до того, як шкода досягне споживача», — FTC. сказав.
«Це також може допомогти просунути ідеї щодо зменшення ризиків на рівні споживачів. І якщо життєздатні ідеї не з’являться, це стане критичним і раннім попередженням для розробників політики про те, що вони повинні розглянути більш суворі обмеження на використання цієї технології, враховуючи проблему запобігання шкідливій розробці програм на ринку».
Заявки будуть оцінюватися на основі того, наскільки можливо їх реалізувати та адмініструвати, наскільки вони стійкі до технологічних змін і наскільки обдумано вони розглядають, як відповідальність і відповідальність будуть покладені на компанії, серед інших заходів.
Головний приз, який пропонується, становить 25,000 XNUMX доларів США, що не звучить як золота жила, враховуючи потенційні широкі можливості застосування геніального рішення.
Один, хто посідає друге місце, також отримає 4,000 доларів США, три почесні відзнаки отримають по 2,000 доларів США за їхні проблеми, а організації з 10 і більше осіб отримають безготівкову нагороду.
Зловживання голосом ШІ в дії
Ефективність штучного інтелекту клонування голосу була доведена в повторних випадках за останній рік. Експерти словацького магазину безпеки ESET показав як можна здійснити згаданий вище приклад підроблених генеральних директорів.
Фактично, це було проблемою протягом багатьох років, перш ніж генеративний ШІ потрапив у руки звичайної людини. Була британська енергетична компанія злито 243,000 XNUMX дол у 2019 році після того, як її генеральний директор отримав вказівку надіслати велику суму угорському постачальнику.
Нью-Йорк Таймс звітом, знову ж таки за попередні 12 місяців, детально описано ряд випадків, успішно спрямованих на фінансовий сектор, обманом змушуючи банки перевести гроші від тих, кого вони вважали справжніми клієнтами. El Reg також повідомляв про подібне атаки в ОАЕ ще в 2021 році.
Романтичні шахрайства теж поширені, один британець полюбився сфальсифікував Кевіна Костнера, і злочинці також показали, що вони не вище виконання шахрайства з «сімейними надзвичайними ситуаціями». – наприклад, ті, які націлені на батьків із клонованими голосами їхніх дітей, які просять гроші за внесення застави.
більше зловісні приклади бачили, як матері приймали дзвінки від своїх доньок, які нібито були заручниками «викрадачів», які вимагали величезні викупи.
Клонування голосу стає можливим завдяки передачі в модель штучного інтелекту достатньо навчальних даних для розуміння звуку, тону, темпу, інфікування та інших нюансів голосу людини. Вважається, що знаменитості та інші громадські діячі піддаються високому ризику цих атак, враховуючи кількість записів їхніх голосів, які існують в Інтернеті.
З розвитком соціальних медіа та культури створення відеоконтенту багато незнаменитостей і навіть діти також мають достатньо матеріалів в Інтернеті, щоб ефективно тренувати модель.
Минулого року дослідники Kaspersky вивчали зростання клонування голосу штучним інтелектом і виявили широкий спектр вільнодоступних інструментів з відкритим кодом, які можуть створювати клоновані голоси за допомогою технології штучного інтелекту. Однак вони стверджували, що для того, щоб створити переконливий клон і запустити його, потрібно трохи знати Python і трохи попрацювати з боку клонувальника.
Однак платні пропозиції, як правило, набагато ефективніші. Дослідники вказали на Модель VALL-E від Microsoft який нібито може створити пристойний клон із лише трьома секундами голосового аудіо, які використовуються як навчальні дані.
Існують також інші платні рішення, які працюють краще, ніж безкоштовні, але вони все ще знаходяться лише на ранній стадії розробки, тому ми можемо очікувати, що точність і ефективність цих моделей з часом покращаться. ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- : має
- :є
- : ні
- $UP
- 000
- 10
- 12
- 12 місяців
- 2019
- 2021
- 7
- a
- вище
- зловживання
- рахунки
- точність
- адреса
- управляти
- просування
- після
- знову
- проти
- AI
- Також
- серед
- an
- та
- застосування
- ЕСТЬ
- AS
- запитувач
- оцінюється
- At
- нападки
- аудіо
- доступний
- середній
- нагорода
- назад
- під заставу
- Банки
- заснований
- BE
- було
- перед тим
- вважається,
- КРАЩЕ
- Краще
- Біт
- широкий
- підприємства
- але
- by
- Виклики
- прийшов
- CAN
- проведення
- випадків
- готівкові гроші
- Безготівковий
- знаменитості
- Генеральний директор
- керівники
- виклик
- Зміни
- діти
- клієнтів
- CNN
- CO
- боротьби з
- комісія
- Компанії
- компанія
- Турбота
- Вважати
- беручи до уваги
- споживач
- Споживачі
- зміст
- контент-створення
- продовжувати
- може
- створення
- Креатив
- злочинці
- критичний
- культура
- кібератаки
- дані
- deepfakes
- Попит
- відділ
- докладно
- розробка
- відкритий
- do
- байдуже
- кожен
- Рано
- легкий у використанні
- Ефективний
- фактично
- ефективність
- зусилля
- з'являтися
- аварійний
- енергія
- досить
- оцінка
- Навіть
- приклад
- виконувати
- існувати
- очікувати
- experts
- засоби
- факт
- Падіння
- сімей
- сім'я
- далеко
- реально
- Федеральний
- Федеральна торгова комісія
- годування
- цифри
- фінансування
- фокусування
- для
- Вперед
- шахрайство
- Безкоштовна
- вільно
- друзі
- від
- Федеральна торгова комісія
- породжувати
- генеративний
- Генеративний ШІ
- справжній
- отримати
- даний
- Зростання
- Руки
- шкодити
- шкідливий
- шкодить
- Мати
- Герой
- допомога
- Як
- Однак
- HTML
- HTTPS
- величезний
- угорський
- ідеї
- if
- удосконалювати
- in
- незалежний
- індивідуальний
- Перегин
- в
- залучати
- питання
- IT
- ЙОГО
- січня
- JPG
- просто
- великий
- останній
- Минулого року
- рівень
- відповідальність
- як
- рамки
- подивився
- улюблене
- made
- головним чином
- Mainstream
- багато
- ринку
- матеріал
- зрілий
- Може..
- заходи
- Медіа
- згадує
- Пом'якшити
- модель
- Моделі
- гроші
- моніторинг
- місяців
- більше
- переміщення
- багато
- Нові
- Нью-Йорк
- Нью-Йорк Таймс
- нюанси
- номер
- of
- від
- пропонувати
- пропонує
- Пропозиції
- Пропозиції
- on
- ONE
- ті,
- онлайн
- тільки
- відкрити
- з відкритим вихідним кодом
- or
- організації
- Інше
- з
- над
- оплачувану
- батьки
- частина
- Сторони
- Минуле
- Люди
- людина
- місце
- plato
- Інформація про дані Платона
- PlatoData
- політиків
- це можливо
- пошта
- потенціал
- попередження
- Попередження
- попередній
- приз
- професіонали
- перспективний
- доведений
- громадськість
- Штовхати
- Python
- залучення
- діапазон
- Досягає
- отримати
- визнання
- називають
- повторювати
- Повідомляється
- вимагається
- Дослідники
- пружний
- відповідальність
- Винагороджувати
- Зростання
- Risk
- ризики
- біг
- s
- шахрайство
- seconds
- сектор
- безпеку
- бачив
- послати
- відправка
- Послуги
- Магазин
- Повинен
- показаний
- аналогічний
- з
- невеликий
- малого бізнесу
- So
- соціальна
- соціальні медіа
- рішення
- Рішення
- деякі
- Звучати
- Source
- Стажування
- Як і раніше
- суворіші
- представляти
- Успішно
- постачальник
- Приймати
- взяття
- Мета
- націлювання
- технології
- технологічний
- Технологія
- як правило,
- ніж
- Що
- Команда
- їх
- Їх
- Там.
- Ці
- вони
- це
- думка
- загроза
- три
- час
- times
- до
- TONE
- занадто
- інструменти
- топ
- торгувати
- поїзд
- Навчання
- Uk
- розуміти
- до
- використання
- використовуваний
- використання
- різноманітність
- viable
- Відео
- Голос
- ГОЛОСИ
- попередження
- було
- we
- пішов
- який
- ВООЗ
- широкий
- широко поширений
- волі
- Провід
- з
- Work
- б
- WSJ
- рік
- років
- йорк
- зефірнет