Federalna Komisja Handlu (FTC) obiecuje nagrodę w wysokości 25,000 XNUMX dolarów za najlepsze rozwiązanie zwalczania rosnącego zagrożenia związanego z klonowaniem głosu AI.
Liczba usług internetowych oferujących łatwe w użyciu funkcje klonowania głosu, czasami określanych mianem deepfakes audio, wzrosła od czasu, gdy generatywna sztuczna inteligencja stała się głównym nurtem, co budzi obawy co do jej potencjału do nadużyć w cyberatakach.
Na przykład powszechne zagrożenie może obejmować fałszowanie głosów dyrektorów generalnych w celu podszycia się pod nich i poinstruowania działu finansowego, aby przelał pieniądze na konto atakującego. Przyjaciele i rodziny mogą również zostać oszukani i wysłać pieniądze bliskim występujący artyści w przypadku dalszego rozwoju technologii ich źródła utrzymania mogłyby być zagrożone.
Zainteresowane strony mają czas do 12 stycznia na zgłaszanie swoich pomysłów, jak pomóc w rozwiązaniu problemu oszustw związanych z klonowaniem głosu w oparciu o sztuczną inteligencję, koncentrując się głównie na zapobieganiu, monitorowaniu i ocenie technologii.
„Wysiłki te mogą pomóc w promowaniu pomysłów ograniczających ryzyko na wczesnym etapie łańcucha dostaw – chroniąc konsumentów, profesjonalistów z branży kreatywnej i małe firmy przed szkodami wynikającymi z klonowania głosu, zanim szkoda dotrze do konsumenta” – FTC powiedziany.
„Może to również pomóc w opracowywaniu pomysłów ograniczających ryzyko na poziomie konsumenta. A jeśli nie pojawią się wykonalne pomysły, wyśle to krytyczne i wczesne ostrzeżenie dla decydentów, że powinni rozważyć bardziej rygorystyczne ograniczenia w stosowaniu tej technologii, biorąc pod uwagę wyzwanie, jakim jest zapobieganie szkodliwemu rozwojowi aplikacji na rynku”.
Zgłoszenia zostaną ocenione na podstawie tego, jak wykonalne byłoby wdrożenie i administrowanie, jak bardzo jest ono odporne na zmiany technologiczne oraz na ile starannie rozważono, między innymi, w jaki sposób odpowiedzialność i odpowiedzialność zostaną nałożone na firmy.
Główna nagroda w ofercie wynosi 25,000 XNUMX dolarów, co nie brzmi jak kopalnia złota, biorąc pod uwagę potencjalne szerokie zastosowania, jakie może mieć genialne rozwiązanie.
Jeden zdobywca drugiego miejsca otrzyma również 4,000 dolarów, trzy wyróżnienia otrzymają po 2,000 dolarów za swoje kłopoty, a organizacje składające się z 10 lub więcej osób otrzymają bezgotówkową nagrodę uznania.
Nadużywanie głosu AI w akcji
Skuteczność klonowania głosu AI została udowodniona w powtarzających się przypadkach w ciągu ostatniego roku. Eksperci słowackiego sklepu z bezpieczeństwem ESET pokazał jak można wykorzystać powyższy przykład fałszywych dyrektorów generalnych.
W rzeczywistości problem ten pojawiał się od lat, zanim generatywna sztuczna inteligencja trafiła w ręce przeciętnego człowieka. Była to brytyjska firma energetyczna wypłacono 243,000 XNUMX dolarów w 2019 r. po tym, jak jego dyrektor generalny otrzymał polecenie wysłania dużej sumy węgierskiemu dostawcy.
New York Timesa raport, również z poprzednich 12 miesięcy, szczegółowo opisał szereg przypadków, które z powodzeniem wymierzono w sektor finansowy i nakłoniły banki do przekazywania pieniędzy osobom, które uważały za prawdziwych klientów. Regu również doniósł o podobnym ataki mające miejsce w Zjednoczonych Emiratach Arabskich już w 2021 roku.
Szerzy się także oszustwo romantyczne, a jeden Brytyjczyk daje się nabrać sfałszował Kevina Costnera, a przestępcy również pokazali, że nie przekraczają swoich możliwości Oszustwa typu „nagły wypadek rodzinny”. – na przykład te, których celem są rodzice, sklonowanymi głosami ich dzieci, proszącymi o pieniądze na wpłatę kaucji.
Więcej złowrogie przykłady widzieli matki odbierające telefony rzekomo od swoich córek przetrzymywanych jako zakładniczki przez „porywaczy”, którzy żądają ogromnych okupów.
Klonowanie głosu jest możliwe dzięki dostarczeniu modelowi sztucznej inteligencji wystarczającej ilości danych treningowych, aby zrozumieć dźwięk, ton, tempo, fleksję i inne niuanse głosu danej osoby. Uważa się, że celebryci i inne osoby publiczne są szczególnie narażeni na te ataki, biorąc pod uwagę liczbę nagrań ich głosów dostępnych w Internecie.
Wraz z rozwojem mediów społecznościowych i kultury tworzenia treści wideo wiele nie-celebrytów, a nawet dzieci, ma w Internecie wystarczającą ilość materiałów, aby skutecznie szkolić modelkę.
Badacze z firmy Kaspersky przyjrzeli się w zeszłym roku wzrostowi klonowania głosu AI i odkryli szeroką gamę swobodnie dostępnych narzędzi typu open source, które mogą generować sklonowane głosy przy użyciu technologii AI. Twierdzili jednak, że uruchomienie i uruchomienie przekonującego klona wymaga pewnej znajomości języka Python i majsterkowania ze strony klonującego.
Jednak płatne oferty są zwykle znacznie bardziej skuteczne. Badacze wskazali Model VALL-E firmy Microsoft który rzekomo mógłby wygenerować przyzwoity klon z zaledwie trzema sekundami dźwięku głosowego użytego jako dane szkoleniowe.
Istnieją również inne płatne rozwiązania, które działają lepiej niż bezpłatne, ale są one wciąż dopiero na wczesnym etapie rozwoju, więc możemy spodziewać się, że dokładność i skuteczność tych modeli z czasem będzie się poprawiać. ®
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
- PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
- PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
- Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
- Źródło: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- :ma
- :Jest
- :nie
- $W GÓRĘ
- 000
- 10
- 12
- Miesiąc 12
- 2019
- 2021
- 7
- a
- powyżej
- nadużycie
- Konto
- precyzja
- adres
- administrować
- awansować
- Po
- ponownie
- przed
- AI
- również
- wśród
- an
- i
- aplikacje
- SĄ
- AS
- pytanie
- oceniać
- At
- Ataki
- audio
- dostępny
- średni
- nagroda
- z powrotem
- kaucja
- Banki
- na podstawie
- BE
- być
- zanim
- Uważa
- BEST
- Ulepsz Swój
- Bit
- szeroki
- biznes
- ale
- by
- Połączenia
- oprawa ołowiana witrażu
- CAN
- noszenie
- Etui
- Gotówka
- Bezgotówkowy
- Gwiazdy
- ceo
- prezesi
- wyzwanie
- Zmiany
- Dzieci
- klientów
- CNN
- CO
- zwalczania
- prowizja
- Firmy
- sukcesy firma
- Obawy
- Rozważać
- wobec
- konsument
- Konsumenci
- zawartość
- Tworzenie treści
- kontynuować
- mógłby
- tworzenie
- Twórczy
- przestępcy
- krytyczny
- kultura
- cyberataki
- dane
- deepfakes
- Kreowanie
- Departament
- szczegółowe
- oprogramowania
- odkryty
- do
- robi
- każdy
- Wcześnie
- łatwy w użyciu
- Efektywne
- faktycznie
- skuteczność
- wysiłek
- wyłaniać się
- nagły wypadek
- energia
- dość
- ewaluację
- Parzyste
- przykład
- wykonać
- istnieć
- oczekiwać
- eksperci
- udogodnienia
- fakt
- Falling
- rodzin
- członków Twojej rodziny
- daleko
- wykonalny
- Federalny
- Federalna Komisja Handlu
- karmienie
- Postacie
- finansować
- skupienie
- W razie zamówieenia projektu
- Naprzód
- oszustwo
- Darmowy
- swobodnie
- przyjaciele
- od
- FTC
- Generować
- generatywny
- generatywna sztuczna inteligencja
- prawdziwy
- otrzymać
- dany
- Rozwój
- siła robocza
- zaszkodzić
- szkodliwy
- Harms
- Have
- Trzymany
- pomoc
- W jaki sposób
- Jednak
- HTML
- HTTPS
- olbrzymi
- węgierski
- pomysły
- if
- podnieść
- in
- niezależny
- indywidualny
- Przegięcie
- najnowszych
- angażować
- problem
- IT
- JEGO
- styczeń
- jpg
- właśnie
- duży
- Nazwisko
- Ostatni rok
- poziom
- odpowiedzialność
- lubić
- Limity
- wyglądał
- "kochanym"
- zrobiony
- głównie
- Mainstream
- wiele
- rynek
- materiał
- dojrzały
- Może..
- środków
- Media
- wspomina
- Złagodzić
- model
- modele
- pieniądze
- monitorowanie
- miesięcy
- jeszcze
- przeniesienie
- dużo
- Nowości
- I Love New York
- New York Times
- zacienienie
- numer
- of
- poza
- oferta
- oferuje
- Oferty
- Oferty
- on
- ONE
- te
- Online
- tylko
- koncepcja
- open source
- or
- organizacji
- Inne
- na zewnątrz
- koniec
- płatny
- rodzice
- część
- strony
- Przeszłość
- Ludzie
- osoba
- Miejsce
- plato
- Analiza danych Platona
- PlatoDane
- politycy
- możliwy
- Post
- potencjał
- zapobieganie
- Zapobieganie
- poprzedni
- nagroda
- specjalistów
- obiecujący
- Sprawdzony
- publiczny
- Naciskać
- Python
- wychowywanie
- zasięg
- Osiąga
- otrzymać
- uznanie
- , o którym mowa
- powtarzać
- Zgłoszone
- wymagany
- Badacze
- sprężysty
- odpowiedzialność
- Nagradzać
- Rosnąć
- Ryzyko
- ryzyko
- bieganie
- s
- oszustwa
- sekund
- sektor
- bezpieczeństwo
- widziany
- wysłać
- wysyłanie
- Usługi
- Sklep
- powinien
- pokazane
- podobny
- ponieważ
- mały
- małych firm
- So
- Obserwuj Nas
- Media społecznościowe
- rozwiązanie
- Rozwiązania
- kilka
- Dźwięk
- Źródło
- STAGE
- Nadal
- surowsze
- Zatwierdź
- Z powodzeniem
- dostawca
- Brać
- biorąc
- cel
- kierowania
- tech
- techniczny
- Technologia
- Tendencję
- niż
- że
- Połączenia
- ich
- Im
- Tam.
- Te
- one
- to
- myśl
- groźba
- trzy
- czas
- czasy
- do
- TON
- także
- narzędzia
- Top
- handel
- Pociąg
- Trening
- Uk
- zrozumieć
- aż do
- posługiwać się
- używany
- za pomocą
- różnorodność
- wykonalne
- Wideo
- Głos
- GŁOSY
- ostrzeżenie
- była
- we
- poszedł
- który
- KIM
- szeroki
- rozpowszechniony
- będzie
- Drut
- w
- Praca
- by
- WSJ
- rok
- lat
- york
- zefirnet