Comisia Federală pentru Comerț (FTC) promite o recompensă de 25,000 USD pentru cea mai bună soluție de combatere a amenințării tot mai mari a clonării vocii AI.
Denumite uneori deepfakes audio, numărul de servicii online care oferă facilități de clonare a vocii ușor de utilizat a proliferat de când IA generativă a devenit curentă, stârnind îngrijorări cu privire la potențialul său de abuz în atacurile cibernetice.
De exemplu, o amenințare larg răspândită ar putea implica falsificarea vocilor directorilor executivi pentru a le uzurpa identitatea și a instrui departamentul financiar să transfere bani în contul unui atacator. Prietenii și familiile ar putea fi, de asemenea, păcăliți să trimită bani celor dragi și artiști interpretatori ar putea fi amenințate dacă tehnologia va continua să se maturizeze.
Părțile interesate au până pe 12 ianuarie să își depună ideile pentru a ajuta la abordarea fraudei de clonare a vocii bazată pe inteligență artificială, concentrându-se în principal pe prevenirea, monitorizarea și evaluarea tehnologiei.
„Acest efort poate ajuta la promovarea ideilor de atenuare a riscurilor în amonte – protejând consumatorii, profesioniștii creativi și întreprinderile mici împotriva daunelor clonării vocii înainte ca prejudiciul să ajungă la un consumator”, a spus FTC. a spus.
„De asemenea, poate ajuta la avansarea ideilor pentru a atenua riscurile la nivel de consumator. Și dacă ideile viabile nu apar, acest lucru va trimite un avertisment critic și timpuriu pentru factorii de decizie politică că ar trebui să ia în considerare limite mai stricte privind utilizarea acestei tehnologii, având în vedere provocarea de a preveni dezvoltarea dăunătoare a aplicațiilor pe piață.”
Depunerile vor fi evaluate în funcție de cât de fezabil ar fi să fie executate și administrate, cât de rezistent este la schimbările tehnologice și cât de atent iau în considerare modul în care răspunderea și responsabilitatea ar fi plasată asupra companiilor, printre alte măsuri.
Cel mai mare premiu oferit este de 25,000 USD, ceea ce nu sună ca o mină de aur, având în vedere potențialele aplicații largi pe care le poate avea o soluție ingenioasă.
Un al doilea clasat va primi, de asemenea, 4,000 de dolari, trei mențiuni onorabile vor fi plătite cu 2,000 de dolari fiecare pentru necazurile lor, iar organizațiile de 10 sau mai multe persoane vor primi un premiu de recunoaștere fără numerar.
Abuzul vocal AI în acțiune
Eficacitatea clonării vocii AI a fost dovedită în cazuri repetate în ultimul an. Experți de la magazinul de securitate slovac ESET a arătat cum poate fi scos exemplul menționat mai sus de directori executivi falsificati.
De fapt, a fost o problemă de ani de zile înainte ca IA generativă să ajungă în mâinile persoanei obișnuite. O companie de energie din Marea Britanie a fost scurs de 243,000 USD în 2019, după ce CEO-ul său a fost instruit să trimită o sumă mare unui furnizor ungar.
Un New York Times raportează, din nou din ultimele 12 luni, a detaliat o serie de cazuri care vizează cu succes sectorul financiar, păcălind băncile să mute bani de la cei care credeau că sunt clienți autentici. Reg a raportat și despre similare atacuri care au loc în Emiratele Arabe Unite încă din 2021.
Înșelătoriile romantice sunt și ele răspândite, cu un britanic îndrăgostit de a l-a falsificat pe Kevin Costner, iar criminalii au arătat, de asemenea, că nu sunt mai presus de îndeplinire escrocherii „de urgență familială”. – cele care vizează părinții cu vocile clonate ale copiilor lor care cer bani pentru a plăti cauțiune, de exemplu.
Mai Mult exemple sinistre au văzut mame primind apeluri de la fiicele lor ținute ostatice de „răpitori” care cer răscumpărări uriașe.
Clonarea vocii este posibilă prin furnizarea unui model AI a suficiente date de antrenament pentru a înțelege sunetul, tonul, ritmul, inflexiunea și alte nuanțe ale vocii unui individ. Celebritățile și alte persoane publice sunt considerate a fi expuse unui risc acut de aceste atacuri, având în vedere numărul de înregistrări ale vocilor lor care există online.
Odată cu creșterea rețelelor sociale și a culturii de creare a conținutului video, multe persoane care nu sunt celebrități și chiar și copii au suficient material online pentru a instrui un model în mod eficient.
Cercetătorii Kaspersky au analizat creșterea clonării vocii AI anul trecut și au descoperit o mare varietate de instrumente open source disponibile gratuit, care ar putea genera voci clonate folosind tehnologia AI. Cu toate acestea, ei au susținut că, pentru a pune în funcțiune o clonă convingătoare, a fost nevoie de un pic de cunoștințe Python și de unele reparații din partea clonatorului.
Cu toate acestea, ofertele plătite tind să fie mult mai eficiente. Cercetătorii au indicat Modelul Microsoft VALL-E care ar putea genera o clonă decentă cu doar trei secunde de sunet vocal folosit ca date de antrenament.
Există, de asemenea, alte soluții plătite care funcționează mai bine decât cele gratuite, dar acestea sunt încă în faza incipientă de dezvoltare, așa că ne putem aștepta ca acuratețea și eficacitatea acestor modele să se îmbunătățească în timp. ®
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- :are
- :este
- :nu
- $UP
- 000
- 10
- 12
- 12 luni
- 2019
- 2021
- 7
- a
- mai sus
- abuz
- Cont
- precizie
- adresa
- administra
- avansa
- După
- din nou
- împotriva
- AI
- de asemenea
- printre
- an
- și
- aplicatii
- SUNT
- AS
- solicitând
- evaluat
- At
- Atacuri
- audio
- disponibil
- in medie
- acordare
- înapoi
- cauţiune
- Băncile
- bazat
- BE
- fost
- înainte
- credea
- CEL MAI BUN
- Mai bine
- Pic
- larg
- întreprinderi
- dar
- by
- apeluri
- a venit
- CAN
- purtător
- cazuri
- Bani gheata
- cashless
- celebritati
- CEO
- directori generali
- contesta
- Modificări
- Copii
- clientii
- CNN
- CO
- combaterea
- comision
- Companii
- companie
- preocupările
- Lua în considerare
- luand in considerare
- consumator
- Consumatorii
- conţinut
- crearea de continut
- continua
- ar putea
- creaţie
- Creator
- criminali
- critic
- Cultură
- atacuri cibernetice
- de date
- deepfakes
- Cerere
- Departament
- detaliat
- Dezvoltare
- a descoperit
- do
- nu
- fiecare
- Devreme
- ușor de folosit
- Eficace
- în mod eficient
- eficacitate
- efort
- apărea
- caz de urgență
- energie
- suficient de
- evaluare
- Chiar
- exemplu
- a executa
- exista
- aștepta
- experți
- facilități
- fapt
- Cădere
- familii
- familie
- departe
- realizabil
- federal
- Comisia Federală de Comerț
- hrănire
- cifre
- finanţa
- concentrându-se
- Pentru
- Înainte
- fraudă
- Gratuit
- în mod liber
- Prietenii lui
- din
- FTC
- genera
- generativ
- AI generativă
- veritabil
- obține
- dat
- În creştere
- mâini
- rău
- nociv
- vatamare
- Avea
- Held
- ajutor
- Cum
- Totuși
- HTML
- HTTPS
- mare
- Maghiară
- idei
- if
- îmbunătăţi
- in
- independent
- individ
- de inflexiune
- în
- implica
- problema
- IT
- ESTE
- ianuarie
- jpg
- doar
- mare
- Nume
- Anul trecut
- Nivel
- răspundere
- ca
- Limitele
- uitat
- iubit
- făcut
- mai ales
- Mainstream
- multe
- piaţă
- material
- matur
- Mai..
- măsuri
- Mass-media
- menționează
- diminua
- model
- Modele
- bani
- Monitorizarea
- luni
- mai mult
- în mişcare
- mult
- Nou
- New York
- New York Times
- umbrire
- număr
- of
- de pe
- oferi
- oferind
- ofertele
- promoții
- on
- ONE
- cele
- on-line
- afară
- deschide
- open-source
- or
- organizații
- Altele
- afară
- peste
- plătit
- părinţi
- parte
- petreceri
- trecut
- oameni
- persoană
- Loc
- Plato
- Informații despre date Platon
- PlatoData
- factorii de decizie politică
- posibil
- Post
- potenţial
- prevenirea
- Prevenirea
- precedent
- premiu
- profesioniști
- promițător
- dovedit
- public
- Împinge
- Piton
- ridicare
- gamă
- aTINGE
- a primi
- recunoaştere
- menționat
- repeta
- Raportat
- necesar
- cercetători
- elastic
- responsabilitate
- Răsplăti
- Ridica
- Risc
- Riscurile
- funcţionare
- s
- escrocherii
- secunde
- sector
- securitate
- văzut
- trimite
- trimitere
- Servicii
- Magazin
- să
- indicat
- asemănător
- întrucât
- mic
- întreprinderile mici
- So
- Social
- social media
- soluţie
- soluţii
- unele
- Suna
- Sursă
- Etapă
- Încă
- mai stricte
- prezenta
- Reușit
- furnizorul
- Lua
- luare
- Ţintă
- direcționare
- tech
- tehnologic
- Tehnologia
- Tind
- decât
- acea
- lor
- Lor
- Acolo.
- Acestea
- ei
- acest
- gândit
- amenințare
- trei
- timp
- ori
- la
- TONE
- de asemenea
- Unelte
- top
- comerţului
- Tren
- Pregătire
- Uk
- înţelege
- până la
- utilizare
- utilizat
- folosind
- varietate
- viabil
- Video
- Voce
- VOCI
- de avertizare
- a fost
- we
- a mers
- care
- OMS
- larg
- pe scară largă
- voi
- Fire de sârmă
- cu
- Apartamente
- ar
- WSJ
- an
- ani
- York
- zephyrnet