Federal Trade Commission (FTC) utlovar en belöning på $25,000 XNUMX för den bästa lösningen för att bekämpa det växande hotet från AI-röstkloning.
Ibland kallas deepfakes för ljud, antalet onlinetjänster som erbjuder lättanvända röstkloningsfaciliteter har ökat sedan generativ AI blev mainstream, vilket har väckt oro över dess potential för missbruk vid cyberattacker.
Ett utbrett hot kan till exempel innebära att VD:ars röster förfalskas för att imitera dem och instruera finansavdelningen att överföra pengar till en angripares konto. Vänner och familjer kan också luras att skicka pengar till nära och kära, och scenkonstnärer deras försörjning kan hotas om tekniken fortsätter att mogna.
Intresserade parter har fram till den 12 januari på sig att skicka in sina idéer för att hjälpa till att ta itu med AI-baserat röstkloningsbedrägeri, med fokus främst på förebyggande, övervakning och utvärdering av tekniken.
"Denna ansträngning kan hjälpa till att driva fram idéer för att minska risker uppströms - skydda konsumenter, kreativa yrkesverksamma och småföretag mot skadorna av röstkloning innan skadan når en konsument," FTC sade.
"Det kan också hjälpa till att föra fram idéer för att minska risker på konsumentnivå. Och om hållbara idéer inte dyker upp kommer detta att skicka en kritisk och tidig varning till beslutsfattare om att de bör överväga strängare gränser för användningen av denna teknik, med tanke på utmaningen att förhindra skadlig utveckling av applikationer på marknaden.”
Bidragen kommer att bedömas utifrån hur genomförbart det skulle vara att utföra och administrera, hur motståndskraftigt det är mot tekniska förändringar och hur noggrant de överväger hur ansvar och ansvar skulle läggas på företag, bland annat.
Det högsta priset som erbjuds är $25,000 XNUMX, vilket inte låter som en guldgruva med tanke på de potentiella breda tillämpningarna en genialisk lösning kan ha.
En tvåa kommer också att få $4,000 2,000, tre hedersomnämnanden kommer att betalas $10 XNUMX vardera för sina problem, och organisationer med XNUMX eller fler personer kommer att få ett kontantlöst erkännande.
AI-röstmissbruk i aktion
Effektiviteten av AI-röstkloning har bevisats i upprepade fall under det senaste året. Experter på den slovakiska säkerhetsbutiken ESET visade hur det tidigare nämnda exemplet på falska vd:ar kan dras av.
Faktum är att det har varit ett problem i flera år innan generativ AI kom i händerna på den genomsnittliga personen. Ett brittiskt energibolag var dräneras av $ 243,000 2019 efter att dess vd fick i uppdrag att skicka en stor summa till en ungersk leverantör.
En New York Times rapport, återigen från de föregående 12 månaderna, detaljerade en rad fall som framgångsrikt inriktade sig på finanssektorn och lurade banker att flytta pengar från de som de trodde var genuina kunder. Reg har också rapporterat om liknande attacker som äger rum i Förenade Arabemiraten så långt tillbaka som 2021.
Romantiska bedrägerier är också utbredda, med en britt som faller för en förfalskade Kevin Costner, och brottslingar har också visat att de inte är över att utföra bedrägerier med "nödsituationer för familjen". – sådana som riktar sig till föräldrar med klonade röster från sina barn som ber om pengar för att sätta borgen, till exempel.
Snarare olyckliga exempel har sett mödrar ta samtal från deras döttrar som hålls som gisslan av "kidnappare" som kräver enorma lösensummor.
Röstkloning möjliggörs genom att mata en AI-modell tillräckligt med träningsdata för att förstå ljudet, tonen, takten, böjningen och andra nyanser av en individs röst. Kändisar och andra offentliga personer anses löpa akut risk för dessa attacker med tanke på antalet inspelningar av deras röster som finns online.
Med framväxten av sociala medier och kultur för att skapa videoinnehåll har många icke-kändisar och till och med barn också tillräckligt med material online för att träna en modell effektivt.
Kaspersky-forskare undersökte ökningen av AI-röstkloning förra året och upptäckte en mängd olika fritt tillgängliga verktyg med öppen källkod som kunde generera klonade röster med hjälp av AI-teknik. Men de hävdade att för att få igång en övertygande klon krävdes det lite Python-kunskap och lite mixtrande från klonerns sida.
De betalda erbjudandena tenderar dock att vara mycket mer effektiva. Forskarna pekade på Microsofts VAL-E-modell som förmodligen skulle kunna generera en anständig klon med bara tre sekunders röstljud som används som träningsdata.
Det finns också andra betalda lösningar där ute som fungerar bättre än de gratis, men dessa är fortfarande bara i det tidiga utvecklingsstadiet, så vi kan förvänta oss att noggrannheten och effektiviteten hos dessa modeller kommer att förbättras med tiden. ®
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- : har
- :är
- :inte
- $UPP
- 000
- 10
- 12
- 12 månader
- 2019
- 2021
- 7
- a
- ovan
- missbruk
- Konto
- noggrannhet
- adress
- administrera
- avancera
- Efter
- igen
- mot
- AI
- också
- bland
- an
- och
- tillämpningar
- ÄR
- AS
- be
- bedömas
- At
- Attacker
- audio
- tillgänglig
- genomsnitt
- utmärkelse
- tillbaka
- borgen
- Banker
- baserat
- BE
- varit
- innan
- tros
- BÄST
- Bättre
- Bit
- bred
- företag
- men
- by
- Samtal
- kom
- KAN
- bär
- fall
- Kontanter
- Pengarlös
- kändisar
- VD
- vD: ar
- utmanar
- Förändringar
- Barn
- klienter
- CNN
- CO
- bekämpa
- provision
- Företag
- företag
- oro
- Tänk
- med tanke på
- Konsumenten
- konsumenter
- innehåll
- innehållsskapande
- fortsätta
- kunde
- skapande
- Kreativ
- brottslingar
- kritisk
- kultur
- cyberattack
- datum
- deepfakes
- Efterfrågan
- Avdelning
- detaljerad
- Utveckling
- upptäckt
- do
- doesn
- varje
- Tidig
- LÄTTANVÄND
- Effektiv
- effektivt
- effektivitet
- ansträngning
- framträda
- nödsituation
- energi
- tillräckligt
- utvärdering
- Även
- exempel
- exekvera
- existerar
- förvänta
- experter
- anläggningar
- Faktum
- Fallande
- familjer
- familj
- långt
- möjlig
- Federal
- Federal Trade Commission
- matning
- siffror
- finansiering
- fokusering
- För
- Framåt
- bedrägeri
- Fri
- fritt
- vänner
- från
- FTC
- generera
- generativ
- Generativ AI
- verklig
- skaffa sig
- ges
- Odling
- händer
- skada
- skadliga
- skador
- Har
- Held
- hjälpa
- Hur ser din drömresa ut
- Men
- html
- HTTPS
- stor
- ungerska
- idéer
- if
- förbättra
- in
- oberoende
- individuellt
- Böjning
- in
- engagera
- fråga
- IT
- DESS
- Januari
- jpg
- bara
- Large
- Efternamn
- Förra året
- Nivå
- ansvar
- tycka om
- gränser
- såg
- älskade
- gjord
- huvudsakligen
- Vanliga
- många
- marknadsplats
- Materialet
- mogen
- Maj..
- åtgärder
- Media
- nämner
- Mildra
- modell
- modeller
- pengar
- övervakning
- månader
- mer
- rörliga
- mycket
- Nya
- New York
- New York Times
- nyanser
- antal
- of
- sänkt
- erbjudanden
- erbjuda
- offer~~POS=TRUNC
- Erbjudanden
- on
- ONE
- ettor
- nätet
- endast
- öppet
- öppen källkod
- or
- organisationer
- Övriga
- ut
- över
- betalas
- föräldrar
- del
- parter
- Tidigare
- Personer
- personen
- Plats
- plato
- Platon Data Intelligence
- PlatonData
- beslutsfattare
- möjlig
- Inlägg
- potentiell
- förebyggande
- Förebyggande
- föregående
- Priset
- yrkesmän/kvinnor
- lovande
- beprövade
- allmän
- Tryck
- Python
- höja
- område
- når
- motta
- erkännande
- avses
- upprepa
- Rapporterad
- Obligatorisk
- forskare
- elastisk
- ansvaret
- Belöna
- Rise
- Risk
- risker
- rinnande
- s
- bedrägerier
- sekunder
- sektor
- säkerhet
- sett
- sända
- skicka
- Tjänster
- Butik
- skall
- visas
- liknande
- eftersom
- Small
- småföretag
- So
- Social hållbarhet
- sociala medier
- lösning
- Lösningar
- några
- ljud
- Källa
- Etapp
- Fortfarande
- striktare
- skicka
- Framgångsrikt
- leverantör
- Ta
- tar
- Målet
- targeting
- tech
- teknisk
- Teknologi
- Tend
- än
- den där
- Smakämnen
- deras
- Dem
- Där.
- Dessa
- de
- detta
- trodde
- hot
- tre
- tid
- gånger
- till
- TON
- alltför
- verktyg
- topp
- handla
- Tåg
- Utbildning
- Uk
- förstå
- tills
- användning
- Begagnade
- med hjälp av
- mängd
- genomförbar, livskraftig
- Video
- Röst
- RÖSTER
- varning
- var
- we
- begav sig
- som
- VEM
- bred
- utbredd
- kommer
- Wire
- med
- Arbete
- skulle
- WSJ
- år
- år
- york
- zephyrnet