Federal Trade Commission (FTC) lover en belønning på $25,000 XNUMX for den beste løsningen for å bekjempe den økende trusselen fra AI-stemmekloning.
Noen ganger referert til som lyddeepfakes, har antallet nettjenester som tilbyr brukervennlige stemmekloningsfasiliteter spredt seg siden generativ AI ble mainstream, noe som vekker bekymring for potensialet for misbruk i nettangrep.
En utbredt trussel kan for eksempel innebære å forfalske administrerende direktørers stemmer for å etterligne dem og instruere finansavdelingen om å overføre penger til en angripers konto. Venner og familier kunne også bli lurt til å sende penger til sine kjære, og utøvende kunstnere kan få sitt levebrød truet dersom teknologien fortsetter å modnes.
Interesserte parter har frist til 12. januar på å sende inn ideene sine for å hjelpe til med å håndtere AI-basert stemmekloningssvindel, med hovedfokus på forebygging, overvåking og evaluering av teknologien.
"Denne innsatsen kan bidra til å presse frem ideer for å redusere risikoer oppstrøms - skjerme forbrukere, kreative fagfolk og små bedrifter mot skadene ved stemmekloning før skaden når en forbruker," FTC sa.
"Det kan også bidra til å fremme ideer for å redusere risiko på forbrukernivå. Og hvis levedyktige ideer ikke dukker opp, vil dette sende en kritisk og tidlig advarsel til beslutningstakere om at de bør vurdere strengere grenser for bruken av denne teknologien, gitt utfordringen med å forhindre skadelig utvikling av applikasjoner i markedet.»
Innleveringer vil bli vurdert basert på hvor gjennomførbart det vil være å gjennomføre og administrere, hvor motstandsdyktig det er overfor teknologiske endringer, og hvor gjennomtenkt de vurderer hvordan ansvar og ansvar vil bli lagt på selskaper, blant annet.
Topppremien som tilbys er $25,000 XNUMX, som ikke høres ut som en gullgruve med tanke på de potensielle brede bruksområdene en genial løsning kan ha.
En nummer to vil også motta $4,000, tre hederlige omtaler vil bli betalt $2,000 hver for sine problemer, og organisasjoner på 10 eller flere personer vil motta en kontantløs anerkjennelsespris.
AI-stemmemisbruk i aksjon
Effektiviteten av AI-stemmekloning har blitt bevist i gjentatte tilfeller det siste året. Eksperter ved den slovakiske sikkerhetsbutikken ESET viste hvordan det nevnte eksemplet på falske administrerende direktører kan trekkes av.
Faktisk har det vært et problem i årevis før generativ AI kom i hendene på den gjennomsnittlige personen. Et britisk energiselskap var tappet på 243,000 XNUMX dollar i 2019 etter at konsernsjefen ble bedt om å sende en stor sum til en ungarsk leverandør.
En New York Times rapporterer, igjen fra de foregående 12 månedene, beskrev en rekke saker med suksess rettet mot finanssektoren, og lurte banker til å flytte penger fra de de trodde var ekte kunder. El Reg har også rapportert om lignende angrep som finner sted i UAE så langt tilbake som 2021.
Romantikk-svindel er også utbredt, med en brite som faller for en forfalsket Kevin Costner, og kriminelle har også vist at de ikke er over å utføre «familienød»-svindel – de som retter seg mot foreldre med de klonede stemmene til barna deres som ber om penger for å stille kausjon, for eksempel.
Mer skumle eksempler har sett mødre ta samtaler angivelig fra døtrene deres holdt som gisler av «kidnappere» som krever enorme løsepenger.
Stemmekloning er gjort mulig ved å mate en AI-modell nok treningsdata til å forstå lyden, tonen, tempoet, bøyningen og andre nyanser av en persons stemme. Kjendiser og andre offentlige personer antas å ha akutt risiko for disse angrepene gitt antall opptak av stemmene deres som finnes på nettet.
Med fremveksten av sosiale medier og kultur for å skape videoinnhold, har mange ikke-kjendiser og til og med barn også nok materiale på nettet til å trene en modell effektivt.
Kaspersky-forskere så på økningen i AI-stemmekloning i fjor og oppdaget et bredt utvalg av fritt tilgjengelige, åpen kildekodeverktøy som kunne generere klonede stemmer ved hjelp av AI-teknologi. Imidlertid hevdet de at for å få en overbevisende klon i gang, krevde det litt Python-kunnskap og litt fiksing fra klonerens side.
Imidlertid har de betalte tilbudene en tendens til å være mye mer effektive. Forskerne pekte på Microsofts ALL-E-modell som visstnok kunne generere en anstendig klon med bare tre sekunder med stemmelyd brukt som treningsdata.
Det finnes også andre betalte løsninger der ute som fungerer bedre enn de gratis, men disse er fortsatt bare i det tidlige utviklingsstadiet, så vi kan forvente at nøyaktigheten og effektiviteten til disse modellene forbedres over tid. ®
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- : har
- :er
- :ikke
- $OPP
- 000
- 10
- 12
- 12 måneder
- 2019
- 2021
- 7
- a
- ovenfor
- misbruk
- Logg inn
- nøyaktighet
- adresse
- administrere
- avansere
- Etter
- en gang til
- mot
- AI
- også
- blant
- an
- og
- søknader
- ER
- AS
- spør
- vurderes
- At
- Angrep
- lyd
- tilgjengelig
- gjennomsnittlig
- award
- tilbake
- kausjon
- Banker
- basert
- BE
- vært
- før du
- antatt
- BEST
- Bedre
- Bit
- bred
- bedrifter
- men
- by
- Samtaler
- kom
- CAN
- bærer
- saker
- Kontanter
- cashless
- kjendiser
- konsernsjef
- CEOs
- utfordre
- Endringer
- Barn
- klienter
- CNN
- CO
- bekjempe
- kommisjon
- Selskaper
- Selskapet
- bekymringer
- Vurder
- vurderer
- forbruker
- Forbrukere
- innhold
- innholdsskaping
- fortsette
- kunne
- skaperverket
- Kreativ
- kriminelle
- kritisk
- Kultur
- cyberattacks
- dato
- deepfakes
- Etterspørsel
- Avdeling
- detaljert
- Utvikling
- oppdaget
- do
- doesn
- hver enkelt
- Tidlig
- lett-å-bruke
- Effektiv
- effektivt
- effektivitet
- innsats
- dukke
- nødsituasjon
- energi
- nok
- evaluering
- Selv
- eksempel
- henrette
- eksisterer
- forvente
- eksperter
- fasiliteter
- Faktisk
- Falling
- familier
- familie
- langt
- gjennomførbart
- Federal
- Federal Trade Commission
- fôring
- tall
- finansiere
- fokusering
- Til
- Forward
- svindel
- Gratis
- fritt
- venner
- fra
- FTC
- generere
- generative
- Generativ AI
- ekte
- få
- gitt
- Økende
- hender
- skade
- skadelig
- skader
- Ha
- Held
- hjelpe
- Hvordan
- Men
- HTML
- HTTPS
- stort
- ungarsk
- Ideer
- if
- forbedre
- in
- uavhengig
- individuelt
- bøyning
- inn
- involvere
- utstedelse
- IT
- DET ER
- Januar
- jpg
- bare
- stor
- Siste
- I fjor
- Nivå
- ansvar
- i likhet med
- grenser
- så
- elsket
- laget
- hovedsakelig
- Mainstream
- mange
- markedsplass
- materiale
- moden
- Kan..
- målinger
- Media
- nevner
- Minske
- modell
- modeller
- penger
- overvåking
- måneder
- mer
- flytting
- mye
- Ny
- New York
- New York Times
- skyggelegging
- Antall
- of
- off
- tilby
- tilby
- tilbud
- Tilbud
- on
- ONE
- seg
- på nett
- bare
- åpen
- åpen kildekode
- or
- organisasjoner
- Annen
- ut
- enn
- betalt
- foreldre
- del
- parter
- Past
- Ansatte
- person
- Sted
- plato
- Platon Data Intelligence
- PlatonData
- beslutningstakere
- mulig
- Post
- potensiell
- hindre
- Forebygging
- forrige
- premie
- fagfolk
- lovende
- utprøvd
- offentlig
- Skyv
- Python
- heve
- område
- Når
- motta
- anerkjennelse
- referert
- gjenta
- rapportert
- påkrevd
- forskere
- spenstig
- ansvar
- Belønn
- Rise
- Risiko
- risikoer
- rennende
- s
- svindel
- sekunder
- sektor
- sikkerhet
- sett
- send
- sending
- Tjenester
- Shop
- bør
- vist
- lignende
- siden
- liten
- små bedrifter
- So
- selskap
- sosiale medier
- løsning
- Solutions
- noen
- Lyd
- kilde
- Scene
- Still
- strengere
- send
- vellykket
- leverandør
- Ta
- ta
- Target
- rettet mot
- tech
- teknologisk
- Teknologi
- tendens
- enn
- Det
- De
- deres
- Dem
- Der.
- Disse
- de
- denne
- trodde
- trussel
- tre
- tid
- ganger
- til
- TONE
- også
- verktøy
- topp
- handel
- Tog
- Kurs
- Uk
- forstå
- til
- bruke
- brukt
- ved hjelp av
- variasjon
- levedyktig
- video
- Voice
- STemmer
- advarsel
- var
- we
- gikk
- hvilken
- HVEM
- bred
- utbredt
- vil
- Metalltråd
- med
- Arbeid
- ville
- WSJ
- år
- år
- york
- zephyrnet