Federal Trade Commission (FTC) udlover en belønning på $25,000 for den bedste løsning til at bekæmpe den voksende trussel fra AI-stemmekloning.
Nogle gange kaldet audio-deepfakes, er antallet af onlinetjenester, der tilbyder letanvendelige stemmekloningsfaciliteter, vokset, siden generativ AI blev mainstream, hvilket vækker bekymring over dets potentiale for misbrug i cyberangreb.
For eksempel kan en udbredt trussel involvere at forfalske CEO'ers stemmer for at efterligne dem og instruere finansafdelingen om at overføre penge til en angribers konto. Venner og familier kunne også blive narret til at sende penge til deres kære, og udøvende kunstnere kunne få deres levebrød truet, hvis teknologien fortsætter med at modnes.
Interesserede parter har indtil den 12. januar til at indsende deres ideer til at hjælpe med at tackle AI-baseret stemmekloningssvindel, hovedsageligt med fokus på forebyggelse, overvågning og evaluering af teknologien.
"Denne indsats kan hjælpe med at skubbe ideer frem til at afbøde risici opstrøms - skærme forbrugere, kreative fagfolk og små virksomheder mod skaderne ved stemmekloning, før skaden når en forbruger," FTC sagde.
"Det kan også hjælpe med at fremme ideer til at mindske risici på forbrugerniveau. Og hvis levedygtige ideer ikke dukker op, vil dette sende en kritisk og tidlig advarsel til politiske beslutningstagere om, at de bør overveje strengere grænser for brugen af denne teknologi i betragtning af udfordringen med at forhindre skadelig udvikling af applikationer på markedet."
Indsendelser vil blive vurderet ud fra, hvor gennemførligt det ville være at eksekvere og administrere, hvor modstandsdygtigt det er over for teknologiske ændringer, og hvor velovervejet de overvejer, hvordan ansvar og ansvar vil blive pålagt virksomheder, blandt andre foranstaltninger.
Toppræmien på tilbud er $25,000, hvilket ikke lyder som en guldgrube i betragtning af de potentielle brede anvendelser, en genial løsning kan have.
En andenplads vil også modtage $4,000, tre hæderlige omtaler vil blive udbetalt $2,000 hver for deres problemer, og organisationer på 10 eller flere personer vil modtage en kontantløs anerkendelsespris.
AI-stemmemisbrug i aktion
Effektiviteten af AI-stemmekloning er blevet bevist i gentagne tilfælde i løbet af det sidste år. Eksperter hos den slovakiske sikkerhedsbutik ESET viste hvordan det førnævnte eksempel på falske CEO'er kan trækkes ud.
Faktisk har det været et problem i årevis, før generativ AI kom i hænderne på den gennemsnitlige person. Et britisk energiselskab var drænet for 243,000 kr i 2019, efter at dens administrerende direktør fik besked på at sende et stort beløb til en ungarsk leverandør.
En New York Times indberette, igen fra de foregående 12 måneder, detaljerede en række sager med succes målrettet finanssektoren og narrede banker til at flytte penge fra dem, de troede var ægte kunder. El Reg har også berettet om lignende angreb, der finder sted i UAE så langt tilbage som 2021.
Romantisk svindel er også udbredt, hvor en brite falder for en forfalsket Kevin Costner, og kriminelle har også vist, at de ikke er over at udføre "familienød"-svindel – dem, der retter sig mod forældre med klonede stemmer fra deres børn, der for eksempel beder om penge til at stille kaution.
Mere skumle eksempler har set mødre tage opkald angiveligt fra deres døtre holdt som gidsler af "kidnappere", som kræver enorme løsesummer.
Stemmekloning er muliggjort ved at tilføre en AI-model nok træningsdata til at forstå lyden, tonen, tempoet, bøjningen og andre nuancer af en persons stemme. Berømtheder og andre offentlige personer menes at være i akut risiko for disse angreb i betragtning af antallet af optagelser af deres stemmer, der findes online.
Med fremkomsten af sociale medier og kultur for skabelse af videoindhold har mange ikke-berømtheder og endda børn også nok materiale online til at træne en model effektivt.
Kaspersky-forskere undersøgte stigningen i AI-stemmekloning sidste år og opdagede en bred vifte af frit tilgængelige, open source-værktøjer, der kunne generere klonede stemmer ved hjælp af AI-teknologi. De hævdede dog, at for at få en overbevisende klon op at køre, krævede det lidt Python-know-how og noget fidus fra klonerens side.
De betalte tilbud har dog en tendens til at være meget mere effektive. Forskerne pegede på Microsofts VAL-E model der angiveligt kunne generere en anstændig klon med kun tre sekunders stemmelyd brugt som træningsdata.
Der er også andre betalte løsninger derude, der fungerer bedre end de gratis, men disse er stadig kun i det tidlige udviklingsstadium, så vi kan forvente, at nøjagtigheden og effektiviteten af disse modeller forbedres over tid. ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- :har
- :er
- :ikke
- $OP
- 000
- 10
- 12
- 12 måneder
- 2019
- 2021
- 7
- a
- over
- misbrug
- Konto
- nøjagtighed
- adresse
- forvalte
- fremme
- Efter
- igen
- mod
- AI
- også
- blandt
- an
- ,
- applikationer
- ER
- AS
- spørge
- vurderes
- At
- Angreb
- lyd
- til rådighed
- gennemsnit
- tildeling
- tilbage
- kaution
- Banker
- baseret
- BE
- været
- før
- troede
- BEDSTE
- Bedre
- Bit
- bred
- virksomheder
- men
- by
- Opkald
- kom
- CAN
- regnskabsmæssige
- tilfælde
- Kontanter
- Kontantløst
- berømtheder
- Direktør
- direktører
- udfordre
- Ændringer
- Børn
- kunder
- CNN
- CO
- bekæmpe
- Kommissionen
- Virksomheder
- selskab
- Bekymringer
- Overvej
- Overvejer
- forbruger
- Forbrugere
- indhold
- indholdsskabelse
- fortsæt
- kunne
- skabelse
- Kreativ
- Kriminelle
- kritisk
- Medarbejder kultur
- cyberangreb
- data
- deepfakes
- Efterspørgsel
- Afdeling
- detaljeret
- Udvikling
- opdaget
- do
- gør ikke
- hver
- Tidligt
- nem at bruge
- Effektiv
- effektivt
- effektivitet
- indsats
- emerge
- nødsituation
- energi
- nok
- evaluering
- Endog
- eksempel
- udføre
- eksisterer
- forvente
- eksperter
- faciliteter
- Faktisk
- Faldende
- familier
- familie
- langt
- gennemførlig
- Federal
- Federal Trade Commission
- fodring
- tal
- finansiere
- fokusering
- Til
- Videresend
- bedrageri
- Gratis
- frit
- venner
- fra
- FTC
- generere
- generative
- Generativ AI
- ægte
- få
- given
- Dyrkning
- hænder
- skade
- skadelig
- skader
- Have
- Held
- hjælpe
- Hvordan
- Men
- HTML
- HTTPS
- kæmpe
- Ungarsk
- ideer
- if
- Forbedre
- in
- uafhængig
- individuel
- bøjning
- ind
- involvere
- spørgsmål
- IT
- ITS
- januar
- jpg
- lige
- stor
- Efternavn
- Sidste år
- Niveau
- ansvar
- ligesom
- grænser
- kiggede
- elskede
- lavet
- hovedsageligt
- Mainstream
- mange
- markedsplads
- materiale
- modne
- Kan..
- foranstaltninger
- Medier
- nævner
- afbøde
- model
- modeller
- penge
- overvågning
- måned
- mere
- flytning
- meget
- Ny
- New York
- New York Times
- nuancer
- nummer
- of
- off
- tilbyde
- tilbyde
- tilbud
- Tilbud
- on
- ONE
- dem
- online
- kun
- åbent
- open source
- or
- organisationer
- Andet
- ud
- i løbet af
- betalt
- forældre
- del
- parter
- forbi
- Mennesker
- person,
- Place
- plato
- Platon Data Intelligence
- PlatoData
- politiske beslutningstagere
- mulig
- Indlæg
- potentiale
- forebyggelse
- Forebyggelse
- tidligere
- præmie
- professionelle partnere
- lovende
- gennemprøvet
- offentlige
- Skub ud
- Python
- hæve
- rækkevidde
- når
- modtage
- anerkendelse
- benævnt
- gentag
- rapporteret
- påkrævet
- forskere
- elastisk
- ansvar
- Beløn
- Rise
- Risiko
- risici
- kører
- s
- svindel
- sekunder
- sektor
- sikkerhed
- set
- send
- afsendelse
- Tjenester
- Shop
- bør
- vist
- lignende
- siden
- lille
- små virksomheder
- So
- Social
- sociale medier
- løsninger
- Løsninger
- nogle
- Lyd
- Kilde
- Stage
- Stadig
- strengere
- indsende
- Succesfuld
- leverandør
- Tag
- tager
- mål
- rettet mod
- tech
- teknologisk
- Teknologier
- tendens
- end
- at
- deres
- Them
- Der.
- Disse
- de
- denne
- tænkte
- trussel
- tre
- tid
- gange
- til
- TONE
- også
- værktøjer
- top
- handle
- Tog
- Kurser
- Uk
- forstå
- indtil
- brug
- anvendte
- ved brug af
- række
- levedygtig
- video
- Voice
- STEMMER
- advarsel
- var
- we
- gik
- som
- WHO
- bred
- udbredt
- vilje
- Tråd
- med
- Arbejde
- ville
- WSJ
- år
- år
- york
- zephyrnet