Fremkomsten af standard AI-værktøjer, der kan klone menneskelige stemmer, kan tvinge udviklere af stemmegodkendelsessoftware til at bygge et ekstra lag af sikkerhed for at opdage, om en lydprøve ser ud til at være menneskelig eller maskingenereret.
Stemmegodkendelse bruges almindeligvis af callcentre, banker, offentlige myndigheder og så mange andre organisationer. Men at angribe sådanne systemer med AI – typisk ved at bruge maskinlæring til at efterligne nogen og autentificere som dem – er blevet lettere, idet forskere nu hævder en succesrate på 99 procent for at undergrave en sådan sikkerhed under de rette omstændigheder.
Disse forskere er et par dataloger ved University of Waterloo i Canada, som udviklede en teknik at narre disse autentificeringssystemer. Deres papir, offentliggjort i forhandlingerne om det 44. IEEE Symposium om sikkerhed og privatliv, beskriver fudging AI-genererede taleoptagelser for at skabe "modstridende" prøver, der var yderst effektive.
Disse prøver, får vi at vide, gjorde det muligt for akademikerne at omgå stemmegodkendelseskontrollen på de systemer, de testede.
Stemmegodkendelse er afhængig af, at alles stemme er unik, takket være fysiske egenskaber som størrelsen og formen af stemmekanalen og strubehovedet og sociale faktorer som accent.
Disse autentificeringssystemer fanger disse nuancer i stemmeaftryk. Selvom AI-genereret lyd ret realistisk kan efterligne folks stemmer, har AI-algoritmer deres egne karakteristiske artefakter, som analytikere kan få øje på kunstigt skabte stemmer. Teknikken udviklet af forskerne forsøger at fjerne disse funktioner, samtidig med at den overordnede lyd bevares.
"Idéen er at 'gravere' brugerens stemmeaftryk ind i den forfalskede prøve," skrev compsci-duoen Andre Kassis og Urs Hengartner i deres papir. "Vores modstandsmotor forsøger at fjerne maskinartefakter, der er fremherskende i disse prøver."
Forskerne trænede deres system på prøver af 107 højttaleres ytringer for at få en bedre idé om, hvad der får tale til at lyde menneskeligt. For at teste deres algoritme lavede de flere modstridende prøver for at narre autentificeringssystemer - med en succesrate på 72 procent. Mod nogle ret svage systemer opnåede de en succesrate på 99 procent efter seks forsøg.
Dette betyder dog ikke, at stemmegodkendelsessoftwaren er nedlagt endnu. Mod Amazon Connect – software leveret til cloud-kontaktcentre – opnåede de kun ti procent succes i et fire sekunders angreb og 40 procent på mindre end 30 sekunder. Og godkendelsessoftware forbedres også for at besejre denne slags forsøg.
Ulovlige, der håber på at udføre disse typer angreb, skal have adgang til deres måls stemme og være tilstrækkeligt tech-kyndige nok til at generere deres egne modstridende lydprøver, hvis de forsøger at knække et mere sikkert system. En vice-reporter hævdede i februar kunne han logge ind på sin egen bankkonto via AI trænet på sin stemme.
Selvom barrieren er ret høj, opfordrede forskerne virksomheder, der udvikler software til stemmegodkendelse, til at blive ved med at arbejde og forbedre sig.
"Succesraterne for vores angreb er bekymrende," skrev de, "primært på grund af, at de er opnået i black-box-miljøet og under forudsætninger af realistiske trusselsmodeller." Resultaterne "fremhæver de alvorlige faldgruber ved stemmegodkendelsessystemer og understreger behovet for mere pålidelige mekanismer." ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Automotive/elbiler, Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- BlockOffsets. Modernisering af miljømæssig offset-ejerskab. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2023/06/28/adversarial_ai_audio_authentication_research/
- :har
- :er
- 30
- 40
- 7
- 72
- a
- I stand
- akademikere
- adgang
- Konto
- opnået
- kontradiktorisk
- Efter
- mod
- agenturer
- AI
- algoritme
- algoritmer
- Skønt
- Amazon
- an
- Analytikere
- ,
- kommer til syne
- ER
- AS
- At
- angribe
- At angribe
- Angreb
- nået
- Forsøg på
- lyd
- autentificere
- Godkendelse
- væk
- Bank
- bankkonto
- Banker
- barriere
- BE
- bliver
- være
- Bedre
- bygge
- men
- by
- ringe
- CAN
- Canada
- fange
- bære
- Centers
- karakteristika
- Kontrol
- omstændigheder
- hævder
- Cloud
- CO
- almindeligt
- Virksomheder
- computer
- Tilslut
- kontakt
- sprække
- skabe
- oprettet
- hedengangne
- udviklet
- udviklere
- udvikling
- karakteristisk
- gør ikke
- grund
- lettere
- Effektiv
- Engine (Motor)
- nok
- alle
- ekstra
- Faktisk
- faktorer
- retfærdigt
- Funktionalitet
- februar
- fund
- Til
- Tving
- generere
- genereret
- få
- Regering
- Have
- he
- Høj
- Fremhæv
- stærkt
- hans
- håber
- HTTPS
- menneskelig
- idé
- IEEE
- if
- forbedring
- in
- ind
- jpg
- lige
- Holde
- lag
- læring
- mindre
- ligesom
- log
- maskine
- machine learning
- maerker
- mange
- Kan..
- betyde
- mekanismer
- modeller
- mere
- flere
- Behov
- nu
- of
- on
- kun
- or
- Andet
- vores
- ud
- samlet
- egen
- par
- Papir
- Mennesker
- procent
- fysisk
- plato
- Platon Data Intelligence
- PlatoData
- bevare
- primært
- Beskyttelse af personlige oplysninger
- Proceedings
- forudsat
- Sats
- priser
- RE
- realistisk
- pålidelig
- Fjern
- reporter
- forskere
- højre
- Rise
- s
- forskere
- sekunder
- sikker
- sikkerhed
- indstilling
- svær
- Shape
- SIX
- Størrelse
- So
- Social
- Software
- nogle
- Nogen
- Lyd
- højttalere
- tale
- Spot
- stress
- succes
- sådan
- Symposium
- systemet
- Systemer
- mål
- ti
- prøve
- afprøvet
- end
- Tak
- at
- deres
- Them
- Disse
- de
- dem
- selvom?
- trussel
- til
- også
- værktøjer
- uddannet
- typer
- typisk
- under
- enestående
- universitet
- anvendte
- Bruger
- ved brug af
- via
- vice
- Voice
- stemmeautentificering
- STEMMER
- var
- we
- var
- Hvad
- hvorvidt
- mens
- WHO
- med
- arbejder
- endnu
- zephyrnet