Forskere hos IBM Security har afsløret en overraskende ny trussel inden for kunstig intelligens: evnen til at manipulere live-samtaler gennem en teknik kendt som "audio-jacking".
Ved at bruge generativ AI og deepfake lydteknologi kan denne metode opsnappe og ændre talte ord i realtid, hvilket udgør hidtil usete risici i digital kommunikation.
Læs også: AI Deepfake Detection gør fremskridt mod voksende bedrageriudfordringer
Udsætter truslen om lydjacking
Audiojacking fungerer ved at behandle livelyd fra tovejskommunikation, såsom telefonopkald, og leder efter specifikke søgeord eller sætninger. Når disse triggere detekteres, træder AI ind og erstatter autentisk lyd med en manipuleret deepfake-version, før den når sin destination. En betagende illustration af teknikken er leveret af IBM-forskere, som ændrede bankkontooplysninger, der blev talt under en samtale uden at blive opdaget.
Audio-jacking: Brug af generativ AI til at forvrænge live-lydtransaktioner: Fremkomsten af generativ AI, herunder tekst-til-billede, tekst-til-tale og store sprogmodeller (LLM'er), har ændret vores arbejds- og personlige liv markant. Mens disse fremskridt... https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Shah Sheikh (@shah_sheikh) Februar 1, 2024
Den lethed, hvormed et proof-of-concept for dette angreb kan udtænkes, er foruroligende. Forskerne bemærkede, at den mest udfordrende del ikke var at skabe AI, men snarere de tekniske aspekter ved live lydoptagelse og -behandling. Denne lette udvikling repræsenterer en væsentlig afvigelse fra traditionelle forventninger, hvor en sådan indsats ville have nødvendiggjort betydelig ekspertise på tværs af flere datavidenskabelige områder.
“Det var overraskende og skræmmende nemt at bygge denne PoC. Vi brugte det meste af tiden på at finde ud af, hvordan vi kunne fange lyd fra mikrofonen og føre lyden til generativ AI."
I denne ordning er rollen som Generativ AI er kritisk. Ved at bruge kun tre sekunder af en persons stemme kan teknologien fremstille en overbevisende klon til at producere legitime deepfakes efter behov. Denne evne, tilgængelig via API'er, peger på en foruroligende tendens i demokratiseringsprocessen for avancerede manipulationsværktøjer.
"I dag har vi kun brug for tre sekunder af en persons stemme for at klone den og bruge en tekst-til-tale API til at generere autentiske falske stemmer."
Implikationer og potentielle misbrug
Effekterne af audiojacking går imidlertid ud over blot økonomisk bedrageri. En sådan teknologi er i stand til at censurere i realtid, ændre live-udsendelser, såsom nyheder og politiske taler, uden at blive opdaget. Disse egenskaber kompromitterer informationens integritet med dybtgående konsekvenser for demokrati og offentlig tillid.
Med den lave barriere for et audio-jacking-angreb er sofistikeret social engineering eller phishing blevet væsentligt reduceret. Denne lethed rejser så spørgsmål om, at sådanne angreb spreder sig, og udgør dermed udfordringer for de nuværende sikkerhedsforanstaltninger og kræver nye forsvarsmekanismer.
"Modenheden af denne PoC ville først og fremmest signalere en betydelig risiko for forbrugerne... Jo mere dette angreb er forfinet, jo bredere er nettet af ofre det kan kaste."
Fænomenet audio jacking understreger et bredere problem inden for AI-udvikling: den dobbelte karakter af generative teknologier. På den ene side er de en kilde til ubegrænsede muligheder for innovation og kreativitet; på den anden side bør deres misbrugte potentiale ikke negligeres. Hændelsen rejser et centralt spørgsmål: hvordan kan samfundet udnytte fordelene ved kunstig intelligens, samtidig med at det beskytter mod dets mørkere applikationer?
Naviger i fremtiden for AI-sikkerhed
Med det skiftende landskab af digitale trusler er IBM Securitys identifikation af audiojacking en vigtig advarsel om at være på vagt og modernisere cybersikkerheden. Udviklingen af modforanstaltninger, herunder innovative detektionsalgoritmer og mere kraftfulde krypteringsteknikker, er afgørende for at bekæmpe sådanne sofistikerede trusler.
Desuden afslører denne afsløring, at etiske spørgsmål er en integreret del af AI forskning og udvikling. Opsætning af regler og benchmarks for AI-ansvarlig brug er afgørende for at imødegå farerne ved sådanne kraftfulde teknologier.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :har
- :er
- :ikke
- $OP
- 1
- 11
- 7
- 8
- a
- evne
- Konto
- tværs
- adressering
- fremskreden
- mod
- AI
- algoritmer
- ændret
- an
- ,
- api
- API'er
- applikationer
- ER
- kunstig
- kunstig intelligens
- AS
- At
- angribe
- Angreb
- lyd
- Autentisk
- til rådighed
- Bank
- bankkonto
- barriere
- BE
- været
- før
- være
- Benchmarks
- fordele
- Beyond
- bredere
- men
- by
- Opkald
- CAN
- kapaciteter
- stand
- fange
- Censur
- udfordringer
- udfordrende
- ændret
- bekæmpelse
- Kommunikation
- Kommunikation
- kompromis
- computer
- Datalogi
- betydelig
- Forbrugere
- Samtale
- samtaler
- kunne
- Oprettelse af
- kreativitet
- kritisk
- Nuværende
- Cybersecurity
- farer
- mørkere
- bedrag
- deepfakes
- Forsvar
- Efterspørgsel
- Demokrati
- demokratisering
- afgang
- destination
- opdaget
- Detektion
- Udvikling
- digital
- videregivelse
- diskussioner
- dobbelt
- i løbet af
- lette
- let
- effekter
- indsats
- kryptering
- Engineering
- væsentlig
- etisk
- evolution
- forventninger
- ekspertise
- eksperter
- falsk
- Fields
- finansielle
- økonomisk svig
- Finde
- Til
- bedrageri
- fra
- fremtiden
- generere
- generative
- Generativ AI
- Go
- Dyrkning
- hånd
- seletøj
- Have
- Hvordan
- How To
- Men
- HTTPS
- IBM
- Identifikation
- implikationer
- in
- hændelse
- Herunder
- oplysninger
- Innovation
- innovativ
- integral
- integritet
- Intelligens
- spørgsmål
- spørgsmål
- IT
- ITS
- lige
- søgeord
- kendt
- landskab
- Sprog
- stor
- legitim
- leve
- Lives
- leder
- Lav
- lav barriere
- manipuleret
- Håndtering
- modenhed
- foranstaltninger
- mekanismer
- metode
- mikrofon
- modeller
- modernisere
- mere
- mest
- Natur
- Behov
- netto
- Ny
- nyheder
- bemærkede
- of
- on
- ONE
- kun
- or
- Andet
- vores
- ud
- i løbet af
- del
- personale
- fænomen
- Phishing
- telefon
- telefonopkald
- sætninger
- afgørende
- plato
- Platon Data Intelligence
- PlatoData
- PoC
- punkter
- politisk
- muligheder
- potentiale
- vigtigste
- behandle
- forarbejdning
- producere
- dyb
- prompter
- forudsat
- offentlige
- offentlig tillid
- spørgsmål
- rejser
- hellere
- når
- Læs
- ægte
- realtid
- optagelse
- Reduceret
- raffinerede
- repræsenterer
- forskere
- Revealed
- afslører
- Rise
- Risiko
- risici
- roller
- regler
- varetagelse
- Ordningen
- Videnskab
- sekunder
- sikkerhed
- Sikkerhedsforanstaltninger
- indstilling
- flere
- sheik
- SKIFT
- bør
- Signal
- signifikant
- betydeligt
- Social
- Samfundsteknologi
- Samfund
- sofistikeret
- Kilde
- specifikke
- taler
- brugt
- talt
- Spredning
- overraskende
- Steps
- Bedøvelse
- sådan
- overraskende
- tager
- teknik
- teknikker
- Teknologier
- Teknologier
- Tekst-til-tale
- at
- Fremtiden
- deres
- derefter
- Disse
- de
- denne
- trussel
- trusler
- tre
- Gennem
- Dermed
- tid
- til
- værktøjer
- traditionelle
- Transaktioner
- Trend
- sand
- Stol
- understregninger
- ubegrænset
- uden fortilfælde
- Brug
- brug
- ved brug af
- udgave
- via
- ofre
- Voice
- STEMMER
- advarsel
- var
- we
- hvornår
- som
- mens
- WHO
- bredere
- med
- inden for
- uden
- ord
- Arbejde
- virker
- ville
- zephyrnet