Forskere ved IBM Security har avslørt en oppsiktsvekkende ny trussel innen kunstig intelligens: evnen til å manipulere live-samtaler gjennom en teknikk kjent som "audio-jacking".
Ved å bruke generativ AI og dypfalsk lydteknologi kan denne metoden fange opp og endre talte ord i sanntid, noe som utgjør enestående risiko i digital kommunikasjon.
Les også: AI Deepfake Detection utvikler seg mot økende bedrageriutfordringer
Avslører trusselen om lydjacking
Audiojacking fungerer ved å behandle direktelyd fra toveiskommunikasjon, for eksempel telefonsamtaler, og lete etter spesifikke nøkkelord eller fraser. Når disse triggerne oppdages, trer AI inn og erstatter autentisk lyd med en manipulert deepfake-versjon før den når destinasjonen. En fantastisk illustrasjon av teknikken er levert av IBM-forskere, som endret bankkontoinformasjon som ble talt under en samtale uten å bli oppdaget.
Audio-jacking: Bruk av generativ AI til å forvrenge live lydtransaksjoner: Fremveksten av generativ AI, inkludert tekst-til-bilde, tekst-til-tale og store språkmodeller (LLM), har betydelig endret vårt arbeid og personlige liv. Mens disse fremskrittene … https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Shah Sheikh (@shah_sheikh) Februar 1, 2024
Enkelheten som et proof-of-concept for dette angrepet kan utformes med er foruroligende. Forskerne bemerket at den mest utfordrende delen ikke var å lage AI, men snarere de tekniske aspektene ved live lydopptak og prosessering. Denne enkle utviklingen representerer en betydelig avvik fra tradisjonelle forventninger, der en slik innsats ville ha nødvendiggjort betydelig ekspertise på tvers av flere informatikkfelt.
"Å bygge denne PoC var overraskende og skremmende enkelt. Vi brukte mesteparten av tiden på å finne ut hvordan vi kunne fange opp lyd fra mikrofonen og mate lyden til generativ AI.»
I denne ordningen er rollen som Generativ AI er kritisk. Ved å bruke bare tre sekunder av en persons stemme, kan teknologien lage en overbevisende klon for å produsere legitime deepfakes på forespørsel. Denne muligheten, tilgjengelig via APIer, peker på en urovekkende trend i demokratiseringsprosessen for avanserte manipulasjonsverktøy.
"I dag trenger vi bare tre sekunder av en persons stemme for å klone den og bruke en tekst-til-tale API for å generere autentiske falske stemmer."
Implikasjoner og potensielle misbruk
Effektene av audiojacking går imidlertid utover bare økonomisk svindel. En slik teknologi er i stand til å sensurere i sanntid, endre direktesendinger, som nyheter og politiske taler, uten oppdagelse. Disse egenskapene kompromitterer integriteten til informasjon, med dype implikasjoner for demokrati og offentlig tillit.
Med den lave barrieren for et audio-jacking-angrep har sofistikert sosial ingeniørkunst eller phishing blitt betydelig redusert. Denne lettheten reiser deretter problemer med at slike angrep sprer seg, og utgjør dermed utfordringer for gjeldende sikkerhetstiltak og krever nye forsvarsmekanismer.
"Modenheten til denne PoC vil signalisere en betydelig risiko for forbrukerne, først og fremst ... Jo mer dette angrepet er raffinert, jo bredere er nettet av ofre det kan kaste."
Fenomenet audio jacking understreker et bredere problem innen AI-utvikling: den doble naturen til generative teknologier. På den ene siden er de en kilde til ubegrensede muligheter for innovasjon og kreativitet; på den annen side bør deres misbrukte potensial ikke neglisjeres. Hendelsen stiller et sentralt spørsmål: hvordan kan samfunnet utnytte fordelene med AI samtidig som de beskytter seg mot mørkere applikasjoner?
Naviger i fremtiden for AI-sikkerhet
Med det skiftende landskapet av digitale trusler, er IBM Securitys identifisering av lydjacking en viktig advarsel for å være årvåken og modernisere cybersikkerhet. Utviklingen av mottiltak, inkludert innovative deteksjonsalgoritmer og mer kraftfulle krypteringsteknikker, er avgjørende for å bekjempe slike sofistikerte trusler.
Dessuten avslører denne avsløringen at etiske spørsmål er integrert i AI-forskning og utvikling. Å sette opp regler og benchmarks for AI-ansvarlig bruk er avgjørende for å takle farene ved slike kraftige teknologier.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- : har
- :er
- :ikke
- $OPP
- 1
- 11
- 7
- 8
- a
- evne
- Logg inn
- tvers
- adressering
- avansert
- mot
- AI
- algoritmer
- endret
- an
- og
- api
- APIer
- søknader
- ER
- kunstig
- kunstig intelligens
- AS
- At
- angripe
- Angrep
- lyd
- Autentisk
- tilgjengelig
- Bank
- bankkonto
- barriere
- BE
- vært
- før du
- være
- benchmarks
- Fordeler
- Beyond
- bredere
- men
- by
- Samtaler
- CAN
- evner
- stand
- fangst
- Sensur
- utfordringer
- utfordrende
- endret
- bekjempe
- Kommunikasjon
- kommunikasjon
- kompromiss
- datamaskin
- informatikk
- betydelig
- Forbrukere
- Samtale
- samtaler
- kunne
- Opprette
- kreativitet
- kritisk
- Gjeldende
- Cybersecurity
- farene
- mørkere
- bedrag
- deepfakes
- Forsvar
- Etterspørsel
- Demokrati
- demokratisering
- avgang
- destinasjonen
- oppdaget
- Gjenkjenning
- Utvikling
- digitalt
- avsløring
- diskusjoner
- dual
- under
- lette
- lett
- effekter
- innsats
- kryptering
- Ingeniørarbeid
- avgjørende
- etisk
- evolusjon
- forventninger
- ekspertise
- eksperter
- forfalskning
- Felt
- finansiell
- økonomisk svindel
- Finn
- Til
- svindel
- fra
- framtid
- generere
- generative
- Generativ AI
- Go
- Økende
- hånd
- seletøy
- Ha
- Hvordan
- Hvordan
- Men
- HTTPS
- IBM
- Identifikasjon
- implikasjoner
- in
- hendelse
- Inkludert
- informasjon
- Innovasjon
- innovative
- integrert
- integritet
- Intelligens
- utstedelse
- saker
- IT
- DET ER
- bare
- nøkkelord
- kjent
- landskap
- Språk
- stor
- legitim
- leve
- Bor
- ser
- Lav
- lav barriere
- manipulert
- Manipulasjon
- modenhet
- målinger
- mekanismer
- metode
- mikrofon
- modeller
- modern
- mer
- mest
- Natur
- Trenger
- nett
- Ny
- nyheter
- bemerket
- of
- on
- ONE
- bare
- or
- Annen
- vår
- ut
- enn
- del
- personlig
- fenomen
- phishing
- telefon
- telefonsamtaler
- setninger
- sentral
- plato
- Platon Data Intelligence
- PlatonData
- PoC
- poeng
- politisk
- muligheter
- potensiell
- kraftig
- prosess
- prosessering
- produsere
- dyp
- ledetekster
- forutsatt
- offentlig
- offentlig tillit
- spørsmål
- hever
- heller
- Når
- Lese
- ekte
- sanntids
- innspilling
- Redusert
- raffinert
- representerer
- forskere
- Avslørt
- avslører
- Rise
- Risiko
- risikoer
- Rolle
- regler
- ivaretakelse
- ordningen
- Vitenskap
- sekunder
- sikkerhet
- Sikkerhetstiltak
- innstilling
- flere
- sheikh
- SKIFTENDE
- bør
- Signal
- signifikant
- betydelig
- selskap
- Sosialteknikk
- Samfunnet
- sofistikert
- kilde
- spesifikk
- taler
- brukt
- talt
- sprer
- oppsiktsvekkende
- Steps
- Stunning
- slik
- overraskende
- tar
- teknikk
- teknikker
- Technologies
- Teknologi
- Tekst-til-tale
- Det
- De
- Fremtiden
- deres
- deretter
- Disse
- de
- denne
- trussel
- trusler
- tre
- Gjennom
- Dermed
- tid
- til
- verktøy
- tradisjonelle
- Transaksjoner
- Trend
- sant
- Stol
- understreker
- ubegrenset
- enestående
- bruk
- bruke
- ved hjelp av
- versjon
- av
- ofre
- Voice
- STemmer
- advarsel
- var
- we
- når
- hvilken
- mens
- HVEM
- bredere
- med
- innenfor
- uten
- ord
- Arbeid
- virker
- ville
- zephyrnet