Forskare vid IBM Security har avslöjat ett häpnadsväckande nytt hot inom artificiell intelligens: förmågan att manipulera livekonversationer genom en teknik som kallas "audio-jacking".
Genom att använda generativ AI och deepfake-ljudteknik kan denna metod fånga upp och ändra talade ord i realtid, vilket utgör oöverträffade risker i digital kommunikation.
Läs också: AI Deepfake Detection går framåt mot växande bedrägeriutmaningar
Exponerar hotet om ljuduttag
Ljudjack fungerar genom att bearbeta liveljud från tvåvägskommunikation, som telefonsamtal, och leta efter specifika nyckelord eller fraser. När dessa triggers upptäcks, kliver AI in och ersätter autentiskt ljud med en manipulerad deepfake-version innan den når sin destination. En fantastisk illustration av tekniken tillhandahålls av IBM-forskare, som ändrade bankkontoinformation som talades under en konversation utan att upptäckas.
Audio-jacking: Använda generativ AI för att förvränga liveljudtransaktioner: Framväxten av generativ AI, inklusive text-till-bild, text-till-tal och stora språkmodeller (LLM), har avsevärt förändrat vårt arbete och vårt privatliv. Medan dessa framsteg... https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Shah Sheikh (@shah_sheikh) Februari 1, 2024
Lättheten med vilken ett proof-of-concept för denna attack kan utformas är oroande. Forskarna noterade att den mest utmanande delen inte var att skapa AI utan snarare de tekniska aspekterna av liveljudinspelning och bearbetning. Denna enkla utveckling representerar en betydande avvikelse från traditionella förväntningar, där en sådan ansträngning skulle ha krävt betydande expertis inom flera datavetenskapliga områden.
"Att bygga denna PoC var förvånansvärt och läskigt enkelt. Vi tillbringade större delen av tiden med att ta reda på hur vi skulle fånga ljud från mikrofonen och mata ljudet till generativ AI.”
I detta system, rollen av Generativ AI är kritisk. Med bara tre sekunder av en persons röst kan tekniken tillverka en övertygande klon för att producera legitima deepfakes på begäran. Denna förmåga, tillgänglig via API:er, pekar på en oroande trend i demokratiseringsprocessen för avancerade manipulationsverktyg.
"Nu för tiden behöver vi bara tre sekunder av en individs röst för att klona den och använda ett text-till-tal API för att generera autentiska falska röster."
Konsekvenser och potentiellt missbruk
Effekterna av audiojacking går dock längre än bara ekonomiskt bedrägeri. En sådan teknik kan censurera i realtid, ändra livesändningar, såsom nyheter och politiska tal, utan upptäckt. Dessa förmågor äventyrar informationens integritet, med djupgående konsekvenser för demokratin och allmänhetens förtroende.
Med den låga barriären för en ljudjack-attack har sofistikerad social ingenjörskonst eller nätfiske minskat avsevärt. Denna lätthet väcker sedan problem med att sådana attacker sprider sig, vilket innebär utmaningar för nuvarande säkerhetsåtgärder och kräver nya försvarsmekanismer.
"Mognaden för denna PoC skulle signalera en betydande risk för konsumenterna, framför allt... Ju mer denna attack förfinas, desto bredare nätverk av offer kan den kasta."
Fenomenet ljudjack understryker en bredare fråga inom AI-utveckling: den dubbla naturen hos generativa teknologier. Å ena sidan är de en källa till obegränsade möjligheter till innovation och kreativitet; å andra sidan bör deras missbrukade potential inte försummas. Incidenten väcker en central fråga: hur kan samhället utnyttja fördelarna med AI samtidigt som det skyddar mot dess mörkare tillämpningar?
Navigera i framtiden för AI-säkerhet
Med det föränderliga landskapet av digitala hot är IBM Securitys identifiering av ljudjack en viktig varning för att vara vaksam och modernisera cybersäkerheten. Utvecklingen av motåtgärder, inklusive innovativa detektionsalgoritmer och mer kraftfulla krypteringstekniker, är avgörande för att bekämpa sådana sofistikerade hot.
Dessutom avslöjar detta avslöjande att etiska frågor är en integrerad del av AI-forskning och utveckling. Att sätta upp regler och riktmärken för AI-ansvarig användning är avgörande för att ta itu med farorna med sådana kraftfulla tekniker.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- : har
- :är
- :inte
- $UPP
- 1
- 11
- 7
- 8
- a
- förmåga
- Konto
- tvärs
- adresse
- avancerat
- mot
- AI
- algoritmer
- förändrad
- an
- och
- api
- API: er
- tillämpningar
- ÄR
- konstgjord
- artificiell intelligens
- AS
- At
- attackera
- Attacker
- audio
- Äkta
- tillgänglig
- Bank
- bankkonto
- barriär
- BE
- varit
- innan
- Där vi får lov att vara utan att konstant prestera,
- riktmärken
- Fördelarna
- Bortom
- bredare
- men
- by
- Samtal
- KAN
- kapacitet
- kapabel
- fånga
- Censur
- utmaningar
- utmanande
- ändrats
- bekämpande
- Kommunikation
- Trygghet i vårdförloppet
- kompromiss
- dator
- Datavetenskap
- betydande
- konsumenter
- Konversation
- konversationer
- kunde
- Skapa
- kreativitet
- kritisk
- Aktuella
- Cybersäkerhet
- faror
- mörkare
- bedrägeri
- deepfakes
- Försvar
- Efterfrågan
- Demokrati
- demokratisering
- avresa
- destination
- detekterad
- Detektering
- Utveckling
- digital
- avslöjande
- diskussioner
- dubbel
- under
- lätta
- lätt
- effekter
- ansträngning
- kryptering
- Teknik
- väsentlig
- etisk
- Utvecklingen
- förväntningar
- expertis
- experter
- fejka
- Fält
- finansiella
- ekonomiskt bedrägeri
- hitta
- För
- bedrägeri
- från
- framtida
- generera
- generativ
- Generativ AI
- Go
- Odling
- sidan
- sele
- Har
- Hur ser din drömresa ut
- How To
- Men
- HTTPS
- IBM
- Identifiering
- implikationer
- in
- incident
- Inklusive
- informationen
- Innovation
- innovativa
- integrerad
- integritet
- Intelligens
- fråga
- problem
- IT
- DESS
- bara
- nyckelord
- känd
- liggande
- språk
- Large
- legitim
- lever
- Bor
- du letar
- Låg
- låg barriär
- manipuleras
- Manipulation
- förfall
- åtgärder
- mekanismer
- metod
- mikrofon
- modeller
- modernisera
- mer
- mest
- Natur
- Behöver
- netto
- Nya
- nyheter
- noterade
- of
- on
- ONE
- endast
- or
- Övriga
- vår
- ut
- över
- del
- personlig
- Fenomenet
- Nätfiske
- telefon
- telefonsamtal
- fraser
- svängbara
- plato
- Platon Data Intelligence
- PlatonData
- PoC
- poäng
- politiska
- Möjligheterna
- potentiell
- den mäktigaste
- process
- bearbetning
- producera
- djupgående
- prompter
- förutsatt
- allmän
- allmänhetens förtroende
- fråga
- höjer
- snarare
- når
- Läsa
- verklig
- realtid
- inspelning
- Minskad
- raffinerade
- representerar
- forskare
- avslöjade
- avslöjar
- Rise
- Risk
- risker
- Roll
- regler
- skydd
- ordningen
- Vetenskap
- sekunder
- säkerhet
- Säkerhetsåtgärder
- inställning
- flera
- sheikh
- SKIFTANDE
- skall
- Signal
- signifikant
- signifikant
- Social hållbarhet
- Samhällsteknik
- Samhället
- sofistikerade
- Källa
- specifik
- tal
- spent
- talat
- Spridning
- uppseendeväckande
- Steg
- Bedövning
- sådana
- överraskande
- tar
- Tekniken
- tekniker
- Tekniken
- Teknologi
- Text-to-Speech
- den där
- Smakämnen
- Framtiden
- deras
- sedan
- Dessa
- de
- detta
- hot
- hot
- tre
- Genom
- Således
- tid
- till
- verktyg
- traditionell
- Transaktioner
- Trend
- sann
- Litar
- understryker
- obegränsat
- utan motstycke
- Användning
- användning
- med hjälp av
- version
- via
- offer
- Röst
- RÖSTER
- varning
- var
- we
- när
- som
- medan
- VEM
- bredare
- med
- inom
- utan
- ord
- Arbete
- fungerar
- skulle
- zephyrnet