Onderzoekers van IBM Security hebben een verrassende nieuwe bedreiging op het gebied van kunstmatige intelligentie onthuld: het vermogen om live gesprekken te manipuleren via een techniek die bekend staat als โaudio-jackingโ.
Door gebruik te maken van generatieve AI en deepfake-audiotechnologie kan deze methode gesproken woorden in realtime onderscheppen en wijzigen, wat ongekende risico's met zich meebrengt in digitale communicatie.
Lees ook: AI-deepfakedetectie vordert ondanks de toenemende uitdagingen op het gebied van misleiding
Het blootleggen van de dreiging van audio-jacking
Audio-jacking werkt door live audio van tweerichtingscommunicatie, zoals telefoongesprekken, te verwerken en te zoeken naar specifieke trefwoorden of zinsdelen. Wanneer deze triggers worden gedetecteerd, komt de AI tussenbeide en vervangt authentieke audio door een gemanipuleerde deepfake-versie voordat deze zijn bestemming bereikt. Een prachtige Illustratie van de techniek wordt geleverd door IBM-onderzoekers, die bankrekeninggegevens die tijdens een gesprek werden uitgesproken, veranderden zonder opgemerkt te worden.
Audio-jacking: generatieve AI gebruiken om live audiotransacties te vervormen: De opkomst van generatieve AI, inclusief tekst-naar-beeld-, tekst-naar-spraak- en grote taalmodellen (LLM's), heeft ons werk en persoonlijke leven aanzienlijk veranderd. Hoewel deze vooruitgang... https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
โ Sjah Sjeik (@shah_sheikh) 1 februari 2024
Het gemak waarmee een proof-of-concept voor deze aanval kan worden bedacht, is verontrustend. De onderzoekers merkten op dat het meest uitdagende deel niet het creรซren van AI was, maar eerder de technische details van live audio-opname en -verwerking. Dit ontwikkelingsgemak vertegenwoordigt een significante afwijking van de traditionele verwachtingen, waarbij een dergelijke inspanning aanzienlijke expertise op verschillende gebieden van de computerwetenschappen nodig zou hebben gehad.
โHet bouwen van deze PoC was verrassend en griezelig eenvoudig. We hebben het grootste deel van de tijd besteed aan het uitzoeken hoe we audio van de microfoon konden vastleggen en de audio naar generatieve AI konden sturen.โ
In dit schema wordt de rol van generatieve AI is kritisch. Met slechts drie seconden van iemands stem kan de technologie een overtuigende kloon fabriceren die op verzoek legitieme deepfakes kan produceren. Deze mogelijkheid, beschikbaar via APIโs, wijst op een verontrustende trend in het democratiseringsproces van geavanceerde manipulatie-instrumenten.
โTegenwoordig hebben we slechts drie seconden van de stem van een individu nodig om deze te klonen en een tekst-naar-spraak-API te gebruiken om authentieke nepstemmen te genereren.โ
Implicaties en mogelijk misbruik
De effecten van audiojacking gaan echter verder dan alleen financiรซle fraude. Een dergelijke technologie is in staat tot realtime censuur, waarbij live-uitzendingen, zoals nieuws en politieke toespraken, zonder detectie kunnen worden gewijzigd. Deze mogelijkheden brengen de integriteit van informatie in gevaar, met diepgaande gevolgen voor de democratie en het publieke vertrouwen.
Nu de drempel voor een audio-jacking-aanval laag is, is geavanceerde social engineering of phishing aanzienlijk verminderd. Dit gemak doet vervolgens problemen rijzen in verband met de verspreiding van dergelijke aanvallen, waardoor de huidige veiligheidsmaatregelen in gevaar komen en nieuwe verdedigingsmechanismen nodig zijn.
โDe volwassenheid van deze PoC zou in de eerste plaats wijzen op een aanzienlijk risico voor de consumentโฆ Hoe meer deze aanval wordt verfijnd, hoe breder het netwerk van slachtoffers kan zijn.โ
Het fenomeen audio-jacking onderstreept een breder probleem binnen de AI-ontwikkeling: het dubbele karakter van generatieve technologieรซn. Aan de ene kant zijn ze een bron van onbeperkte mogelijkheden voor innovatie en creativiteit; aan de andere kant mag hun misbruikt potentieel niet worden verwaarloosd. Het incident roept een centrale vraag op: hoe kan de samenleving de voordelen van AI benutten en tegelijkertijd bescherming bieden tegen de duistere toepassingen ervan?
Navigeren door de toekomst van AI-beveiliging
Met het veranderende landschap van digitale bedreigingen is de identificatie van audio-jacking door IBM Security een essentiรซle waarschuwing om waakzaam te zijn en de cyberbeveiliging te moderniseren. De ontwikkeling van tegenmaatregelen, waaronder innovatieve detectiealgoritmen en krachtigere encryptietechnieken, is van cruciaal belang voor de bestrijding van dergelijke geavanceerde bedreigingen.
Bovendien blijkt uit deze onthulling dat ethische kwesties een integraal onderdeel zijn van dit beleid AI-onderzoek en ontwikkeling. Het opstellen van regels en benchmarks voor AI-verantwoord gebruik is essentieel om de gevaren van dergelijke krachtige technologieรซn aan te pakken.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- : heeft
- :is
- :niet
- $UP
- 1
- 11
- 7
- 8
- a
- vermogen
- Account
- over
- aanpakken
- vergevorderd
- tegen
- AI
- algoritmen
- gewijzigd
- an
- en
- api
- APIs
- toepassingen
- ZIJN
- kunstmatig
- kunstmatige intelligentie
- AS
- At
- aanvallen
- Aanvallen
- audio
- Authentiek
- Beschikbaar
- Bank
- bankrekening
- barriรจre
- BE
- geweest
- vaardigheden
- wezen
- benchmarks
- betekent
- Verder
- bredere
- maar
- by
- oproepen
- CAN
- mogelijkheden
- in staat
- vangen
- Censuur
- uitdagingen
- uitdagend
- veranderd
- bestrijden
- Communicatie
- Communicatie
- compromis
- computer
- Computer Science
- aanzienlijk
- Consumenten
- Gesprek
- conversaties
- kon
- Wij creรซren
- creativiteit
- kritisch
- Actueel
- Cybersecurity
- gevaren
- donkerder
- bedrog
- deepfakes
- Verdediging
- Vraag
- Democratie
- democratisering
- vertrek
- bestemming
- gedetecteerd
- Opsporing
- Ontwikkeling
- digitaal
- onthulling
- discussies
- dubbel
- gedurende
- gemak
- En het is heel gemakkelijk
- duurt
- inspanning
- encryptie
- Engineering
- essentieel
- ethisch
- Evolutie
- verwachtingen
- expertise
- deskundigen
- nep
- Velden
- financieel
- financiรซle fraude
- VIND DE PLEK DIE PERFECT VOOR JOU IS
- Voor
- bedrog
- oppompen van
- toekomst
- voortbrengen
- generatief
- generatieve AI
- Go
- Groeiend
- hand
- harnas
- Hebben
- Hoe
- How To
- Echter
- HTTPS
- IBM
- Identificatie
- implicaties
- in
- incident
- Inclusief
- informatie
- Innovatie
- innovatieve
- integraal
- integriteit
- Intelligentie
- kwestie
- problemen
- IT
- HAAR
- voor slechts
- trefwoorden
- bekend
- Landschap
- taal
- Groot
- rechtmatig
- leven
- Lives
- op zoek
- Laag
- lage barriรจre
- gemanipuleerd
- Manipulatie
- ะทัะตะปะพััั
- maatregelen
- mechanismen
- methode
- microfoon
- modellen
- moderniseren
- meer
- meest
- NATUUR
- Noodzaak
- netto
- New
- nieuws
- bekend
- of
- on
- EEN
- Slechts
- or
- Overige
- onze
- uit
- over
- deel
- persoonlijk
- een fenomeen
- Phishing
- phone
- telefoongesprekken
- zinnen
- centraal
- Plato
- Plato gegevensintelligentie
- PlatoData
- PoC
- punten
- politiek
- mogelijkheden
- potentieel
- krachtige
- verwerking
- produceren
- diepgaand
- prompts
- mits
- publiek
- vertrouwen van het publiek
- vraag
- verhoogt
- liever
- Bereikt
- Lees
- vast
- real-time
- opname
- Gereduceerd
- verfijnd
- vertegenwoordigt
- onderzoekers
- Revealed
- onthult
- Stijgen
- Risico
- risico's
- Rol
- reglement
- vrijwaring
- schema
- Wetenschap
- seconden
- veiligheid
- Veiligheidsmaatregelen
- het instellen van
- verscheidene
- sjeik
- VERSCHUIVEN
- moet
- Signaal
- aanzienlijke
- aanzienlijk
- Social
- Social engineering
- Maatschappij
- geraffineerd
- bron
- specifiek
- toespraken
- besteed
- gesproken
- verspreiding
- ontstellend
- Stappen
- Prachtige
- dergelijk
- verrassend
- neemt
- techniek
- technieken
- Technologies
- Technologie
- Text-to-Speech
- dat
- De
- De toekomst
- hun
- harte
- Deze
- ze
- dit
- bedreiging
- bedreigingen
- drie
- Door
- Dus
- niet de tijd of
- naar
- tools
- traditioneel
- Transacties
- trend
- waar
- Trust
- X
- underscores
- onbeperkt
- zonder precedent
- Gebruik
- .
- gebruik
- versie
- via
- slachtoffers
- Stem
- VOICES
- waarschuwing
- was
- we
- wanneer
- welke
- en
- WIE
- bredere
- Met
- binnen
- zonder
- woorden
- Mijn werk
- Bedrijven
- zou
- zephyrnet