Az IBM Security kutatói megdöbbentő új fenyegetést tártak fel a mesterséges intelligenciában: az élő beszélgetések manipulálásának képességét az úgynevezett „audio-jacking” technikával.
A generatív mesterséges intelligencia és a mélyhamisított hangtechnológia felhasználásával ez a módszer valós időben képes elfogni és megváltoztatni a kimondott szavakat, ami példátlan kockázatot jelent a digitális kommunikációban.
Lásd még: A mesterséges intelligencia mélyhamisítás-észlelése halad a növekvő megtévesztési kihívások ellen
Az audiojack veszélyének feltárása
Az audiojack funkció a kétirányú kommunikáció, például a telefonhívások élő hangjának feldolgozásával működik, és konkrét kulcsszavakat vagy kifejezéseket keres. Amikor ezeket a triggereket észleli, a mesterséges intelligencia beavatkozik, és lecseréli az autentikus hangot egy manipulált mélyhamisított verzióra, mielőtt az elérné a célját. Egy lenyűgöző ábra A technikát az IBM kutatói szolgáltatják, akik úgy módosították a bankszámla-információkat, hogy a beszélgetés során elhangzottak anélkül, hogy észlelték volna.
Hangjackelés: Generatív mesterséges intelligencia használata az élő hangtranzakciók eltorzítására: A generatív mesterséges intelligencia térnyerése, beleértve a szöveg-kép, szöveg-beszéd és nagy nyelvi modelleket (LLM), jelentősen megváltoztatta munkánkat és magánéletünket. Miközben ezek a fejlesztések… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Shah Sheikh (@shah_sheikh) Február 1, 2024
Zavarba ejtő, hogy milyen könnyen lehet ennek a támadásnak a bizonyítékát kitalálni. A kutatók megjegyezték, hogy a legnagyobb kihívást nem az AI létrehozása jelentette, hanem az élő hangrögzítés és -feldolgozás technikai jellemzői. Ez a könnyed fejlesztés jelentős eltérést jelent a hagyományos elvárásoktól, ahol egy ilyen erőfeszítés jelentős szakértelmet igényelt volna több számítástechnikai területen.
„Ezt a PoC-t meglepően és ijesztően könnyű volt megépíteni. Az idő nagy részét azzal töltöttük, hogy kitaláljuk, hogyan rögzítsünk hangot a mikrofonból, és hogyan tápláljuk a hangot a generatív mesterséges intelligencia felé.”
Ebben a sémában a szerepe Generatív AI kritikus. Egy személy hangjának mindössze három másodpercét felhasználva a technológia meggyőző klónt tud készíteni, hogy igény szerint legitim mélyhamisításokat készítsen. Ez az API-kon keresztül elérhető képesség egy zavaró tendenciára utal a fejlett manipulációs eszközök demokratizálódási folyamatában.
„Ma már csak három másodpercre van szükségünk egy egyén hangjára, hogy klónozzuk, és egy szövegfelolvasó API-t használjunk hiteles hamis hangok generálásához.”
Következmények és lehetséges visszaélések
Az audiojacking hatásai azonban túlmutatnak a pénzügyi csaláson. Egy ilyen technológia képes valós idejű cenzúrára, észlelés nélkül megváltoztatni az élő adásokat, például híreket és politikai beszédeket. Ezek a képességek veszélyeztetik az információ integritását, ami mélyreható következményekkel jár a demokráciára és a közbizalomra nézve.
Az audio-jack támadások előtti alacsony akadályok miatt a kifinomult social engineering vagy adathalászat jelentősen csökkent. Ez a könnyedség aztán felveti az ilyen támadások terjedésének problémáit, ami kihívást jelent a jelenlegi biztonsági intézkedések számára, és új védelmi mechanizmusokat tesz szükségessé.
"Ennek a PoC-nak az érettsége jelentős kockázatot jelentene a fogyasztók számára, mindenekelőtt… Minél jobban finomítják ezt a támadást, annál szélesebbre szabhatja az áldozatok hálóját."
Az audiojack jelensége az AI fejlesztésen belüli tágabb problémát hangsúlyozza: az AI kettős természetét generatív technológiák. Egyrészt az innováció és a kreativitás korlátlan lehetőségeinek forrásai; másrészt nem szabad elhanyagolni a visszaélt potenciáljukat. Az incidens sarkalatos kérdést vet fel: hogyan tudja a társadalom kihasználni a mesterséges intelligencia előnyeit, miközben megvéd a sötétebb alkalmazásaitól?
Navigálás az AI biztonság jövőjében
A digitális fenyegetések változó környezetében az IBM Security által a hangjackelés azonosítása elengedhetetlen figyelmeztetés az éberségre és a kiberbiztonság korszerűsítésére. Az ellenintézkedések, köztük az innovatív észlelési algoritmusok és az erőteljesebb titkosítási technikák fejlődése kritikus fontosságú az ilyen kifinomult fenyegetések elleni küzdelemben.
Ezen túlmenően, ez a közzététel felfedi, hogy az etikai kérdések szerves részét képezik AI kutatás és a fejlődés. A mesterséges intelligencia-felelős használat szabályainak és referenciaértékeinek felállítása elengedhetetlen az ilyen hatékony technológiák veszélyeinek kezeléséhez.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :van
- :is
- :nem
- $ UP
- 1
- 11
- 7
- 8
- a
- képesség
- Fiók
- át
- címzés
- fejlett
- ellen
- AI
- algoritmusok
- megváltozott
- an
- és a
- api
- API-k
- alkalmazások
- VANNAK
- mesterséges
- mesterséges intelligencia
- AS
- At
- támadás
- Támadások
- hang-
- Hiteles
- elérhető
- Bank
- bankszámla
- korlát
- BE
- óta
- előtt
- hogy
- referenciaértékek
- Előnyök
- Túl
- tágabb
- de
- by
- kéri
- TUD
- képességek
- képes
- elfog
- Cenzúra
- kihívások
- kihívást
- megváltozott
- elleni küzdelem
- közlés
- távközlés
- kompromisszum
- számítógép
- Computer Science
- tekintélyes
- Fogyasztók
- Beszélgetés
- beszélgetések
- tudott
- létrehozása
- kreativitás
- kritikai
- Jelenlegi
- Kiberbiztonság
- veszélyeket
- sötétebb
- csalódás
- deepfakes
- Védelem
- Kereslet
- Demokrácia
- demokratizálás
- indulás
- rendeltetési hely
- észlelt
- Érzékelés
- Fejlesztés
- digitális
- közzététel
- megbeszélések
- kettős
- alatt
- könnyű
- könnyű
- hatások
- erőfeszítés
- titkosítás
- Mérnöki
- alapvető
- etikai
- evolúció
- várakozások
- szakvélemény
- szakértők
- hamisítvány
- Fields
- pénzügyi
- pénzügyi csalás
- Találjon
- A
- csalás
- ból ből
- jövő
- generál
- nemző
- Generatív AI
- Go
- Növekvő
- kéz
- hám
- Legyen
- Hogyan
- How To
- azonban
- HTTPS
- IBM
- Azonosítás
- következményei
- in
- incidens
- Beleértve
- információ
- Innováció
- újító
- szerves
- sértetlenség
- Intelligencia
- kérdés
- kérdések
- IT
- ITS
- éppen
- kulcsszavak
- ismert
- táj
- nyelv
- nagy
- jogos
- él
- életek
- keres
- Elő/Utó
- alacsony akadály
- manipulált
- Manipuláció
- érettség
- intézkedések
- mechanizmusok
- módszer
- mikrofon
- modellek
- korszerűsítésére
- több
- a legtöbb
- Természet
- Szükség
- háló
- Új
- hír
- neves
- of
- on
- ONE
- csak
- or
- Más
- mi
- ki
- felett
- rész
- személyes
- jelenség
- Adathalászat
- telefon
- telefonhívások
- kifejezés
- döntő
- Plató
- Platón adatintelligencia
- PlatoData
- PoC
- pont
- politikai
- lehetőségek
- potenciális
- erős
- folyamat
- feldolgozás
- gyárt
- mélységes
- utasításokat
- feltéve,
- nyilvános
- közbizalom
- kérdés
- emelés
- Inkább
- Elér
- Olvass
- igazi
- real-time
- felvétel
- Csökkent
- kifinomult
- jelentése
- kutatók
- Revealed
- felfedi
- Emelkedik
- Kockázat
- kockázatok
- Szerep
- szabályok
- megóvása
- rendszer
- Tudomány
- másodperc
- biztonság
- Biztonsági intézkedések
- beállítás
- számos
- sejk
- VÁLTOZÁS
- kellene
- Jel
- jelentős
- jelentősen
- Közösség
- Szociális tervezés
- Társadalom
- kifinomult
- forrás
- különleges
- felszólalások
- költött
- beszélt
- terjedés
- ijesztő
- Lépései
- Lenyűgöző
- ilyen
- meglepően
- tart
- technika
- technikák
- Technologies
- Technológia
- Text-to-Speech
- hogy
- A
- A jövő
- azok
- akkor
- Ezek
- ők
- ezt
- fenyegetés
- fenyegetések
- három
- Keresztül
- Így
- idő
- nak nek
- szerszámok
- hagyományos
- Tranzakciók
- tendencia
- igaz
- Bízzon
- aláhúzás
- korlátlan
- példátlan
- Használat
- használ
- segítségével
- változat
- keresztül
- áldozatok
- Hang
- HANGOK
- figyelmeztetés
- volt
- we
- amikor
- ami
- míg
- WHO
- szélesebb
- val vel
- belül
- nélkül
- szavak
- Munka
- művek
- lenne
- zephyrnet