IBM Securityn tutkijat ovat paljastaneet hätkähdyttävän uuden tekoälyn uhan: kyvyn manipuloida live-keskusteluja "äänikaappauksena" tunnetun tekniikan avulla.
Tämä menetelmä hyödyntää generatiivista tekoälyä ja deepfake-äänitekniikkaa, ja se voi siepata ja muuttaa puhuttuja sanoja reaaliajassa, mikä aiheuttaa ennennäkemättömiä riskejä digitaalisessa viestinnässä.
Lue myös: AI Deepfake Detection edistyy kasvavia petoshaasteita vastaan
Paljastaa äänen tunkeutumisen uhan
Äänen kytkeminen toimii käsittelemällä live-ääntä kaksisuuntaisesta viestinnästä, kuten puheluista, ja etsimällä tiettyjä avainsanoja tai lauseita. Kun nämä liipaisimet havaitaan, tekoäly astuu sisään ja korvaa autenttisen äänen manipuloidulla deepfake-versiolla ennen kuin se saavuttaa määränpäänsä. Hämmästyttävä kuva Tämän tekniikan tarjoavat IBM:n tutkijat, jotka muuttivat keskustelun aikana puhuttuja pankkitilitietoja huomaamatta.
Äänen katkaisu: Generatiivisen tekoälyn käyttö live-äänitapahtumien vääristämiseen: Generatiivisen tekoälyn, mukaan lukien tekstistä kuvaksi, tekstistä puheeksi ja suurten kielimallien (LLM) nousu, on muuttanut merkittävästi työtämme ja henkilökohtaista elämäämme. Vaikka nämä edistysaskeleet… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
- Shah Sheikh (@shah_sheikh) Helmikuu 1, 2024
Se, kuinka helposti tämän hyökkäyksen konseptitodistus voidaan keksiä, on hämmentävää. Tutkijat totesivat, että haastavin osa ei ollut tekoälyn luominen, vaan suoran äänen tallennuksen ja käsittelyn tekniset seikat. Tämä kehityksen helppous edustaa merkittävää poikkeamaa perinteisistä odotuksista, joissa tällainen ponnistelu olisi edellyttänyt huomattavaa asiantuntemusta useilta tietojenkäsittelytieteen aloilta.
"Tämän PoC:n rakentaminen oli yllättävän ja pelottavan helppoa. Vietimme suurimman osan ajasta pohtiessamme kuinka kaapata ääntä mikrofonista ja syöttää ääni generatiiviseen tekoälyyn."
Tässä järjestelmässä rooli Generatiivinen AI on kriittinen. Käyttämällä vain kolmea sekuntia henkilön ääntä tekniikka voi valmistaa vakuuttavan kloonin, joka tuottaa laillisia syväväärennöksiä pyynnöstä. Tämä sovellusliittymien kautta saatavilla oleva kyky viittaa huolestuttavaan suuntaukseen edistyneiden manipulointityökalujen demokratisointiprosessissa.
"Nykyään tarvitsemme vain kolme sekuntia yksilön ääntä sen kloonaamiseen ja käytämme tekstistä puheeksi -sovellusliittymää luomaan aitoja valeääniä."
Seuraukset ja mahdolliset väärinkäytökset
Audiojackingin vaikutukset ulottuvat kuitenkin pelkkää taloudellista petosta pidemmälle. Tällainen tekniikka pystyy reaaliaikaiseen sensuuriin, muuttamaan suoria lähetyksiä, kuten uutisia ja poliittisia puheita, ilman havaitsemista. Nämä ominaisuudet vaarantavat tiedon eheyden, millä on syvällisiä vaikutuksia demokratiaan ja yleiseen luottamukseen.
Äänenkaappaushyökkäyksen alhainen este on vähentänyt pitkälle kehitettyä sosiaalista manipulointia tai tietojenkalastelua. Tämä helppous herättää sitten ongelmia tällaisten hyökkäysten leviämisestä, mikä asettaa haasteita nykyisille turvatoimille ja vaatii uusia puolustusmekanismeja.
"Tämän PoC:n kypsyys merkitsisi merkittävää riskiä kuluttajille, ennen kaikkea… Mitä enemmän tätä hyökkäystä jalostetaan, sitä laajemmalle uhriverkostolle se voi heittää."
Äänen jakamisen ilmiö korostaa laajempaa tekoälyn kehityksen ongelmaa: kaksinaista luonnetta generatiivisia teknologioita. Toisaalta ne tarjoavat rajattomat mahdollisuudet innovaatioon ja luovuuteen; Toisaalta niiden väärin käytettyä potentiaalia ei pidä laiminlyödä. Tapaus herättää keskeisen kysymyksen: kuinka yhteiskunta voi hyödyntää tekoälyn edut ja suojautua sen synkemmiltä sovelluksilta?
Suunnistus tekoälyn turvallisuuden tulevaisuuteen
Digitaalisten uhkien muuttuvassa ympäristössä IBM Securityn tunnistama äänipistorasia on tärkeä varoitus valppaudesta ja kyberturvallisuuden modernisoinnista. Vastatoimien kehitys, mukaan lukien innovatiiviset tunnistusalgoritmit ja tehokkaammat salaustekniikat, on ratkaisevan tärkeää tällaisten kehittyneiden uhkien torjunnassa.
Lisäksi tämä paljastaminen paljastaa, että eettiset kysymykset ovat olennaisia AI tutkimus ja kehitystä. Sääntöjen ja vertailuarvojen määrittäminen tekoälyn vastuulliselle käytölle on välttämätöntä tällaisten tehokkaiden tekniikoiden vaarojen torjumiseksi.
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
- PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
- PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
- PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
- Lähde: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :on
- :On
- :ei
- $ YLÖS
- 1
- 11
- 7
- 8
- a
- kyky
- Tili
- poikki
- käsitellään
- kehittynyt
- vastaan
- AI
- algoritmit
- muuttunut
- an
- ja
- api
- API
- sovellukset
- OVAT
- keinotekoinen
- tekoäly
- AS
- At
- hyökkäys
- Hyökkäykset
- audio-
- Aito
- saatavissa
- Pankki
- pankkitili
- este
- BE
- ollut
- ennen
- ovat
- Viitearvot
- Hyödyt
- Jälkeen
- laajempaa
- mutta
- by
- Puhelut
- CAN
- kyvyt
- kykenee
- kaapata
- Sensuuri
- haasteet
- haastava
- muuttunut
- torjuminen
- Viestintä
- Yhteydenpito
- kompromissi
- tietokone
- Tietojenkäsittelyoppi
- huomattava
- Kuluttajat
- Keskustelu
- keskustelut
- voisi
- Luominen
- luovuus
- kriittinen
- Nykyinen
- tietoverkkojen
- vaaroista
- tummempi
- petos
- deepfakes
- Puolustus
- Kysyntä
- Demokratia
- demokratisointi
- lähtö
- määränpää
- havaittu
- Detection
- Kehitys
- digitaalinen
- ilmitulo
- keskustelut
- dual
- aikana
- helpottaa
- helppo
- vaikutukset
- vaivaa
- salaus
- Tekniikka
- olennainen
- eettinen
- evoluutio
- odotukset
- asiantuntemus
- asiantuntijat
- väärennös
- Fields
- taloudellinen
- taloudelliset petokset
- Löytää
- varten
- petos
- alkaen
- tulevaisuutta
- tuottaa
- generatiivinen
- Generatiivinen AI
- Go
- Kasvava
- käsi
- valjaat
- Olla
- Miten
- Miten
- Kuitenkin
- HTTPS
- IBM
- Tunnistaminen
- vaikutukset
- in
- tapaus
- Mukaan lukien
- tiedot
- Innovaatio
- innovatiivinen
- kiinteä
- eheys
- Älykkyys
- kysymys
- kysymykset
- IT
- SEN
- vain
- avainsanat
- tunnettu
- Landschaft
- Kieli
- suuri
- laillinen
- elää
- Lives
- näköinen
- Matala
- matala este
- manipuloitu
- Manipulointi
- kypsyys
- toimenpiteet
- mekanismit
- menetelmä
- mikrofoni
- mallit
- nykyaikaistaa
- lisää
- eniten
- luonto
- Tarve
- netto
- Uusi
- uutiset
- huomattava
- of
- on
- ONE
- vain
- or
- Muut
- meidän
- ulos
- yli
- osa
- henkilöstö
- ilmiö
- Phishing
- puhelin
- puheluista
- lausekkeet
- keskeinen
- Platon
- Platonin tietotieto
- PlatonData
- PoC
- pistettä
- poliittinen
- mahdollisuuksia
- mahdollinen
- voimakas
- prosessi
- käsittely
- tuottaa
- syvällinen
- ohjeita
- mikäli
- julkinen
- yleistä luottamusta
- kysymys
- herättää
- pikemminkin
- saavuttaa
- Lue
- todellinen
- reaaliaikainen
- äänitys
- Vähentynyt
- puhdistettu
- edustaa
- Tutkijat
- Revealed
- paljastaa
- Nousta
- Riski
- riskit
- Rooli
- säännöt
- turvaaminen
- järjestelmä
- tiede
- sekuntia
- turvallisuus
- Turvatoimet
- asetus
- useat
- sheikki
- VAIHTO
- shouldnt
- signaali
- merkittävä
- merkittävästi
- sosiaalinen
- Sosiaalinen insinööri
- yhteiskunta
- hienostunut
- lähde
- erityinen
- Puheet
- käytetty
- puhuttu
- leviäminen
- hätkähdyttävä
- Askeleet
- Upea
- niin
- yllättävän
- vie
- tekniikka
- tekniikat
- Technologies
- Elektroniikka
- Teksti puheeksi
- että
- -
- Tulevaisuus
- heidän
- sitten
- Nämä
- ne
- tätä
- uhkaus
- uhat
- kolmella
- Kautta
- Näin
- aika
- että
- työkalut
- perinteinen
- Liiketoimet
- Trend
- totta
- Luottamus
- viserrys
- alaviivojen
- rajoittamaton
- ennennäkemätön
- Käyttö
- käyttää
- käyttämällä
- versio
- kautta
- uhrit
- Ääni
- ÄÄNTÄ
- varoitus
- oli
- we
- kun
- joka
- vaikka
- KUKA
- laajempi
- with
- sisällä
- ilman
- sanoja
- Referenssit
- toimii
- olisi
- zephyrnet