IBM Security teadlased on paljastanud tehisintellekti jahmatava uue ohu: võime manipuleerida reaalajas vestlusi tehnika abil, mida tuntakse kui "heli sissemurdmist".
Kasutades generatiivset tehisintellekti ja süvavõltsitud helitehnoloogiat, suudab see meetod kõnesid reaalajas pealt kuulata ja muuta, mis kujutab endast digitaalses suhtluses enneolematuid riske.
Loe ka: Tehisintellekti süvavõltsingute tuvastamine edeneb üha kasvavate pettuseprobleemide vastu
Heli tungraua ohu paljastamine
Heli jagamine töötab kahesuunalise suhtluse, näiteks telefonikõnede, reaalajas heli töötlemise ja konkreetsete märksõnade või fraaside otsimise teel. Kui need päästikud tuvastatakse, astub AI sisse ja asendab autentse heli manipuleeritud sügavvõltsitud versiooniga enne, kui see sihtkohta jõuab. Vapustav näide Seda tehnikat pakuvad IBM-i teadlased, kes muutsid vestluse ajal räägitud pangakonto teavet, ilma et seda oleks tuvastatud.
Heli jagamine: generatiivse AI kasutamine reaalajas helitehingute moonutamiseks. Generatiivse AI kasv, sealhulgas tekst-pildiks, kõneks muutmise ja suurte keelemudelite (LLM-id), on oluliselt muutnud meie tööd ja isiklikku elu. Kuigi need edusammud… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Shah Sheikh (@shah_sheikh) Veebruar 1, 2024
Selle rünnaku kontseptsiooni tõestuse väljatöötamise lihtsus on häiriv. Teadlased märkisid, et kõige keerulisem osa ei olnud tehisintellekti loomine, vaid pigem reaalajas helisalvestuse ja -töötluse tehnilised omadused. Selline arendamise lihtsus kujutab endast olulist kõrvalekaldumist traditsioonilistest ootustest, kus selline pingutus oleks nõudnud märkimisväärseid teadmisi mitmes arvutiteaduse valdkonnas.
"Selle PoC ehitamine oli üllatavalt ja hirmutavalt lihtne. Veetsime suurema osa ajast nuputades, kuidas mikrofonist heli jäädvustada ja heli generatiivsele AI-le edastada.
Selles skeemis on roll Generatiivne AI on kriitiline. Kasutades vaid kolme sekundit inimese häält, suudab tehnoloogia valmistada veenva klooni, et toota nõudmisel seaduslikke süvavõltsinguid. See API-de kaudu saadaval olev võime viitab häirivale suundumusele täiustatud manipuleerimisvahendite demokratiseerimisprotsessis.
"Tänapäeval vajame selle kloonimiseks vaid kolme sekundit inimese häält ja autentsete võltshäälte genereerimiseks teksti kõneks muutmise API-d."
Mõju ja võimalik väärkasutus
Audiojackingi tagajärjed ulatuvad aga pelgalt finantspettusest kaugemale. Selline tehnoloogia on võimeline reaalajas tsenseerima, muutes otseülekandeid, näiteks uudiseid ja poliitilisi kõnesid, ilma tuvastamiseta. Need võimalused seavad ohtu teabe terviklikkuse, avaldades sügavat mõju demokraatiale ja avalikkuse usaldusele.
Heli jacki rünnaku madala barjääri tõttu on keerukat sotsiaalset manipuleerimist või andmepüüki oluliselt vähendatud. See lihtsus tõstatab seejärel selliste rünnakute leviku probleemid, seab seega väljakutseid praegustele turvameetmetele ja nõuab uusi kaitsemehhanisme.
"Selle PoC küpsus viitab olulisele ohule eelkõige tarbijatele… Mida rohkem seda rünnakut täiustatakse, seda laiemale ohvrite võrgule see võib langeda."
Heli tungraua fenomen rõhutab tehisintellekti arendamise laiemat probleemi: AI kahetist olemust generatiivsed tehnoloogiad. Ühest küljest on need piiramatute uuenduste ja loovuse võimaluste allikaks; teisalt ei tohiks tähelepanuta jätta nende väärkasutatud potentsiaali. Juhtum tõstatab pöördelise küsimuse: kuidas saab ühiskond ära kasutada tehisintellekti eeliseid, kaitstes samal ajal selle tumedamate rakenduste eest?
Tehisintellekti turvalisuse tulevikus liikumine
Digitaalsete ohtude muutuva maastiku taustal on IBM Security tuvastatud heli tungrauad oluliseks hoiatuseks, et olla valvas ja ajakohastada küberturvalisust. Vastumeetmete, sealhulgas uuenduslike tuvastamisalgoritmide ja jõulisemate krüpteerimistehnikate areng on selliste keeruliste ohtude vastu võitlemisel ülioluline.
Lisaks näitab see avalikustamine, et eetilised küsimused on selle lahutamatud osad AI-uuringud ja areng. Tehisintellekti vastutustundliku kasutamise reeglite ja võrdlusaluste kehtestamine on selliste võimsate tehnoloogiate ohtudega tegelemiseks hädavajalik.
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :on
- :on
- :mitte
- $ UP
- 1
- 11
- 7
- 8
- a
- võime
- konto
- üle
- adresseerimine
- edasijõudnud
- vastu
- AI
- algoritme
- muuta
- an
- ja
- API
- API-liidesed
- rakendused
- OLEME
- kunstlik
- tehisintellekti
- AS
- At
- rünnak
- Reageerib
- heli-
- Autentne
- saadaval
- Pank
- pangakonto
- tõke
- BE
- olnud
- enne
- on
- kriteeriumid
- Kasu
- Peale
- laiem
- kuid
- by
- Kutsub
- CAN
- võimeid
- võimeline
- lüüa
- tsensuur
- väljakutseid
- raske
- muutunud
- võitlus
- KOMMUNIKATSIOON
- Side
- kompromiss
- arvuti
- Arvutiteadus
- märkimisväärne
- Tarbijad
- Vestlus
- vestlused
- võiks
- loomine
- loovus
- kriitiline
- Praegune
- Küberturvalisus
- ohud
- tumedam
- pettus
- deepfakes
- kaitse
- Nõudlus
- Demokraatia
- demokratiseerimine
- lahkumine
- sihtkoht
- tuvastatud
- Detection
- & Tarkvaraarendus
- digitaalne
- avalikustamine
- arutelud
- kahekordne
- ajal
- leevendada
- lihtne
- mõju
- jõupingutusi
- krüpteerimist
- Inseneriteadus
- oluline
- eetiline
- evolutsioon
- ootused
- teadmised
- ekspertide
- võlts
- Valdkonnad
- finants-
- rahapettused
- leidma
- eest
- pettus
- Alates
- tulevik
- tekitama
- generatiivne
- Generatiivne AI
- Go
- Kasvavad
- käsi
- rakmed
- Olema
- Kuidas
- Kuidas
- aga
- HTTPS
- IBM
- Identifitseerimine
- mõjud
- in
- juhtum
- Kaasa arvatud
- info
- Innovatsioon
- uuenduslik
- lahutamatu
- terviklikkuse
- Intelligentsus
- probleem
- küsimustes
- IT
- ITS
- lihtsalt
- märksõnad
- teatud
- maastik
- keel
- suur
- õigustatud
- elama
- Elab
- otsin
- Madal
- madal barjäär
- manipuleeritav
- Manipuleerimine
- tähtaeg
- meetmed
- mehhanismid
- meetod
- mikrofon
- mudelid
- kaasajastama
- rohkem
- kõige
- loodus
- Vajadus
- neto
- Uus
- uudised
- märkida
- of
- on
- ONE
- ainult
- or
- Muu
- meie
- välja
- üle
- osa
- isiklik
- nähtus
- Phishing
- telefon
- telefonikõned
- fraasid
- Keskses
- Platon
- Platoni andmete intelligentsus
- PlatoData
- PoC
- võrra
- poliitiline
- võimalused
- potentsiaal
- võimas
- protsess
- töötlemine
- tootma
- sügav
- küsib
- tingimusel
- avalik
- heategevuslik ühing
- küsimus
- tõstab
- pigem
- Jõuab
- Lugenud
- reaalne
- reaalajas
- salvestamine
- Lühendatud
- puhastatud
- esindab
- Teadlased
- Revealed
- Ilmutab
- Tõusma
- Oht
- riskide
- Roll
- eeskirjade
- kaitsmine
- kava
- teadus
- sekundit
- turvalisus
- Turvameetmed
- kehtestamine
- mitu
- šeik
- NIHKEMINE
- peaks
- Signaali
- märkimisväärne
- märgatavalt
- sotsiaalmeedia
- Sotsiaaltehnoloogia
- Ühiskond
- keeruline
- allikas
- konkreetse
- sõnavõtud
- kasutatud
- räägitud
- Spreading
- jahmatav
- Sammud
- Uimastamine
- selline
- üllatavalt
- võtab
- tehnika
- tehnikat
- Tehnoloogiad
- Tehnoloogia
- Tekst kõneks
- et
- .
- Tulevik
- oma
- SIIS
- Need
- nad
- see
- oht
- ähvardused
- kolm
- Läbi
- Seega
- aeg
- et
- töövahendid
- traditsiooniline
- Tehingud
- Trend
- tõsi
- Usalda
- puperdama
- rõhutab
- piiramatu
- enneolematu
- Kasutus
- kasutama
- kasutamine
- versioon
- kaudu
- ohvreid
- Hääl
- HÄÄLED
- hoiatus
- oli
- we
- millal
- mis
- kuigi
- WHO
- laiem
- koos
- jooksul
- ilma
- sõnad
- Töö
- töötab
- oleks
- sephyrnet