Preoblikovanje krajine groženj: Deepfake kibernetski napadi so tukaj

Zlonamerne kampanje, ki vključujejo uporabo tehnologij deepfake, so veliko bližje, kot bi mnogi domnevali. Poleg tega jih je težko ublažiti in odkriti.

Nova študija o uporabi in zlorabi globokih ponaredkov s strani kibernetskih kriminalcev kaže, da so vsi potrebni elementi za široko uporabo tehnologije vzpostavljeni in takoj na voljo na podzemnih trgih in odprtih forumih. Študija, ki jo je izvedel Trend Micro, kaže, da se že dogaja veliko lažnega predstavljanja, ogrožanja poslovne e-pošte (BEC) in promocijskih goljufij, ki podpirajo deepfake. hitro preoblikovanje pokrajine groženj.

Nič več hipotetična grožnja

»Od hipotetičnih groženj in groženj, ki temeljijo na dokazovanju koncepta, so [napadi z omogočenim ponarejanjem] prešli na stopnjo, ko so nezreli kriminalci sposobni uporabljati takšne tehnologije,« pravi Vladimir Kropotov, varnostni raziskovalec pri Trend Micro in glavni avtor poročilo o temi, ki ga je prodajalec varnosti objavil ta teden. 

"Vidimo že, kako so globoki ponaredki vključeni v napade na finančne institucije, prevare in poskuse lažnega predstavljanja politikov," pravi in ​​dodaja, da je strašljivo to, da mnogi od teh napadov uporabljajo identitete resničnih ljudi - pogosto postrganih iz vsebin, ki jih objavljajo na družbenih omrežjih. medijska omrežja.

Eden od glavnih zaključkov študije Trend Micro je takojšnja razpoložljivost orodij, slik in videoposnetkov za ustvarjanje globokih ponaredkov. Prodajalec varnosti je na primer ugotovil, da številni forumi, vključno z GitHubom, ponujajo izvorno kodo za razvoj globokih ponaredkov vsakomur, ki to želi. Podobno je na voljo dovolj visokokakovostnih slik in videoposnetkov običajnih posameznikov in javnih osebnosti, da lahko slabi akterji ustvarijo na milijone lažnih identitet ali se predstavljajo za politike, poslovneže in druge znane osebnosti.

Povpraševanje po storitvah deepfake in ljudeh s strokovnim znanjem o tej temi narašča tudi na podzemnih forumih. Trend Micro je našel oglase kriminalcev, ki iščejo ta znanja za izvajanje goljufij s kriptovalutami in goljufij, usmerjenih na posamezne finančne račune. 

"Igralci se že lahko lažno predstavljajo in kradejo identiteto politikov, vodstvenih delavcev na ravni C in slavnih oseb," je Trend Micro dejal v svojem poročilu. "To bi lahko znatno povečalo stopnjo uspešnosti nekaterih napadov, kot so finančne sheme, kratkotrajne dezinformacijske kampanje, manipulacija javnega mnenja in izsiljevanje."

Množica tveganj

Vse večja je tudi nevarnost, da se ukradene ali poustvarjene identitete navadnih ljudi uporabijo za goljufanje lažnih žrtev ali za izvajanje zlonamernih dejavnosti pod njihovo identiteto. 

V številnih skupinah za razprave je Trend Micro ugotovil, da uporabniki aktivno razpravljajo o načinih uporabe globokih ponaredkov za izogibanje bančnim in drugim kontrolam preverjanja računov – zlasti tistih, ki vključujejo metode preverjanja videa in oči v oči.

Kriminalci bi lahko na primer uporabili identiteto žrtve in uporabili njen globoko lažni videoposnetek, da bi odprli bančne račune, ki bi jih kasneje lahko uporabili za dejavnosti pranja denarja. Podobno lahko ugrabijo račune, se lažno predstavljajo za najvišje vodstvene delavce v organizacijah, da sprožijo goljufivo nakazilo denarja ali postavijo lažne dokaze za izsiljevanje posameznikov, so sporočili iz Trend Micro. 

Naprave, kot sta Amazonova Alexa in iPhone, ki uporabljata prepoznavanje glasu ali obraza, bi lahko kmalu bile na seznamu ciljnih naprav za napade, ki temeljijo na ponarejanju, je opozoril prodajalec varnosti.

»Ker veliko podjetij še vedno deluje na daljavo ali v mešanem načinu, obstaja povečano tveganje za lažno predstavljanje osebja v konferenčnih klicih ki lahko vplivajo na notranje in zunanje poslovne komunikacije ter občutljive poslovne procese in finančne tokove,« pravi Kropotov.

Trend Micro ni edini, ki oglaša alarm glede globokih ponaredkov. Nedavna spletna raziskava, ki jo je VMware izvedel med 125 strokovnjaki za kibernetsko varnost in odziv na incidente, je prav tako pokazala, da grožnje, ki podpirajo deepfake, ne prihajajo kar tako – so že tukaj. Presenetljivih 66 % – kar je 13 % več kot leta 2021 – anketirancev je izjavilo, da so v zadnjih 12 mesecih doživeli varnostni incident, ki je vključeval uporabo globokih ponaredkov.

»Primeri napadov deepfake, ki smo jim [že] bili priča, vključujejo glasovne klice izvršnega direktorja finančnemu direktorju vodi do bančnega nakazila, kot tudi klice zaposlenih v IT za sprožitev ponastavitve gesla,« pravi Rick McElroy, glavni strateg za kibernetsko varnost pri VMware.

Nekaj ​​ublažitev za napade Deepfake in odkrivanje je težko

Na splošno so te vrste napadov lahko učinkovite, ker še ni na voljo nobenih tehnoloških popravkov za reševanje izziva, pravi McElroy. 

»Glede na naraščajočo uporabo in prefinjenost pri ustvarjanju globokih ponaredkov vidim to kot eno največjih groženj organizacijam z vidika goljufij in prevar, ki se nadaljujejo,« opozarja. 

Najučinkovitejši način za trenutno ublažiti grožnjo je povečati ozaveščenost o problemu med finančnimi, izvršnimi in IT ekipami, ki so glavne tarče teh napadov socialnega inženiringa. 

»Organizacije lahko razmislijo o nizkotehnoloških metodah, da prekinejo krog. To lahko vključuje uporabo izziva in gesla med vodstvenimi delavci pri prenosu denarja iz organizacije ali dvostopenjski in preverjen postopek odobritve,« pravi.

Gil Dabah, soustanovitelj in izvršni direktor podjetja Piaano, prav tako priporoča strog nadzor dostopa kot omilitveni ukrep. Noben uporabnik ne bi smel imeti dostopa do velikih kosov osebnih podatkov in organizacije morajo določiti omejitve hitrosti ter odkrivanje anomalij, pravi.

"Tudi sistemi, kot je poslovna inteligenca, ki zahtevajo analizo velikih podatkov, bi morali dostopati samo do zamaskiranih podatkov," ugotavlja Dabah in dodaja, da nobenih občutljivih osebnih podatkov ne bi smeli hraniti v odprtem besedilu, podatke, kot je PII, pa je treba označiti in zaščititi.

Na področju odkrivanja pa razvoj tehnologij, kot je na primer AI Generativne adversarne mreže (GAN) so otežili odkrivanje globokih ponaredkov. "To pomeni, da se ne moremo zanašati na vsebino, ki vsebuje" artefakte "namigov, da je prišlo do spremembe," pravi Lou Steinberg, soustanovitelj in poslovodni partner pri CTM Insights.

Za odkrivanje manipulirane vsebine potrebujejo organizacije prstne odtise ali podpise, ki dokazujejo, da je nekaj nespremenjeno, dodaja.

»Še bolje je vzeti mikroprstne odtise na delih vsebine in tako prepoznati, kaj se je spremenilo in kaj ne,« pravi. "To je zelo dragoceno, ko je bila slika urejena, še bolj pa, ko nekdo poskuša skriti sliko pred odkrivanjem."

Tri široke kategorije nevarnosti

Steinberg pravi, da grožnje deepfake spadajo v tri širše kategorije. Prvi so dezinformacijske kampanje, ki večinoma vključujejo urejanje legitimne vsebine za spremembo pomena. Kot primer Steinberg opozarja na akterje v nacionalni državi, ki uporabljajo slike in videoposnetke lažnih novic na družbenih omrežjih ali vstavljajo nekoga na fotografijo, ki prvotno ni bila prisotna – nekaj, kar se pogosto uporablja za stvari, kot so implicitne reklamacije izdelkov ali maščevalna pornografija.

Druga kategorija vključuje subtilne spremembe slik, logotipov in druge vsebine, da se izognejo avtomatiziranim orodjem za odkrivanje, kot so tista, ki se uporabljajo za odkrivanje ponarejenih logotipov izdelkov, slik, ki se uporabljajo v kampanjah lažnega predstavljanja, ali celo orodij za odkrivanje otroške pornografije.

Tretja kategorija vključuje sintetične ali sestavljene globoke ponaredke, ki izhajajo iz zbirke izvirnikov, da ustvarijo nekaj popolnoma novega, pravi Steinberg. 

"To smo začeli opažati pri zvoku pred nekaj leti, z uporabo računalniško sintetiziranega govora za premagovanje glasovnih odtisov v klicnih centrih za finančne storitve," pravi. "Video se zdaj uporablja za stvari, kot je sodobna različica kompromisa poslovne e-pošte ali za škodovanje ugledu, tako da nekdo 'pove' nekaj, česar nikoli ni rekel."