By Kenna Hughes-Castleberry objavljeno 02. decembra 2022
Zahvaljujoč napredku tehnologije je vse težje ločiti, kaj je resnično in kaj ne. Ta težava se poslabša z uporabo tehnologije deepfake—zvok in videi ki uporabljajo AI za zamenjavo posameznikov ali njihovih glasov. Čeprav je bilo veliko globokih ponaredkov uspešno uporabljenih za zabavo (na primer, če Nicholas kletka je bil v Raiders of the Lost Ark) ali igranje iger (na primer v Športniki FIFA), velik odstotek jih je ustvarjen za več zlovešči razlogi. Ker postaja ustvarjanje teh obdelanih videoposnetkov vse lažje, mnogi strokovnjaki upajo, da bo kvantno računalništvo lahko pomagalo premagati potencialne grožnje te naraščajoče tehnologije.
Kako deluje tehnologija Deepfake?
Če želite ustvariti uspešen videoposnetek deepfake, potrebujete strojno učenje algoritmi. "Algoritmi globokega učenja se sami naučijo reševati probleme iz velikih naborov podatkov, nato pa se uporabljajo za zamenjavo obrazov v videu in drugi digitalni vsebini," je pojasnil Postkvantno CEO Andersen Cheng. Post-Quantum je vodilno podjetje za kibernetsko varnost, ki se osredotoča na kvantno odporen varnost, vključno z globokimi ponaredki. »Obstajajo številne metode za ustvarjanje teh globokih ponaredkov,« je dejal Cheng, »vendar je najbolj priljubljena uporaba globokih nevronskih mrež, ki vključujejo samodejne kodirnike. An avtokoder je program umetne inteligence za globoko učenje, ki preučuje videoposnetke, da bi razumel, kako je oseba videti iz različnih zornih kotov in okoliškega okolja, nato pa to osebo preslika v posameznika z iskanjem skupnih značilnosti.«
Nastavitev tehnologije deepfake (PC Wikimedia Commons)
Da bi zagotovili uspešno delovanje samodejnega kodirnika, je treba analizirati več videoposnetkov obraza subjekta, da se pridobi več podatkov. Nato lahko samodejni kodirnik pomaga ustvariti sestavljeni videoposnetek tako, da zamenja izvirnega posameznika z novim predmetom. Druga vrsta strojnega učenja, imenovana General Adversarial Network (GAN), bo zaznala in izboljšala napake v novem kompozitnem videu. Po mnenju a Članek 2022: "GAN-ji usposabljajo 'generator', da ustvari nove slike iz latentne predstavitve izvorne slike, in 'diskriminator', da oceni realističnost ustvarjenih materialov." Ta postopek se izvede večkrat, dokler diskriminator ne more ugotoviti, ali je videoposnetek obdelan in je deepfake končan.
Grožnja tehnologije Deepfake
Trenutno obstaja veliko odprtokodne programske opreme ali brezplačnih aplikacij, ki jih lahko posamezniki uporabijo za ustvarjanje globokih ponaredkov. Čeprav se to morda zdi koristno za mnoge, zlasti za tiste v zabavni industriji, je povzročilo nekaj resnih, celo kriminalnih težav. Po mnenju a Poročilo Deeptrace, kar ni presenetljivo, da je bilo 96 % videoposnetkov deepfake na spletu v letu 2019 pornografija. Medtem ko je bilo veliko teh nedovoljenih videoposnetkov narejenih za maščevanje bivšim, so bili drugi uporabljeni za ustvarjanje škandalov za zvezdnice in celo politike. Leta 2018 je bil objavljen videoposnetek deepfake iz a Belgijska politična stranka prikazuje takratnega predsednika Trumpa med razpravo o pariškem podnebnem sporazumu. Glede na to, da lažne novice že postajajo problem za širšo javnost, so lahko globoko ponarejeni videoposnetki kaplja, ki zlomi hrbet. celo globoko posneti zvok povzroča kaos, saj je ena popravljena zvočna datoteka iz CEO tehnološkega podjetja pomagal storiti goljufijo. Za Chenga lahko te vrste medijev precej hitro zmanjšajo zaupanje javnosti. "Imamo širše vprašanje družbenega zaupanja - kako bo javnost lahko razločila med tem, kaj je resnično in kaj je globoka ponaredek," je dodal Cheng. "Kot smo videli, obstajajo celo dokazi, da se globoki ponaredki uporabljajo za izogibanje zaščitnim ukrepom, kot je biometrična avtentikacija." Zaradi teh vse večjih skrbi Cheng in njegova ekipa pri Post-Quantumu verjamejo, da imajo rešitev v obliki Nomidio, specializirana ultravarnostna programska oprema.
Priprava na grožnje tehnologije DeepFake
Če pogledamo številne grožnje, ki jih predstavljajo kvantno računalništvo in globoke ponaredke, sta Cheng in ta ekipa ustvarila Nomidio, da zagotovita, da identitete za prijavo in celo biometrična avtentikacija ostanejo varni. "Nomidio je biometrična večfaktorska biometrična (MFB) storitev brez gesla, ki omogoča varno avtentikacijo s preprosto in intuitivno uporabniško izkušnjo," je dejal Cheng. "Nadomešča prijavo na podlagi uporabniškega imena/gesla in enotno prijavo, pri čemer se uporabniki preverjajo glede na njihov biometrični profil z večfaktorsko avtentikacijo (MFA) v zakulisju." Ker je Cheng že vrsto let strokovnjak za kibernetsko varnost, je poskrbel, da je Nomidio lahko zaščiten tudi pred globokimi ponaredki. »Naša osnovna filozofija pri ustvarjanju je bila uporaba čim več dodatnih vnosov in resnične večfaktorske avtentikacije (tj. z več kot dvema faktorjema), tako da je pravzaprav idealna rešitev za spopadanje s kakršnim koli prihodnjim razvojem tehnologije deepfake. To je na koncu posledica dejstva, da tradicionalni MFA ne zadostuje, vendar lahko MFB naredi napade v realnem času tako rekoč nemogoče. To pomeni, da je kombinacija na primer glasu, obraza in kode PIN zelo varna zaradi dejstva, da je mogoče ponarediti kateri koli posamezen dejavnik, vendar je ponarediti vse tri v istem primeru praktično nemogoče. Z Nomidio je mogoče kombinacijo biometrije glasu in obraza, prepoznavanja govora, kontekstno odvisnih podatkov in celo vedenjske analize združiti v en sam sistem za preverjanje pristnosti. ”
Čeprav sam Nomidio ne uporablja kvantnega računalništva za premagovanje groženj globokega ponarejanja, bi lahko kvantni računalniki potencialno delovali proti tem lažnim predstavnostnim datotekam. Kot kvantni računalniki pogosto izkoriščajo algoritme strojnega učenja za hitrejše in učinkovitejše delovanje, morda lahko zaznajo lažni videi ali zvočne datoteke hitreje. Medtem ko se tehnologija še vedno razvija in malokdo gleda na globoke ponaredke kot na potencialno uporabo kvantnih računalnikov, bi lahko te stroje naslednje ravni v prihodnosti uporabili, da bi naši mediji postali bolj resnični in točni.
Glede na to, da postajajo grožnje tehnologije deepfake vse bolj očitne, številne vlade in podjetja že poskušajo najti načine za boj proti njim. Leta 2021 je Facebook lansiral Izziv Deepfake Detection, z nagrado 500,000 $ za tiste, ki ustvarjajo novo tehnologijo za odkrivanje globokih ponaredkov. V ZDA imajo države, kot so Kalifornija, Teksas in Virginija, zakone, ki prepovedujejo uporabo globokih ponaredkov tako za pornografijo kot za politiko. The Evropski parlament prav tako je vzpostavil več predpisov o deepfake-ih in spremenil zakon o digitalnih storitvah, da bi uvedel uporabo oznak na deepfake videoposnetkih. Čeprav bo ta zakonodaja začela veljati šele leta 2024, kaže na resnost grožnje tehnologije deepfake.
Kenna Hughes-Castleberry je zaposlena pisateljica pri Inside Quantum Technology in znanstveni komunikator pri JILA (partnerstvo med Univerzo Colorado Boulder in NIST). Njeni utripi pisanja vključujejo globoko tehnologijo, metaverzum in kvantno tehnologijo.
