By Kenna Hughes-Castleberry lagt ut 02. desember 2022
Takket være fremskritt innen teknologi, blir det vanskeligere å si hva som er ekte og hva som ikke er det. Dette problemet forverres med bruk av deepfake-teknologi—lyd og videoer som bruker AI for å erstatte enkeltpersoner eller deres stemmer. Mens mange deepfakes har blitt brukt med suksess til underholdning (som f.eks Nicholas Cage var i Jakten på den forsvunne skatten) eller spill (for eksempel i FIFA-idrettsutøvere), en stor prosentandel av dem er opprettet for mer skumle grunner. Ettersom det blir lettere å lage disse ferdigstilte videoene, håper mange eksperter at kvantedatabehandling kan bidra til å overvinne de potensielle truslene fra denne voksende teknologien.
Hvordan fungerer Deepfake-teknologi?
For å lage en vellykket deepfake-video trenger du maskinlæring algoritmer. "Dyplæringsalgoritmer lærer seg selv hvordan de løser problemer fra store datasett, og brukes deretter til å bytte ansikter på tvers av video og annet digitalt innhold," forklarte Post-kvante CEO Andersen Cheng. Post-Quantum er et ledende cybersikkerhetsselskap med fokus på kvantebestandig sikkerhet, inkludert mot deepfakes. "Det finnes en rekke metoder for å lage disse dype forfalskninger," sa Cheng, "men den mest populære er å bruke dype nevrale nettverk som involverer autoenkodere. An autokoder er et AI-program for dyp læring som studerer videoklipp for å forstå hvordan en person ser ut fra flere vinkler og det omkringliggende miljøet, og deretter kartlegger det personen til individet ved å finne fellestrekk.»
Et dypfalsk teknologioppsett (PC Wikimedia Commons)
For å sikre at autoenkoderen fungerer vellykket, må flere videoklipp av motivets ansikt analyseres for å gi en større samling av data. Deretter kan autokoderen hjelpe til med å lage en sammensatt video ved å bytte ut det originale individet med det nye motivet. En annen type maskinlæring kalt General Adversarial Network (GANs) vil oppdage og forbedre feil i den nye komposittvideoen. I følge a 2022-artikkel: "GAN-er trener en 'generator' til å lage nye bilder fra den latente representasjonen av kildebildet og en 'diskriminator' for å evaluere realismen til de genererte materialene." Denne prosessen skjer flere ganger til diskriminatoren ikke kan fortelle om videoen er behandlet og deepfake er fullført.
Trusselen fra Deepfake-teknologi
For øyeblikket er det mange åpen kildekode-programvare eller gratis apper som enkeltpersoner kan bruke til å lage deepfakes. Selv om dette kan virke gunstig for mange, spesielt de i underholdningsindustrien, har det ført til noen alvorlige, til og med kriminelle, problemer. I følge a Deeptrace-rapport, 96 % av de dypfalske videoene på nettet i 2019 var, ikke overraskende, pornografi. Mens mange av disse ulovlige videoene ble laget for å hevne seg på en eks, ble andre brukt til å skape skandaler for kvinnelige kjendiser og til og med politikere. I 2018 ble en deepfake-video utgitt fra en belgisk politisk parti viser daværende president Trump diskutere Paris-klimaavtalene. Siden falske nyheter allerede har blitt et problem for allmennheten, kan dypfalske videoer være dråpen som knekker kamelens rygg. Til og med dypfake lyd skaper kaos, ettersom en manipulert lydfil fra CEO av et teknologiselskap bidro til å begå en svindel. For Cheng kan denne typen medier slite ned offentlig tillit ganske raskt. "Vi har det bredere spørsmålet om samfunnstillit - hvordan vil publikum være i stand til å skille mellom hva som er ekte og hva som er dypt falskt," la Cheng til. "Som vi har sett, er det til og med bevis på at deepfakes blir brukt for å omgå beskyttelsestiltak som biometrisk autentisering." Med disse økende bekymringene tror Cheng og teamet hans i Post-Quantum at de har en løsning i form av Nomidio, en spesialisert ultrasikkerhetsprogramvare.
Forbereder seg på DeepFake-teknologitrusler
Når vi ser på de mange truslene som utgjøres av kvantedatabehandling og deepfakes, opprettet Cheng og dette teamet Nomidio for å sikre at påloggingsidentiteter og til og med biometrisk autentisering forblir sikre. "Nomidio er en biometrisk, passordløs multi-factor biometrisk (MFB) tjeneste som muliggjør sikker autentisering med en enkel og intuitiv brukeropplevelse," sa Cheng. "Den erstatter brukernavn/passordbasert pålogging og enkel pålogging, med brukere som blir autentisert mot sin biometriske profil med multifaktorautentisering (MFA) bak kulissene." Siden Cheng har vært en ekspert på cybersikkerhet i mange år, sørget han for at Nomidio også kunne være sikret mot deepfakes. "Vår kjernefilosofi da vi lagde den var å bruke så mye ekstra input som mulig og ekte multifaktorautentisering (dvs. med mer enn to faktorer), så det er faktisk den ideelle løsningen for å takle enhver fremtidig utvikling innen dypfalsk teknologi. Dette skyldes til syvende og sist at tradisjonell MFA er utilstrekkelig, men MFB kan gjøre sanntidsangrep praktisk talt umulig. Det vil si at en kombinasjon av for eksempel stemme, ansikt og en PIN-kode er svært sikker ved at en enkelt faktor kan være mulig å fake, men å fake alle tre i samme instans er praktisk talt umulig. Med Nomidio kan en kombinasjon av stemme- og ansiktsbiometri, talegjenkjenning, kontekstavhengige data og til og med atferdsanalyse kombineres til ett enkelt autentiseringssystem. ”
Mens Nomidio selv ikke utnytter kvantedatabehandling for å overvinne dypfalske trusler, kan kvantedatamaskiner potensielt jobbe mot disse falske mediefilene. Som kvante datamaskiner ofte utnytter maskinlæringsalgoritmer for å fungere raskere og mer effektivt, kan de kanskje oppdage falske videoer eller lydfiler i en raskere hastighet. Mens teknologien fortsatt er under utvikling, og få ser på deepfakes som et potensielt bruksområde for kvantedatamaskiner, kan disse neste-nivå-maskinene brukes i fremtiden for å gjøre mediene våre mer sannferdige og nøyaktige.
Ettersom truslene fra dypfalsk teknologi blir mer og mer tydelige, prøver mange myndigheter og selskaper allerede å finne måter å hjelpe til med å bekjempe den. I 2021 lanserte Facebook Deepfake Detection Challenge, med en premie på $500,000 XNUMX for de som lager ny teknologi for å oppdage dype forfalskninger. I USA har stater som California, Texas og Virginia lover som forbyr deepfake-bruk for både pornografi og politikk. De Europaparlamentet også etablert flere forskrifter rundt dypfalske videoer, og endret loven om digitale tjenester for å pålegge bruk av etiketter på dypfalske videoer. Selv om denne lovgivningen ikke vil være effektiv før i 2024, viser den alvoret i trusselen om dypfalsk teknologi.
Kenna Hughes-Castleberry er stabsskribent ved Inside Quantum Technology og Science Communicator ved JILA (et partnerskap mellom University of Colorado Boulder og NIST). Skriverytmene hennes inkluderer dypteknologi, metaverset og kvanteteknologi.
