By Kenna Hughes-Castleberry postat 02 december 2022
Tack vare tekniska framsteg blir det svårare att avgöra vad som är verkligt och vad som inte är det. Detta problem förvärras med användningen av deepfake-teknik—ljud och videor som använder AI för att ersätta individer eller deras röster. Medan många deepfakes har använts framgångsrikt för underhållning (som om Nicholas Cage var i Jakten på den försvunna skatten) eller spel (som i FIFA-idrottare), har en stor andel av dem skapats för mer olyckliga skäl. Eftersom det blir enklare att skapa dessa manipulerade videor, hoppas många experter att kvantberäkning kan hjälpa till att övervinna de potentiella hoten från denna växande teknik.
Hur fungerar Deepfake Technology?
För att skapa en framgångsrik deepfake-video behöver du maskininlärning algoritmer. "Deep learning algoritmer lär sig själva hur man löser problem från stora datamängder och används sedan för att byta ansikten mellan video och annat digitalt innehåll," förklarade Efterkvantum VD Andersen Cheng. Post-Quantum är ett ledande cybersäkerhetsföretag vars fokus ligger på kvantresistent säkerhet, inklusive mot deepfakes. "Det finns ett antal metoder för att skapa dessa djupförfalskningar," sa Cheng, "men den mest populära är att använda djupa neurala nätverk som involverar autokodare. En autokodare är ett djuplärande AI-program som studerar videoklipp för att förstå hur en person ser ut från flera vinklar och den omgivande miljön, och sedan kartlägger den personen på individen genom att hitta gemensamma drag.”
En deepfake-teknikuppsättning (PC Wikimedia Commons)
För att säkerställa att autokodaren fungerar framgångsrikt måste flera videoklipp av motivets ansikte analyseras för att ge en större datapool. Sedan kan autokodaren hjälpa till att skapa en sammansatt video genom att byta ut den ursprungliga individen med det nya ämnet. En andra typ av maskininlärning som kallas General Adversarial Network (GAN) kommer att upptäcka och förbättra brister i den nya sammansatta videon. Enligt a 2022 artikel: "GAN:er tränar en "generator" för att skapa nya bilder från den latenta representationen av källbilden och en "diskriminator" för att utvärdera realismen hos de genererade materialen." Denna process sker flera gånger tills diskriminatorn inte kan se om videon är manipulerad och deepfake är komplett.
Hotet från Deepfake Technology
För närvarande finns det många program med öppen källkod eller gratisappar som individer kan använda för att skapa deepfakes. Även om detta kan verka fördelaktigt för många, särskilt de inom underhållningsbranschen, har det lett till några allvarliga, till och med kriminella, problem. Enligt a Deeptrace-rapport, 96 % av de djupfalska videorna på nätet 2019 var, inte överraskande, pornografi. Medan många av dessa olagliga videor gjordes för att hämnas på ett ex, användes andra för att skapa skandaler för kvinnliga kändisar och till och med politiker. Under 2018 släpptes en deepfake-video från en belgiskt politiskt parti visar dåvarande president Trump diskutera Paris klimatavtal. Eftersom falska nyheter redan har blivit ett problem för allmänheten, kan deepfake-videor vara strået som knäcker kamelens rygg. Även djup ljud utlöser förödelse, eftersom en manipulerad ljudfil från VD av ett teknikföretag hjälpt till att begå ett bedrägeri. För Cheng kan dessa typer av media nöta allmänhetens förtroende ganska snabbt. "Vi har den bredare frågan om samhälleligt förtroende - hur kommer allmänheten att kunna skilja mellan vad som är verkligt och vad som är ett djupt falskt," tillade Cheng. "Som vi har sett finns det till och med bevis för att deepfakes används för att kringgå skyddsåtgärder som biometrisk autentisering." Med dessa växande farhågor tror Cheng och hans team på Post-Quantum att de har en lösning i form av Nomidio, en specialiserad mjukvara för ultrasäkerhet.
Förbereder sig för DeepFake-teknikhot
När vi tittade på de många hoten som kvantdatorn och deepfakes utgör, skapade Cheng och detta team Nomidio för att se till att inloggningsidentiteter och till och med biometrisk autentisering förblir säkra. "Nomidio är en biometrisk, lösenordslös multi-factor biometric (MFB) tjänst som möjliggör säker autentisering med en enkel och intuitiv användarupplevelse," sa Cheng. "Det ersätter användarnamn/lösenordsbaserad inloggning och enkel inloggning, med användare som autentiseras mot sin biometriska profil med multifaktorautentisering (MFA) bakom kulisserna." Eftersom Cheng har varit expert på cybersäkerhet i många år, såg han till att Nomidio också kunde vara säker mot deepfakes. "Vår kärnfilosofi när vi skapade den var att använda så mycket extra input som möjligt och äkta multifaktorautentisering (dvs. med mer än två faktorer), så det är faktiskt den idealiska lösningen för att ta itu med all framtida utveckling inom deepfake-teknologi. Detta beror i slutändan på att traditionell MFA är otillräcklig, men MFB kan göra realtidsattacker praktiskt taget omöjliga. Det vill säga en kombination av till exempel röst, ansikte och en PIN-kod är mycket säker genom att vilken enskild faktor som helst kan vara möjlig att fejka, men att fejka alla tre i samma instans är praktiskt taget omöjligt. Med Nomidio kan en kombination av röst- och ansiktsbiometri, taligenkänning, kontextberoende data och till och med beteendeanalys kombineras till ett enda autentiseringssystem. ”
Även om Nomidio själv inte utnyttjar kvantdatorer för att övervinna djupfalska hot, kan kvantdatorer potentiellt arbeta mot dessa falska mediefiler. Som kvantdatorer använder ofta maskininlärningsalgoritmer för att arbeta snabbare och mer effektivt, de kanske kan upptäcka falska videor eller ljudfiler i snabbare takt. Medan tekniken fortfarande utvecklas, och få ser på djupförfalskningar som ett potentiellt användningsfall för kvantdatorer, kan dessa nästa nivås maskiner användas i framtiden för att göra våra medier mer sanningsenliga och korrekta.
Med hoten från deepfake-teknik som blir mer och mer uppenbara, försöker många regeringar och företag redan hitta sätt att hjälpa till att bekämpa den. 2021 lanserade Facebook Deepfake Detection Challenge, med ett pris på $500,000 XNUMX för dem som skapar ny teknik för att upptäcka djupförfalskningar. I USA har stater som Kalifornien, Texas och Virginia lagar som förbjuder deepfake-användning för både pornografi och politik. De Europaparlamentet införde också fler regler kring deepfake, och ändrade Digital Services Act för att införa användning av etiketter på deepfake-videor. Även om den här lagstiftningen inte kommer att träda i kraft förrän 2024, visar den på allvaret i hotet om deepfake-teknik.
Kenna Hughes-Castleberry är personalskribent på Inside Quantum Technology och Science Communicator vid JILA (ett partnerskap mellan University of Colorado Boulder och NIST). Hennes skrivbeats inkluderar djupteknologi, metaversen och kvantteknologi.
