Hur man upptäcker AI Deepfakes på sociala medier

Hur man upptäcker AI Deepfakes på sociala medier

Tidsstämpel: 4 november 2023 2:59
Hur man upptäcker AI Deepfakes på sociala medier PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

En video som publicerades på den kinesiska sociala medieplattformen Weibo förra veckan visar den amerikanska popstjärnan Taylor Swift som talar flytande mandarin. Bara att det inte var den 33-åriga sångaren i klippet. Det var en deepfake-video genererad av ett AI-verktyg från den kinesiska startupen HeyGen.

Sedan 21 oktober, när Swifts deepfake var först delas, videon har fått mer än sex miljoner visningar. Men det har också utlöst debatt om de potentiella fallgroparna som kommer när AI blir mer avancerad, vilket gör det svårt att skilja mellan verkliga och falska identiteter eller innehåll.

Deepfakes – realistiska men falska bilder eller videor som används för att imitera någon annan, inklusive deras röst – kan användas för att skapa falska digitala identiteter, något cyberbrottslingar kan utnyttja för att begå bedrägerier. Bilderna och videorna ser ut och pratar precis som den som riktar sig till.

I maj, till exempel, en kinesisk affärsman förlorade 4.3 miljoner yuan [612,000 XNUMX USD] efter att en bedragare använde AI med ansiktsbyte för att imitera sin vän. Det var ingen förlust av pengar i Taylor Swift deepfake, men här är vad du ska hålla utkik efter för att undvika att bli lurad på sociala medier.

Verifiera rekommendationer från AI-kändisar

Bedragare kommer vanligtvis att använda AI deepfakes från betrodda individer för att locka sina offer. Under de senaste månaderna har otaliga falska AI-kändisar dykt upp för att lura människor med falska rekommendationer. Falska versioner av ikoner som Elon Musk och Beyonce är inriktade på att marknadsföra falska varumärken.

Tydligen rankas många av de falska annonserna högre i sökresultaten på Google, troligen för att företaget inte gör tillräckligt för att filtrera bort bedrägligt innehåll.

Men i en tid av AI-genererat falskt innehåll är det avgörande att närma sig videor som är för bra för att vara sanna med ett kritiskt öga. Extraordinära anspråk kräver extraordinära bevis. Om du stöter på virala videor som verkar sensationella, ta dig tid att verifiera deras äkthet och källor.

"Om du vill ha råd om en produkt eller tjänst, titta på recensioner eller hitta en expert som är väl insatt och kan bevisa det", säger konsumentteknikexperten och radiovärden Kim Komando.

"Ett annat smart steg: Googla produkten och skådespelaren i annonsen, tillsammans med ordet "recension". Om någon får betalt för att rekommendera en produkt finns det inte bara en slumpmässig annons som svävar runt i sociala medier”, tillade hon i en artikel publicerade av New York Post.

Läs också: Taylor Swift, Emma Watson och andra riktade mot AI-porrökningar

Var uppmärksam på detaljer

Deepfake-tekniken är särskilt skrämmande eftersom den är så realistisk. AI-verktyg som t.ex Stabil diffusion kan manipulera röster och munrörelser, vilket gör det lätt för människor att tro att en video- eller ljudinspelning är äkta.

Kom ihåg Ghostwriters AI-skapade Drake and The Weeknd låt, som lurade miljontals människor, inklusive musikstreamingtjänster, att tro att det var en ny release? För att upptäcka en deepfake föreslår Alex Kim, medgrundare och VD för den AI-drivna e-handelsacceleratorn Rice, att:

"Var uppmärksam på alla ovanliga inkonsekvenser i videon du tittar på. Innehållsskapare som använder deepfakes försöker vanligtvis spara tid, så att finjustera detaljer är inget de kommer att investera tid i, säger Kim till MetaNews.

"Det betyder att alla missmatchade ansiktsuttryck, onaturliga rörelser, konstiga artefakter, röstfelmatchning eller läppsynkronisering sannolikt kommer att finnas på en djupförfalskad video", sa Kim och tillade:

"Var särskilt uppmärksam på ögonen, eftersom deepfakes kämpar mest med dessa."

Fallet med den kinesiska affärsmannen är en påminnelse om att deepfake-teknologi är ett kraftfullt verktyg som kan användas på gott och ont. Regulatorer har börjat ägna mer uppmärksamhet åt farorna med AI sedan OpenAI lanserade sin virala chatbot ChatGPT i november, vilket utlöste ett globalt AI-lopp.

Som MetaNews tidigare rapporterade, experter föreslår att man utvecklar ny teknik som kan upptäcka och förhindra användningen av falska identiteter. Detta kan innefatta användning av biometriska data, såsom ansiktsigenkänning eller fingeravtrycksskanning, för att verifiera användares identitet online.

Kontrollera bakgrunden för ledtrådar

Medan vissa appar använder vattenmärken att identifiera AI-genererat innehåll är det inte så självklart med andra. Användare måste skanna bakgrunden i bilder eller videor för att hitta ledtrådar om AI-deepfake-material, enligt Alex Kim, Rice.win VD.

"Om bakgrunden rör sig onaturligt eller om belysningen inte stämmer överens med skuggorna i förgrunden, är det förmodligen en deepfake," sa Kim. "Detaljer som textur på material, eller brist på sådana, är andra tecken."

"Leta efter pixelbildning eller suddighet där det inte borde finnas någon, särskilt om det händer på ett mänskligt motiv. Naturliga detaljer som hårfäste, öron, näsor eller ansiktsdrag är svåra att få fram i en deepfake, åtminstone övertygande."

AI-teknik, som för det mesta förblir gratis och lättillgänglig, används av dåliga aktörer på många sätt. Bilder på högprofilerade kvinnliga kändisar, inklusive Taylor Swift och Emma Watson, har manipulerats med hjälp av AI för att skapa deepfake pornografiskt innehåll.

Ett nytt AI-verktyg från Massachusetts Institute of Technology (MIT) i USA lovar att stävja deepfakes. Människor kan använda PhotoGuard att göra "små, osynliga justeringar för att hålla [deras] bilder säkra från djupförfalskningar och otäcka redigeringar - en lovande guldstandard inom onlinesäkerhet."

Alex Kim sa till MetaNews att det mest uppenbara och vanliga sättet att identifiera falska AI-videor på sociala medier är att överväga kanalerna där de är värd.

"Du kommer att vilja titta på hur mycket kanalen har postat på sistone och om det var några stora toppar eller ökningar i innehållsskapandet," sa Kim. "Om det finns en stor ökning i upplagda videor som verkar offensiva, lågkvalitativa eller konstiga, är det ett ganska säkert tecken på att skaparen använder deepfakes."

Tidsstämpel:

Mer från MetaNews