Försök att undvika AI-räcken som skylls för Swifts djupförfalskningar

Försök att undvika AI-räcken som skylls för Swifts djupförfalskningar

Tidsstämpel: 5 februari 2024 5:11
Försök att undvika AI-räcken anklagade för Swift deepfakes PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

De virala otrevliga djupfalska bilderna av popstjärnan Taylor Swift härrörde enligt uppgift från en onlinetävling på 4chan, som utmanade tävlande att bryta AI-programvaruinnehållsfilter. 

Folk på Graphika, ett analytikerföretag för sociala medier i New York, har spårat bilderna direkt till 4chan. Människor ombads komma med knep för att kringgå skyddsräcken på applikationer som Microsofts Designer eller OpenAI:s DALL-E för att skapa NSFW-bilder av kvinnliga kändisar. Bilderna på Taylor Swift skapades med hjälp av Microsoft Designer, och delades senare i en gruppchatt på Telegram, innan de publicerades på X, enligt Graphika.

"Vi fortsätter att undersöka dessa bilder och har stärkt våra befintliga säkerhetssystem för att ytterligare förhindra att våra tjänster missbrukas för att skapa bilder som dem", sa en talesperson för Microsoft. Registret i ett uttalande. 

Deepfake bilder av Snabb samlade miljontals visningar på X innan den sociala medieplattformen tog bort dem och tillfälligt blockerade några söktermer relaterade till låtskrivaren. Graphika menade dock att tävlingen riktade sig till andra välkända kvinnliga figurer och varnade för att tekniken kunde missbrukas för att rikta sig mot vem som helst. 

"Medan virala pornografiska bilder på Taylor Swift har väckt uppmärksamheten till frågan om AI-genererade intima bilder utan samtycke, är hon långt ifrån det enda offret", säger Cristina López G., senioranalytiker på Graphika, berättade Bloomberg. "I 4chan-communityt där dessa bilder har sitt ursprung, är hon inte ens den offentliga person som oftast riktas in sig på. Det här visar att alla kan bli riktade på det här sättet, från globala kändisar till skolbarn.”

Den virala karaktären hos de falska bilderna som porträtterar Swift i sexuellt suggestiva poser verkar dock ha fått lagstiftarna i växel. Vita husets pressekreterare Karine Jean-Pierre uppmanade kongressen att "vidta lagstiftningsåtgärder" som svar på de "alarmerande" bilderna. 

Förra veckan införde amerikanska senatorer lagen om Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) från 2024, en tvåpartsräkning som skulle tillåta offer att stämma människor som skapar och delar smutsiga AI-genererade deepfakes. Lagstiftningen, ledd av senatorerna Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) och Josh Hawley (R-MO), pekade på en studie som gjorde anspråk på 96 procent av deepfake-videorna var pornografiska och hade skapats utan tillstånd eller samtycke från kvinnorna som den avbildade. 

DEFIANCE-lagen lanserades när de högsta VD:arna för sociala medieplattformar ifrågasattes i en kongresskonferens hörsel över sexuellt utnyttjande av barn på nätet och bristande skydd.

Registret har bett Graphika om ytterligare kommentarer. ®

Tidsstämpel:

Mer från Registret