Forsøg på at undgå AI-værn, der er skyld i Swift deepfakes

Forsøg på at undgå AI-værn, der er skyld i Swift deepfakes

Tidsstempel: 5. februar 2024 kl. 5:11
Attempts to avoid AI guardrails blamed for Swift deepfakes PlatoBlockchain Data Intelligence. Vertical Search. Ai.

De virale uhyggelige dybfalske billeder af popstjernen Taylor Swift stammede angiveligt fra en onlinekonkurrence på 4chan, der udfordrede deltagere til at bryde AI-softwareindholdsfiltre. 

Folk hos Graphika, et analysefirma på sociale medier i New York, har sporet billederne direkte til 4chan. Folk blev bedt om at komme med tricks til at omgå sikkerhedsrækværkerne på applikationer som Microsofts Designer eller OpenAIs DALL-E for at skabe NSFW-billeder af kvindelige berømtheder. Billederne af Taylor Swift blev lavet ved hjælp af Microsoft Designer og blev senere delt i en gruppechat på Telegram, før de blev lagt på X, ifølge Graphika.

"Vi fortsætter med at undersøge disse billeder og har styrket vores eksisterende sikkerhedssystemer for yderligere at forhindre, at vores tjenester misbruges til at hjælpe med at generere billeder som dem", fortalte en talsmand for Microsoft. Registret i en erklæring. 

Deepfake billeder af Swift samlede millioner af visninger på X, før den sociale medieplatform fjernede dem og midlertidigt blokerede nogle søgetermer relateret til sangskriveren. Graphika sagde dog, at konkurrencen var rettet mod andre kendte kvindefigurer, og advarede om, at teknologien kunne blive misbrugt til at målrette enhver. 

"Mens virale pornografiske billeder af Taylor Swift har bragt mainstream opmærksomhed på spørgsmålet om AI-genererede intime billeder uden samtykke, er hun langt fra det eneste offer," Cristina López G., senioranalytiker hos Graphika, fortalt Bloomberg. "I 4chan-fællesskabet, hvor disse billeder stammer fra, er hun ikke engang den offentlige person, der oftest er målrettet mod. Dette viser, at alle kan blive målrettet på denne måde, lige fra globale berømtheder til skolebørn."

Den virale karakter af de falske billeder, der portrætterer Swift i seksuelle positurer, ser dog ud til at have sparket lovgiverne i gear. Det Hvide Hus' pressesekretær Karine Jean-Pierre opfordrede Kongressen til at "tage lovgivningsmæssige foranstaltninger" som svar på de "alarmerende" billeder. 

I sidste uge introducerede amerikanske senatorer loven Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act fra 2024, en topartsregning der ville give ofre mulighed for at sagsøge folk, der skaber og deler snaskede AI-genererede deepfakes. Lovgivningen, ledet af senatorerne Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) og Josh Hawley (R-MO), pegede på en undersøgelse, der hævdede 96 procent af deepfake-videoer var pornografiske og var blevet oprettet uden tilladelse eller samtykke fra de kvinder, det afbildede. 

DEFIANCE-loven blev lanceret på det tidspunkt, hvor topchefer for sociale medieplatforme blev afhørt i en kongres høre over seksuel udnyttelse af børn online og manglende beskyttelse.

Registret har bedt Graphika om yderligere kommentar. ®

Tidsstempel:

Mere fra Registret