Forsøk på å unngå AI-rekkverk med skylden for Swift-deepfakes

Forsøk på å unngå AI-rekkverk med skylden for Swift-deepfakes

Tidsstempel: 5. februar 2024 5:11
Forsøk på å unngå AI-rekkverk beskyldt for Swift deepfakes PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

De virale utuktige dypfalske bildene av popstjernen Taylor Swift stammet angivelig fra en nettkonkurranse på 4chan, som utfordret deltakerne til å bryte AI-programvareinnholdsfiltrene. 

Folk hos Graphika, et analysefirma for sosiale medier i New York, har sporet bildene direkte til 4chan. Folk ble bedt om å komme med triks for å omgå sikkerhetsrekkverkene på applikasjoner som Microsofts Designer eller OpenAIs DALL-E for å lage NSFW-bilder av kvinnelige kjendiser. Bildene av Taylor Swift ble laget ved hjelp av Microsoft Designer, og ble senere delt i en gruppechat på Telegram, før de ble lagt ut på X, ifølge Graphika.

"Vi fortsetter å undersøke disse bildene og har styrket våre eksisterende sikkerhetssystemer for ytterligere å forhindre at tjenestene våre misbrukes for å hjelpe til med å generere bilder som dem," sa en talsperson for Microsoft. Registeret i en uttalelse. 

Deepfake bilder av Swift samlet opp millioner av visninger på X før den sosiale medieplattformen fjernet dem og midlertidig blokkerte noen søkeord relatert til låtskriveren. Graphika sa imidlertid at konkurransen var rettet mot andre kjente kvinnefigurer, og advarte om at teknologien kunne misbrukes til å målrette mot hvem som helst. 

"Mens virale pornografiske bilder av Taylor Swift har ført mainstream oppmerksomhet til spørsmålet om AI-genererte intime bilder uten samtykke, er hun langt fra det eneste offeret," Cristina López G., senioranalytiker ved Graphika, fortalte Bloomberg. «I 4chan-fellesskapet der disse bildene oppsto, er hun ikke engang den offentlige figuren som oftest er målrettet mot. Dette viser at alle kan bli målrettet på denne måten, fra globale kjendiser til skolebarn.»

Den virale naturen til de falske bildene som skildrer Swift i seksuelle positurer, ser imidlertid ut til å ha satt lovgivere i gang. Det hvite hus' pressesekretær Karine Jean-Pierre oppfordret kongressen til å "ta lovgivende tiltak" som svar på de "alarmerende" bildene. 

Sist uke introduserte amerikanske senatorer loven Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act fra 2024, en topartsregning som ville tillate ofre å saksøke folk som skaper og deler snåle AI-genererte deepfakes. Lovgivningen, ledet av senatorene Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) og Josh Hawley (R-MO), pekte på en studie som hevdet 96 prosent av dypfalske videoer var pornografiske og hadde blitt opprettet uten tillatelse eller samtykke fra kvinnene den avbildet. 

DEFIANCE-loven ble lansert på det tidspunktet toppsjefer for sosiale medieplattformer ble avhørt i en Kongress hørsel over seksuell utnyttelse av barn på nett, og mangel på beskyttelse.

Registeret har bedt Graphika om ytterligere kommentar. ®

Tidstempel:

Mer fra Registeret