Pogingen om AI-vangrails te omzeilen die de schuld krijgen van Swift-deepfakes

Pogingen om AI-vangrails te omzeilen die de schuld krijgen van Swift-deepfakes

Tijdstempel: 5 februari 2024 5:11 uur
Pogingen om AI-vangrails te omzeilen die de schuld krijgen van Swift deepfakes PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

De virale onzedelijke deepfake-beelden van popster Taylor Swift kwamen naar verluidt voort uit een online wedstrijd op 4chan, waarbij deelnemers werden uitgedaagd om AI-software-inhoudsfilters te doorbreken. 

Mensen bij Graphika, een New Yorks bedrijf voor sociale media-analyse, hebben de foto's rechtstreeks naar 4chan getraceerd. Mensen werd gevraagd trucjes te bedenken om de veiligheidsbarrières van applicaties als Microsoft's Designer of OpenAI's DALL-E te omzeilen en NSFW-afbeeldingen van vrouwelijke beroemdheden te maken. De foto's van Taylor Swift zijn gemaakt met Microsoft Designer en werden later gedeeld in een groepschat op Telegram, voordat ze op X werden geplaatst, aldus Graphika.

“We blijven deze afbeeldingen onderzoeken en hebben onze bestaande veiligheidssystemen versterkt om verder te voorkomen dat onze diensten worden misbruikt om dergelijke afbeeldingen te helpen genereren”, vertelde een woordvoerder van Microsoft. Het register in een verklaring. 

Deepfake-beelden van Swift verzamelde miljoenen views op X voordat het sociale-mediaplatform ze verwijderde en tijdelijk enkele zoektermen blokkeerde die verband hielden met de songwriter. Graphika zei echter dat de concurrentie zich op andere bekende vrouwelijke figuren richtte, en waarschuwde dat de technologie misbruikt zou kunnen worden om iemand aan te vallen. 

“Hoewel virale pornografische foto’s van Taylor Swift de mainstream aandacht hebben gevestigd op de kwestie van door AI gegenereerde, niet-consensuele intieme beelden, is zij verre van het enige slachtoffer”, zegt Cristina López G., senior analist bij Graphika, vertelde Bloomberg. “In de 4chan-gemeenschap waar deze beelden vandaan komen, is zij niet eens de meest getargete publieke figuur. Dit laat zien dat iedereen op deze manier het doelwit kan zijn, van mondiale beroemdheden tot schoolkinderen.”

Het virale karakter van de nepbeelden waarop Swift in seksueel suggestieve poses wordt afgebeeld, lijkt de wetgevers echter in een versnelling te hebben gezet. De perssecretaris van het Witte Huis, Karine Jean-Pierre, drong er bij het Congres op aan “wetgevende actie te ondernemen” als reactie op de “alarmerende” beelden. 

Vorige week introduceerden Amerikaanse senatoren de Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act van 2024, een bipartisan rekening waardoor slachtoffers mensen kunnen aanklagen die smerige, door AI gegenereerde deepfakes creëren en delen. De wetgeving, onder leiding van senatoren Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) en Josh Hawley (R-MO), wees op een onderzoek dat 96 procent van de deepfake-video’s claimde. waren pornografisch en waren gemaakt zonder toestemming van de vrouwen die erop afgebeeld waren. 

De DEFIANCE-wet werd gelanceerd op het moment dat top-CEO’s van sociale-mediaplatforms werden ondervraagd in een congres gehoor over de seksuele uitbuiting van kinderen online, en het gebrek aan bescherming.

Het register heeft Graphika om verder commentaar gevraagd. ®

Tijdstempel:

Meer van Het register