Încercările de a evita balustradele AI sunt învinuite pentru deepfakes Swift

Încercările de a evita balustradele AI sunt învinuite pentru deepfakes Swift

Marca temporală: 5 februarie 2024 5:11
Attempts to avoid AI guardrails blamed for Swift deepfakes PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Imaginile virale deepfake lascive ale vedetei pop Taylor Swift au apărut dintr-o competiție online pe 4chan, provocând concurenții să spargă filtrele de conținut software AI. 

Oamenii de la Graphika, o firmă de analiză a rețelelor sociale din New York, au urmărit fotografiile direct la 4chan. Oamenii au fost rugați să vină cu trucuri pentru a ocoli balustradele de siguranță în aplicații precum Microsoft Designer sau DALL-E de la OpenAI pentru a crea imagini NSFW ale celebrităților feminine. Imaginile cu Taylor Swift au fost create folosind Microsoft Designer și au fost ulterior distribuite într-un chat de grup pe Telegram, înainte de a fi postate pe X, potrivit Graphika.

„Continuăm să investigăm aceste imagini și ne-am consolidat sistemele de siguranță existente pentru a preveni și mai mult utilizarea greșită a serviciilor noastre pentru a ajuta la generarea de imagini ca acestea”, a declarat un purtător de cuvânt al Microsoft. Registrul într-o declarație. 

Imagini deepfake ale Rapid a acumulat milioane de vizualizări pe X înainte ca platforma de socializare să le elimine și să blocheze temporar câțiva termeni de căutare legați de compozitor. Graphika a spus însă că competiția a vizat alte figuri feminine cunoscute și a avertizat că tehnologia poate fi abuzată pentru a viza pe oricine. 

„În timp ce fotografiile pornografice virale ale lui Taylor Swift au atras atenția generală asupra problemei imaginilor intime neconsensuale generate de inteligență artificială, ea este departe de a fi singura victimă”, a spus Cristina López G., analist senior la Graphika. a spus Bloomberg. „În comunitatea 4chan de unde au apărut aceste imagini, ea nu este nici măcar persoana publică vizată cel mai frecvent. Acest lucru arată că oricine poate fi vizat în acest fel, de la celebrități globale până la școlari.”

Natura virală a imaginilor false care îl înfățișează pe Swift în ipostaze sexuale sugestive, totuși, pare să fi pus parlamentarii în viteză. Secretarul de presă al Casei Albe, Karine Jean-Pierre, a cerut Congresului „să ia măsuri legislative” ca răspuns la imaginile „alarmante”. 

Săptămâna trecută, senatorii americani au introdus Legea din 2024 privind perturbarea imaginilor falsificate explicite și a modificărilor neconsensuale (DEFIANCE). proiect de lege bipartisan care le-ar permite victimelor să dea în judecată persoanele care creează și distribuie deepfake-uri obscure generate de AI. Legislația, condusă de senatorii Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) și Josh Hawley (R-MO), a indicat un studiu care a susținut 96% din videoclipurile deepfake. erau pornografice și fuseseră create fără permisiunea sau consimțământul femeilor pe care le descrie. 

Actul DEFIANCE a fost lansat în momentul în care directorii de top ai platformelor de social media au fost chestionați într-un Congres auz asupra exploatării sexuale a copiilor online și a lipsei de protecție.

Registrul a cerut lui Graphika un comentariu suplimentar. ®

Timestamp-ul:

Mai mult de la Registrul