Poskusi, da bi se izognili zaščitnim ograjam z umetno inteligenco, ki so krive za globoke ponaredke Swift

Poskusi, da bi se izognili zaščitnim ograjam z umetno inteligenco, ki so krive za globoke ponaredke Swift

Časovni žig: 5. februar 2024 5
Poskusi, da bi se izognili zaščitnim ograjam AI, za katere je kriv Swift deepfakes PlatoBlockchain Data Intelligence. Navpično iskanje. Ai.

Virusne nespodobne globoko ponarejene slike popzvezdnice Taylor Swift naj bi izhajale iz spletnega tekmovanja na 4chanu, ki je tekmovalce izzivalo, da razbijejo vsebinske filtre programske opreme AI. 

Ljudje v Graphiki, newyorškem analitičnem podjetju za družbene medije, so slike izsledili neposredno do 4chan. Ljudi so prosili, naj pripravijo trike, s katerimi bi obšli varnostne ograje v aplikacijah, kot sta Microsoftov Designer ali OpenAI DALL-E, da bi ustvarili slike NSFW slavnih žensk. Slike Taylor Swift so bile ustvarjene s programom Microsoft Designer in so bile pozneje deljene v skupinskem klepetu na Telegramu, preden so bile objavljene na X, poroča Graphika.

"Še naprej preiskujemo te slike in smo okrepili naše obstoječe varnostne sisteme, da še naprej preprečujemo zlorabo naših storitev za pomoč pri ustvarjanju slik, kot so te," je povedal tiskovni predstavnik Microsofta. Register v izjavi. 

Deepfake slike Swift nabrali milijone ogledov na X, preden jih je platforma družbenih medijev odstranila in začasno blokirala nekatere iskalne izraze, povezane s tekstopiscem. Graphika pa je dejala, da je konkurenca namenjena drugim znanim ženskam, in opozorila, da bi lahko tehnologijo zlorabili za tarčo kogar koli. 

"Medtem ko so virusne pornografske slike Taylor Swift pritegnile glavno pozornost na vprašanje intimnih podob brez privolitve, ustvarjenih z umetno inteligenco, še zdaleč ni edina žrtev," je Cristina López G., višja analitičarka pri Graphiki, Rekel Bloomberg. »V skupnosti 4chan, kjer so nastale te slike, niti ni najpogosteje tarča javne osebe. To dokazuje, da je na ta način lahko tarča kogar koli, od svetovnih zvezdnikov do šolarjev.«

Vendar pa se zdi, da je virusna narava ponarejenih slik, ki prikazujejo Swiftovo v spolno sugestivnih pozah, spodbudila zakonodajalce. Tiskovna predstavnica Bele hiše Karine Jean-Pierre je pozvala kongres, naj "sprejme zakonodajne ukrepe" kot odgovor na "zaskrbljujoče" slike. 

Prejšnji teden so ameriški senatorji predstavili Zakon o motnjah eksplicitnih ponarejenih slik in urejanju brez soglasja (DEFIANCE) iz leta 2024, dvostranski račun ki bi žrtvam omogočil, da tožijo ljudi, ki ustvarjajo in delijo neumne globoke ponaredke, ki jih ustvari umetna inteligenca. Zakonodaja, ki so jo vodili senatorji Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) in Josh Hawley (R-MO), je opozorila na študijo, ki je trdila, da je 96 odstotkov videoposnetkov deepfake so bili pornografski in so bili ustvarjeni brez dovoljenja ali soglasja žensk, ki jih prikazujejo. 

Akt DEFIANCE je bil sprožen v času, ko so bili glavni izvršni direktorji platform družbenih medijev zaslišani v kongresu sluha nad spolnim izkoriščanjem otrok na spletu in pomanjkanjem zaščite.

Register je zaprosil Graphiko za nadaljnji komentar. ®

Časovni žig:

Več od Register