Az AI védőkorlátok elkerülésére tett kísérletek a Swift mélyhamisításokért felelősek

Az AI védőkorlátok elkerülésére tett kísérletek a Swift mélyhamisításokért felelősek

Időbélyeg: 5. február 2024. 5:11
A Swift mélyhamisításáért, a PlatoBlockchain Data Intelligenceért a mesterséges intelligencia korlátok elkerülésére tett kísérletek felelősek. Függőleges keresés. Ai.

A popsztár, Taylor Swift vírusos, hamisított hamis képei állítólag a 4chan-on zajló online versenyből fakadtak, amely arra kérte a versenyzőket, hogy áttörjék az AI szoftveres tartalomszűrőit. 

A Graphika, egy New York-i közösségimédia-elemző cég munkatársai közvetlenül a 4chan-ra vezették vissza a képeket. Az embereket arra kérték, hogy dolgozzanak ki trükköket a biztonsági védőkorlátok megkerülésére olyan alkalmazásoknál, mint a Microsoft Designer vagy az OpenAI DALL-E, hogy NSFW-képeket készítsenek női hírességekről. A Graphika szerint Taylor Swift képeit a Microsoft Designer segítségével hozták létre, és később a Telegram csoportos csevegésében osztották meg őket, mielőtt közzétették volna őket az X-en.

„Folytatjuk ezeknek a képeknek a vizsgálatát, és megerősítettük a meglévő biztonsági rendszereinket, hogy még jobban megakadályozzuk, hogy szolgáltatásainkkal visszaéljenek a hozzájuk hasonló képek előállításához” – mondta a Microsoft szóvivője. A regisztráció egy nyilatkozatában. 

Deephamis képei Gyors milliós megtekintést ért el X-en, mielőtt a közösségi média platform eltávolította őket, és ideiglenesen letiltott néhány, a dalszerzőhöz kapcsolódó keresési kifejezést. A Graphika ugyanakkor elmondta, hogy a verseny más ismert női alakokat céloz meg, és figyelmeztetett, hogy a technológiával bárkit megcélozhatnak. 

"Míg Taylor Swiftről készült vírusos pornográf képek felhívták a figyelmet a mesterséges intelligencia által generált, nem konszenzusos intim képek problémájára, messze nem ő az egyetlen áldozat" - mondta Cristina López G., a Graphika vezető elemzője. mondta Bloomberg. „A 4chan közösségben, ahol ezek a képek keletkeztek, még csak nem is ő a leggyakrabban megcélzott közéleti személyiség. Ez azt mutatja, hogy bárkit meg lehet célozni ilyen módon, a világhírektől az iskolás gyerekekig.”

A Swiftet szexuálisan szuggesztív pózokban ábrázoló hamis képek vírusos jellege azonban úgy tűnik, hogy a törvényhozókat lendületbe hozta. A Fehér Ház sajtótitkára, Karine Jean-Pierre sürgette a Kongresszust, hogy „hozzon jogalkotási lépéseket” a „riasztó” képekre válaszul. 

Múlt héten az amerikai szenátorok bevezették a 2024-es Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) törvényt. kétpárti számla Ez lehetővé tenné az áldozatok számára, hogy beperelhessék azokat az embereket, akik mesterkélt mesterséges intelligencia által generált mélyhamisítványokat készítenek és osztanak meg. A Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) és Josh Hawley (R-MO) szenátorok által vezetett törvény egy tanulmányra mutatott rá, amely a mélyhamisított videók 96 százalékát állította. pornográf volt, és az ábrázolt nők engedélye vagy beleegyezése nélkül hozták létre. 

A DEFIANCE törvényt akkor vezették be, amikor a közösségi média platformok vezető vezérigazgatóit kihallgatták egy kongresszusi ülésen. hallás a gyermekek online szexuális kizsákmányolása és a védelem hiánya miatt.

A regisztráció további megjegyzéseket kért a Graphikától. ®

Időbélyeg:

Még több A regisztráció