AI vetkőzés: Deepfake Nude Services a népszerűségben ugrásszerűen megugrott – Decrypt

AI vetkőzés: Deepfake Nude Services népszerűsége az egekbe szökött – Decrypt

Időbélyeg: 8. december 2023. 8:12
AI vetkőzés: Deepfake Nude Services a népszerűség ugrásszerű emelkedése – a PlatoBlockchain adatintelligencia dekódolása. Függőleges keresés. Ai.

A rosszindulatú mélyhamisítás csapása jóval túlterjedt a hírességek és közéleti személyiségek birodalmán, és a nem konszenzusos intim képekről (NCII) szóló új jelentés szerint ez a gyakorlat csak növekszik, ahogy a képgenerátorok fejlődnek és terjednek.

Az „AI vetkőzés” egyre növekszik, a jelentést – közölte pénteken a Graphika közösségimédia-elemző cég, és a gyakorlatot használatnak minősítette generatív AI finomhangolt eszközök a ruházat eltávolítására a felhasználók által feltöltött képekről.

A szerencsejáték- és Twitch streaming közösség az év elején megküzdött a problémával, amikor a prominens műsorszolgáltató, Brandon 'Atrioc' Ewing véletlenül felfedte, hogy mesterséges intelligencia által generált mélyhamis pornót nézett női streamerekről, akit a barátainak nevezett. jelentést by Kotaku.

Ewing márciusban tért vissza a platformhoz, megbánta, és beszámolt hetek óta végzett munkájáról, amelyet az általa okozott károk enyhítése érdekében végzett. Az incidens azonban kinyitotta a zsilipeket egy egész online közösség előtt.

A Graphika beszámolója szerint az incidens csak csepp volt a vödörben.

"A Meltwater által szolgáltatott adatok felhasználásával megmértük a Redditen és X-en megjelent kommentek és bejegyzések számát, amelyek 34 webhelyre és 52 szintetikus NCII-szolgáltatást nyújtó Telegram-csatornára hivatkozó linkeket tartalmaztak" - írta Santiago Lakatos, a Graphika hírszerzési elemzője. „Ezek összesen 1,280-at tettek ki 2022-ben, szemben az idei eddigi 32,100 2,408-zal, ami XNUMX%-os volumennövekedést jelent az előző évhez képest.”

A New York-i székhelyű Graphika szerint az NCII robbanása azt mutatja, hogy az eszközök a szűk körű vitalapokról a háziiparba kerültek.

"Ezek a modellek lehetővé teszik több szolgáltató számára, hogy egyszerűen és olcsón készítsenek fotorealisztikus NCII-t nagy méretekben" - mondta Graphika. „Ilyen szolgáltatók nélkül ügyfeleiknek saját, egyedi képeloszlási modelleket kellene tárolniuk, karbantartaniuk és futtatniuk – ez időigényes és néha költséges folyamat.”

A Graphika arra figyelmeztet, hogy az AI vetkőzőeszközök népszerűségének növekedése nemcsak hamisítványokhoz vezethet pornográf anyagi, hanem célzott zaklatás, szextorzálás és gyermekek szexuális zaklatását használó anyagok (CSAM) generálása is.

A Graphika szerint jelentést, az AI-vetkőző eszközök fejlesztői a közösségi médiában hirdetnek, hogy a potenciális felhasználókat webhelyeikre, privát Telegram chatekre vagy Discord szervereikre irányítsák, ahol az eszközök megtalálhatók.

„Egyes szolgáltatók nyíltan végzik tevékenységüket, és kijelentik, hogy „vetkőző” szolgáltatásokat nyújtanak, és bizonyítékként közzétesznek fényképeket azokról az emberekről, akikről azt állítják, hogy „levetkőztek”” – írta a Graphika. „Mások kevésbé egyértelműek, és mesterséges intelligencia művészeti szolgáltatásként vagy Web3 fotógalériáként mutatkoznak be, miközben a szintetikus NCII-vel kapcsolatos kulcsfontosságú kifejezéseket szerepeltetik profiljukban és bejegyzéseikben.”

Míg a vetkőző mesterséges intelligencia általában a képekre összpontosít, a mesterséges intelligencia létrehozására is felhasználták videó mélyhamisítások a hírességek hasonlatával, beleértve a YouTube személyiségét is Úr. Vadállat és ikonikus hollywoodi színész Tom Hanks.

Néhány színésznek tetszik Scarlett Johansson és indiai színész Anil kapoor a jogrendszerhez folyamodnak, hogy leküzdjék az AI mélyhamisítások folyamatos fenyegetését. Mégis, míg a mainstream szórakoztatók nagyobb médiafigyelmet kaphatnak, felnőtt szórakoztatók mondjuk a hangjukat ritkán hallják.

„Nagyon nehéz.” – a legendás felnőtt előadóművész, a Star Factory PR vezetője, Tanya Tate mondta visszafejtése korábban. "Ha valaki a mainstreamben van, biztos vagyok benne, hogy sokkal könnyebb."

Tate a mesterséges intelligencia és a mélyhamisítási technológia térnyerése nélkül is kifejtette, hogy a közösségi média már tele van hamis fiókokkal, amelyek az ő valószínűségét és tartalmát használják fel. Nem segít a helyzeten, hogy a szexmunkások folyamatosan megbélyegzik, és arra kényszerítik őket és rajongóikat, hogy az árnyékban maradjanak.

Októberben a brit székhelyű internetes megfigyelőcég, az Internet Watch Foundation (IWF) egy külön jelentésben megjegyezte, hogy egyetlen sötétweb-fórumon mindössze egy hónap alatt több mint 20,254 XNUMX gyermekbántalmazásról készült képet találtak. Az IWF arra figyelmeztetett, hogy a mesterséges intelligencia által generált gyermekpornográfiaelborít" az internet.

A generatív mesterséges intelligencia képalkotás fejlődésének köszönhetően az IWF erre figyelmeztet deepfake A pornográfia odáig fejlődött, hogy a mesterséges intelligencia által generált képek és az autentikus képek közötti különbségtétel egyre bonyolultabbá vált, így a bűnüldöző szervek az online fantomokat üldözik a bántalmazás tényleges áldozatai helyett.

„Tehát az a folyamatos dolog, hogy nem bízhatsz abban, hogy a dolgok valódiak vagy sem” – mondta az Internet Watch Foundation műszaki igazgatója, Dan Sexton. Dekódolást. "Azok a dolgok, amelyek megmondják nekünk, hogy a dolgok valódiak-e vagy sem, nem 100%-osak, és ezért nem bízhatsz bennük sem."

Ami Ewinget illeti, Kotaku arról számolt be, hogy a streamer visszatért, mondván, hogy riporterekkel, technológusokkal, kutatókkal és az incidens által érintett nőkkel dolgozott, mivel vétkeztek. január. Ewing azt is elmondta, hogy pénzt küldött Ryan Morrison Los Angeles-i ügyvédi irodájának, Morrison Cooper, jogi szolgáltatásokat nyújtani minden olyan nőnek a Twitch-en, akinek szüksége volt a segítségükre a róluk képeket közzétevő webhelyek eltávolításához.

Ewing hozzátette, hogy kutatást kapott a mélyhamisítás kérdésének mélységéről a titokzatos mélyhamisítás-kutatótól, Genevieve Ohtól.

„Megpróbáltam megtalálni a „fényes foltokat” az ilyen típusú tartalom elleni küzdelemben” – mondta Ewing.

Szerkesztette Ryan Ozawa.

Maradjon naprakész a kriptográfiai hírekkel, és napi frissítéseket kaphat a postaládájában.

Időbélyeg:

Még több visszafejtése