Az IWF fellépést követel a pedofilokkal szemben a generatív mesterséges intelligencia használatával

Az Internet Watch Foundation arra figyelmeztet, hogy a generatív mesterséges intelligencia azzal fenyeget, hogy lehetővé teszi a „nagyszabású képek generálását”, amelyek „lenyomják azokat, akik a gyermekek online szexuális visszaélése elleni küzdelemben dolgoznak”.

A szervezetet aggasztja a generatív mesterséges intelligencia elmúlt év során tapasztalt gyors előrehaladása, és azt jósolja, hogy a mesterséges intelligencia által generált, gyermekekkel szembeni szexuális zaklatásra vonatkozó anyagok (CSAM) idővel csak még látványosabbak lesznek.

A legzavaróbb bűncselekmények

Az Internet Watch Foundation szerint generatív AI nagy lehetőségeket rejt magában életünk jobbá tételében, de figyelmeztet arra, hogy a technológia könnyen rosszindulatú célokra fordítható.

Susie Hargreaves, az IWF vezérigazgatója elmondta a Guardiannek Szerda hogy az ügynökség „legrosszabb rémálmai valóra váltak”.

„Az év elején figyelmeztettünk, hogy a mesterséges intelligencia képei hamarosan megkülönböztethetetlenek lesznek a szexuális bántalmazást elszenvedő gyermekek valódi képeitől, és egyre nagyobb számban láthatjuk majd ezt a képet. Ezen a ponton már túljutottunk” – mondta Hargreaves.

Hozzátette: „Elképesztő módon azt látjuk, hogy a bűnözők szándékosan oktatják mesterséges intelligenciájukat valódi áldozatok képeire, akik már elszenvedtek bántalmazást. A múltban megerőszakolt gyerekeket most új forgatókönyvekbe építik be, mert valaki valahol látni akarja.”

A probléma nagysága már most is komoly problémákat okoz a CSAM ellen küzdők számára.

Egy hónap alatt 20,254 2,562 mesterséges intelligencia által generált képet tettek közzé egy sötét webes CSAM fórumon. Az IWF elemzői XNUMX bűnügyi álfotót azonosítottak, amelyeket generatív mesterséges intelligencia segítségével készítettek.

Ezek több mint fele 10 év alatti gyermekeket mutatott be, míg 564-en az A kategóriájú képek közé tartoztak – ez a gyermekbántalmazás legsúlyosabb formája.

Híres CSAM-fotók

A generatív mesterséges intelligencia a CSAM új kategóriáit hozza létre. Az IWF eredményei azt mutatják, hogy a hírességeket mesterséges intelligencia-eszközök segítségével öregítik és gyerekekké alakítják.

Az elöregedett hírességeket ezután visszaélésszerű forgatókönyvekbe helyezik az online pedofilok kielégítésére.

A celebek gyerekeit is célba veszik, „meztelenítik” a fiatalokat a darknet fórumokon a felhasználók számára.

Az IWF szerint ezeket a képeket egyre nehezebb megkülönböztetni a valódi CSAM-tól.

„A legmeggyőzőbb AI CSAM vizuálisan megkülönböztethetetlen a valódi CSAM-tól, még képzett IWF-elemzők számára sem. A szöveg-képes technológia csak javulni fog, és több kihívás elé állítja az IWF-et és a bűnüldöző szerveket.” jelentést.

Kormányzati ajánlások

Az IWF, amely a UK, arra kéri a technológiai vállalatokat a világ minden tájáról, hogy biztosítsák, hogy a CSAM sérti a használati feltételeiket. Jobb képzést is szeretne a bűnüldöző szervek számára, hogy könnyebben azonosíthassák az ilyen típusú képeket.

Az IWF arra is felkéri a brit kormányt, hogy az AI CSAM legyen a vita fő témája a jövő hónapban, a Bletchley Parkban megrendezésre kerülő mesterséges intelligencia-csúcstalálkozón.

Az Egyesült Királyság azt reméli, hogy az üzleti világ kulcsfontosságú szereplőit, valamint a világ vezetőit vonzza az eseményre. Eddig Giorgia Meloni olasz miniszterelnök a G7-ek egyetlen megerősített vezetője, aki várhatóan részt vesz.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/