IWF zahteva ukrepanje proti pedofilom, ki uporabljajo generativno umetno inteligenco

Fundacija Internet Watch opozarja, da generativna umetna inteligenca grozi, da bo omogočila "generiranje slik v velikem obsegu", ki bo "preobremenila tiste, ki se borijo proti spletni spolni zlorabi otrok."

Telo je zaskrbljeno zaradi hitrega napredka generativne umetne inteligence v preteklem letu in napoveduje, da bo gradivo o spolni zlorabi otrok, ki ga ustvari umetna inteligenca (CSAM), sčasoma postalo le še bolj nazorno.

Najbolj moteč zločin

Fundacija Internet Watch pravi, da generativno AI ima velik potencial za izboljšanje naših življenj, vendar opozarja, da se lahko tehnologija zlahka spremeni v zlonamerne namene.

Susie Hargreaves, izvršna direktorica IWF, je za Guardian povedala Sreda da so se »najhujše nočne more agencije uresničile«.

»V začetku tega leta smo opozorili, da bi lahko posnetkov umetne inteligence kmalu postalo nerazločljivo od resničnih slik otrok, ki trpijo zaradi spolne zlorabe, in da bi lahko videli, da se ti posnetki širijo v veliko večjem številu. Zdaj smo to točko presegli,« je dejal Hargreaves.

Dodala je: »Grazljivo je, da vidimo kriminalce, ki namerno urijo svojo umetno inteligenco na podobah resničnih žrtev, ki so že bile zlorabljene. Otroci, ki so bili v preteklosti posiljeni, so zdaj vključeni v nove scenarije, ker nekdo nekje to želi videti.«

Obseg problema že povzroča velike težave tistim, ki se borijo proti CSAM.

V enem mesecu je bilo na temnem spletnem forumu CSAM objavljenih 20,254 slik, ustvarjenih z umetno inteligenco. Analitiki IWF so identificirali 2,562 kriminalnih psevdo fotografij, ustvarjenih s pomočjo generativne umetne inteligence.

Več kot polovica jih je prikazovala otroke, mlajše od 10 let, medtem ko je bilo 564 slik razvrščenih v kategorijo A – najresnejša oblika slik zlorabe otrok.

Fotografije CSAM slavnih

Generative AI ustvarja nove kategorije CSAM. Ugotovitve IWF kažejo, da se zvezdniki z orodji umetne inteligence starajo in spreminjajo v otroke.

Ostarele slavne osebe so nato postavljene v žaljive scenarije za potešitev spletnih pedofilov.

Tarča so tudi otroci zvezdnikov, ki mlade »nagujejo« za uporabnike na temnih forumih.

IWF pravi, da je te slike vedno težje ločiti od pravega CSAM.

»Najprepričljivejši AI CSAM se vizualno ne razlikuje od pravega CSAM, niti za usposobljene analitike IWF. Tehnologija besedila v sliko bo le še boljša in bo predstavljala več izzivov za IWF in organe kazenskega pregona,« piše v poročilo.

Priporočila vlade

IWF, ki ima sedež v UK, poziva tehnološka podjetja z vsega sveta, naj zagotovijo, da je CSAM v nasprotju z njihovimi pogoji uporabe. Prav tako želi boljše usposabljanje organov kazenskega pregona, da bodo lažje prepoznali tovrstne slike.

IWF tudi prosi britansko vlado, naj AI CSAM postane glavna tema razprave na prihajajočem vrhu AI v Bletchley Parku naslednji mesec.

Združeno kraljestvo upa, da bo na dogodek pritegnilo ključne akterje iz poslovnega sveta in svetovne voditelje. Zaenkrat je italijanska premierka Giorgia Meloni edina potrjena voditeljica G7, ki naj bi se ga udeležila.

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• vir: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/