IWF nõuab pedofiilide suhtes meetmeid, mis kasutavad generatiivset AI-d

Internet Watch Foundation hoiatab, et generatiivne tehisintellekt ähvardab võimaldada "mastaabis piltide genereerimist", mis "ülekoormab neid, kes võitlevad veebis laste seksuaalse kuritarvitamise vastu".

Organisatsioon on mures generatiivse tehisintellekti kiire arengu pärast viimase aasta jooksul ja ennustab, et tehisintellekti loodud laste seksuaalse kuritarvitamise materjal (CSAM) muutub aja jooksul ainult graafilisemaks.

Kuritegudest kõige häirivam

Internet Watch Foundation ütleb, et generatiivne AI omab suurt potentsiaali meie elu paremaks muutmiseks, kuid hoiatab, et seda tehnoloogiat saab hõlpsasti pahatahtlikeks eesmärkideks kasutada.

IWF-i tegevjuht Susie Hargreaves ütles Guardianile edasi Kolmapäev et agentuuri "halvimad õudusunenäod on tõeks saanud".

"Selle aasta alguses hoiatasime, et tehisintellekti kujutised võivad peagi muutuda eristamatuks seksuaalse kuritarvitamise all kannatavate laste tegelikest piltidest ja et me võime hakata nägema seda kujutist palju rohkem. Oleme sellest punktist nüüd möödas," ütles Hargreaves.

Ta lisas: "Me näeme, et kurjategijad treenivad teadlikult oma tehisintellekti tõeliste ohvrite piltide põhjal, kes on juba väärkohtlemise all kannatanud. Lapsed, keda on minevikus vägistatud, kaasatakse nüüd uutesse stsenaariumidesse, sest keegi kuskil tahab seda näha.

Probleemi ulatus põhjustab juba praegu suuri probleeme neile, kes võitlevad CSAM-i vastu.

Ühe kuu jooksul postitati ühte tumeda veebi CSAM-i foorumisse 20,254 2,562 AI-ga loodud pilti. IWF-i analüütikud tuvastasid XNUMX kuritegelikku pseudofotot, mis on loodud generatiivse AI abil.

Rohkem kui pooled neist kujutasid alla 10-aastaseid lapsi, samas kui 564 kujutist liigitati A-kategooria kujutisteks, mis on laste väärkohtlemise kõige tõsisem vorm.

Kuulsuste CSAM-fotod

Generatiivne AI loob uusi CSAM-i kategooriaid. IWF-i leiud näitavad, et kuulsused vananevad ja muudetakse tehisintellekti tööriistadega lasteks.

Vananenud kuulsused paigutatakse seejärel kuritarvitavatesse stsenaariumidesse, et rahuldada veebipedofiile.

Sihtmärgiks on ka kuulsuste lapsed, kes “alastavad” noori darkneti foorumites kasutajate jaoks.

IWF ütleb, et neid pilte on üha raskem eristada tõelisest CSAM-ist.

„Kõige veenvam AI CSAM on visuaalselt eristamatu tõelisest CSAM-ist, isegi koolitatud IWF-i analüütikute jaoks. Tekstist pildiks muutmise tehnoloogia muutub ainult paremaks ja seab IWF-ile ja õiguskaitseorganitele rohkem väljakutseid,“ seisab aru.

Valitsuse soovitused

aastal asuv IWF UK, palub tehnoloogiaettevõtetel üle maailma tagada, et CSAM oleks vastuolus nende kasutustingimustega. Samuti soovib see õiguskaitseasutustele paremat koolitust, et nad saaksid seda tüüpi pilte hõlpsamini tuvastada.

Samuti palub IWF Briti valitsusel muuta AI CSAM järgmisel kuul Bletchley Parkis toimuval tehisintellekti tippkohtumisel peamiseks aruteluteemaks.

Ühendkuningriik loodab üritusele meelitada nii ärimaailma võtmeisikuid kui ka maailma liidreid. Seni on Itaalia peaminister Giorgia Meloni ainus G7 kinnitatud liider, kes eeldatavasti osaleb.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/