A Rendőrlaboratórium azt szeretné, ha boldog gyermekkori képeiből megtanítaná az AI-t a gyermekbántalmazás észlelésére

korszerűsített Az ausztrál szövetségi rendőrség és a Monash Egyetem arra kéri a netezőket, hogy küldjenek felvételeket fiatalabb énjükről, hogy kioktassanak egy gépi tanulási algoritmust, amellyel a fényképeken észlelhetik a gyermekbántalmazást.

A kutatók 17 éves és fiatalabb személyekről szeretnének képeket gyűjteni biztonságos forgatókönyvek szerint; nem akarnak meztelenséget, még akkor sem, ha ez egy viszonylag ártalmatlan kép, mint egy fürdõ gyerek. A crowdsourcing kampány, szinkron A képeim számítanak, 18 éven felüliek számára nyitva áll, akik hozzájárulhatnak ahhoz, hogy fényképeiket kutatási célokra használják fel.

Az összes képet a Monash akadémikusai által kezelt adathalmazba gyűjtik, hogy megkíséreljenek egy mesterséges intelligencia-modellt megtanítani, hogy különbséget tegyen egy kiskorú normál környezetben és egy kizsákmányoló, nem biztonságos helyzet között. A szoftver elméletileg segíthet a bűnüldöző szerveknek, hogy jobban automatikusan és gyorsan azonosítsák a gyermekek szexuális zaklatásával kapcsolatos anyagokat (más néven CSAM) a több ezer és ezer vizsgálat alatt álló fénykép között, elkerülve, hogy emberi elemzők minden egyes pillanatot megvizsgáljanak.

Ennek a szörnyű anyagnak az áttekintése lassú folyamat lehet

Az ausztrál szövetségi rendőrség vezető beosztású rendőre, Janis Dalins azt mondta, hogy a létrejövő mesterséges intelligencia potenciálisan segíthet azonosítani az áldozatokat és megjelölni a tisztek előtt korábban nem ismert jogellenes anyagokat.

„2021-ben az AFP által vezetett ausztrál Gyermekkizsákmányolás Elleni Központ több mint 33,000 XNUMX bejelentést kapott online gyermekkizsákmányolásról, és mindegyik jelentés nagy mennyiségű képet és videót tartalmazhat szexuális zaklatás vagy bűnelkövetők kizsákmányolása céljából kizsákmányolt gyermekekről” mondott ezen a héten.

Dalins társigazgatója az AiLECS Labnak is, amely a Monash's Informatikai Kar akadémikusai és a My Pictures Matter projektet működtető AFP kutatási együttműködése.

"Ennek a szörnyű anyagnak az áttekintése lassú folyamat lehet, és a folyamatos leleplezés jelentős pszichés zavart okozhat a nyomozóknak" - tette hozzá. „Az AiLECS Lab kezdeményezései támogatni fogják a rendőröket és a gyerekeket, akiket meg akarunk védeni; és a kutatók egy innovatív módot találtak ki az ilyen kezdeményezések mögött meghúzódó technológia etikus fejlesztésére.”

A legegyszerűbb módja annak, hogy nagy adathalmazt állítsunk össze a nyílt internetről. De ahogy néhány legújabb mesterséges intelligencia modell – például az OpenAI DALL E 2 és a Google Kép – kimutatták, ezeknek az adatoknak a minősége nehezen ellenőrizhető. Az elfogult vagy nem megfelelő képek bekerülhetnek az adatkészletbe, ami problémássá és potenciálisan kevésbé hatékonyvá teszi a modelleket.

Ehelyett az AiLECS csapata úgy véli, hogy a crowdsourcing kampányuk egyszerűbb és etikusabb módot kínál a gyerekekről készült fényképek gyűjtésére. „A kizsákmányoló képeket azonosítani képes mesterséges intelligencia fejlesztéséhez nagyon sok gyerekfotóra van szükségünk mindennapi „biztonságos” környezetben, amelyek képesek a gyermekek kizsákmányolása elleni küzdelemre szánt mesterséges intelligencia modellek képzésére és értékelésére” – mondta Campbell Wilson, az AiLECS társigazgatója. – mondta a Monash Egyetem docense.

Felnőttektől, tájékozott beleegyezésen alapuló fényképek beszerzésével olyan technológiákat próbálunk kiépíteni, amelyek etikailag elszámoltathatóak és átláthatóak.

„De ezeknek a képeknek az internetről való beszerzése problémás, ha nem lehet tudni, hogy a képeken szereplő gyerekek valóban hozzájárultak-e fényképeik feltöltéséhez vagy kutatáshoz való felhasználásához. Felnőttektől, tájékozott beleegyezésen alapuló fényképek beszerzésével olyan technológiákat próbálunk kiépíteni, amelyek etikailag elszámoltathatóak és átláthatóak.”

Az embereknek csak a személyes fényképeiket és egy e-mail címüket kell elküldeniük a kampány részeként. Nina Lewis, a projekt vezetője és kutató munkatársa a laborban azt mondta, hogy nem naplóz más típusú személyes adatokat. Az e-mail címeket külön adatbázisban tároljuk majd, úgy tudjuk. 

"A képek és a kapcsolódó adatok nem tartalmaznak semmilyen azonosító információt, ami biztosítja, hogy a kutatók által használt képek ne fedjenek fel semmilyen személyes információt az ábrázolt emberekről" - mondta. A résztvevők a projekt minden szakaszában frissítéseket kapnak, és ha akarják, kérhetik képeik eltávolítását az adatkészletből.

A projekt nemes céljai technikailag nem lehetetlenek, és rendkívül ambiciózusak, így alig várjuk az eredményeket, tekintettel a képfelismerő rendszerek előtt álló kihívásokra, mint pl. előítélet és a ellenséges támadások többek közt korlátozások.

A regisztráció további részleteket kért a Monash Egyetemtől. ®

Június 6-án frissítve

Monash doktora, Lewis felvette a kapcsolatot néhány további részlettel. Elmondta nekünk, hogy a cél egy 100,000 XNUMX egyedi képből álló adatkészlet összeállítása az AI-modell betanításához.

„A fényképeket oktatási és tesztelési adatokként használjuk fel olyan új és meglévő algoritmusokhoz, amelyek azonosítják és osztályozzák a gyermekekről készült „biztonságos” képeket” – tette hozzá. „Azt is kutatjuk majd, hogyan lehet ezeket a technológiákat alkalmazni annak értékelésére, hogy a digitális fájlok tartalmaznak-e „nem biztonságos” képeket a gyerekekről.

„A My Pictures Matter projekt nem képez mesterséges intelligenciát a nem biztonságos helyzetekben lévő gyermekek képeire. Az ellenkező forgatókönyvet vizsgáljuk: hogyan hozhatunk létre etikus forrásból származó és beleegyező adatkészleteket a gépi tanuláshoz, hogy segítsünk kezelni a gyermekbántalmazásról készült, online platformokon keresztül generált és terjesztett képek növekvő mennyiségét.

A gépi tanulási rendszerek képességével kapcsolatos aggodalmakra válaszolva Dr. Lewis hozzátette: „Tisztában vagyunk azzal, hogy az automatizált eszközöknek többnek kell lenniük, mint tompa eszközöknek, és hogy például a bőrtónus nagy arányú jelenléte. egy vizuális kép önmagában nem utal visszaélésre.”

Azok számára, akik aggódnak az adatok adatvédelmi biztosítékai miatt, Dr. Lewis a mypicturesmatter.org „adatkezelés” szakaszára mutatott rá, miután rákattintott a „Menjünk” elemre, amely kimondja:

Azt is hangsúlyozta, hogy a projekthez gyűjtött képeket az egyetem fogja őrizni és felhasználni, nem pedig közvetlenül a zsaruk.

"Ez nem egy rendőrségi adatkészlet, és nem az AFP fogja tárolni vagy kezelni" - mondta Dr. Lewis. "Ezt a kutatást a Monash Egyetem végzi, hivatalos humánkutatási etikai engedéllyel az adatok gyűjtésére, felhasználására és kezelésére vonatkozóan."