IWF eist actie tegen pedofielen die generatieve AI gebruiken

De Internet Watch Foundation waarschuwt dat generatieve AI dreigt de ‘generatie van beelden op grote schaal’ mogelijk te maken, die ‘degenen die zich inzetten om online seksueel misbruik van kinderen te bestrijden, zal overweldigen’.

Het lichaam is verontrust over de snelle vooruitgang van generatieve AI in de loop van het afgelopen jaar en voorspelt dat door AI gegenereerd materiaal over seksueel misbruik van kinderen (CSAM) in de loop van de tijd alleen maar explicieter zal worden.

De meest verontrustende misdaad

De Internet Watch Foundation zegt dat generatief AI heeft een groot potentieel om ons leven te verbeteren, maar waarschuwt dat de technologie gemakkelijk voor kwaadaardige doeleinden kan worden gebruikt.

Susie Hargreaves, CEO van de IWF, vertelde de Guardian verder woensdag dat de “ergste nachtmerries van het bureau zijn uitgekomen.”

“Eerder dit jaar waarschuwden we ervoor dat AI-beelden binnenkort niet meer te onderscheiden zouden zijn van echte foto’s van kinderen die seksueel misbruikt worden, en dat we deze beelden in veel grotere aantallen zouden kunnen gaan zien verspreiden. Dat punt zijn we nu gepasseerd”, aldus Hargreaves.

Ze voegde eraan toe: “Het is huiveringwekkend dat we zien dat criminelen opzettelijk hun AI trainen op beelden van echte slachtoffers die al het slachtoffer zijn geworden van misbruik. Kinderen die in het verleden zijn verkracht, worden nu in nieuwe scenario’s opgenomen omdat iemand het ergens wil zien.”

De omvang van het probleem veroorzaakt nu al grote problemen voor degenen die strijden tegen CSAM.

In één maand tijd werden 20,254 door AI gegenereerde afbeeldingen op één CSAM-forum op het dark web geplaatst. IWF-analisten identificeerden 2,562 criminele pseudofoto’s, gemaakt met behulp van generatieve AI.

In ruim de helft hiervan waren kinderen onder de 10 jaar te zien, terwijl 564 afbeeldingen werden geclassificeerd als categorie A-afbeeldingen – de ernstigste vorm van afbeeldingen van kindermisbruik.

CSAM-foto's van beroemdheden

Generatieve AI creëert nieuwe categorieën van CSAM. Uit bevindingen van het IWF blijkt dat beroemdheden met behulp van AI-hulpmiddelen worden verouderd en getransformeerd in kinderen.

De verouderde beroemdheden worden vervolgens in misbruikscenario’s geplaatst ter bevrediging van online-pedofielen.

De kinderen van beroemdheden zijn ook het doelwit, waardoor de jongeren worden ‘naakt’ voor gebruikers op darknet-forums.

Het IWF zegt dat deze beelden steeds moeilijker te onderscheiden zijn van echte CSAM.

“De meest overtuigende AI CSAM is visueel niet te onderscheiden van echte CSAM, zelfs voor getrainde IWF-analisten. Tekst-naar-beeldtechnologie zal alleen maar beter worden en meer uitdagingen met zich meebrengen voor de IWF en wetshandhavingsinstanties”, luidt het verslag.

Aanbevelingen van de overheid

De IWF, gevestigd in de UK, vraagt ​​technologiebedrijven van over de hele wereld om ervoor te zorgen dat CSAM in strijd is met hun gebruiksvoorwaarden. Het wil ook betere training voor wetshandhavingsinstanties, zodat ze dit soort afbeeldingen gemakkelijker kunnen identificeren.

De IWF vraagt ​​de Britse regering ook om AI CSAM tot een belangrijk gespreksonderwerp te maken tijdens de komende AI Summit in Bletchley Park volgende maand.

Groot-Brittannië hoopt belangrijke spelers uit de zakenwereld en wereldleiders naar het evenement te lokken. Tot nu toe is de Italiaanse premier Giorgia Meloni de enige bevestigde leider van de G7 die naar verwachting aanwezig zal zijn.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/