IWF fordert Maßnahmen gegen Pädophile, die generative KI nutzen

Die Internet Watch Foundation warnt davor, dass generative KI die „Generierung von Bildern in großem Maßstab“ zu ermöglichen droht, die „diejenigen überfordern wird, die sich für die Bekämpfung des sexuellen Missbrauchs von Kindern im Internet einsetzen“.

Das Gremium ist beunruhigt über die rasanten Fortschritte der generativen KI im vergangenen Jahr und geht davon aus, dass KI-generiertes Material über sexuellen Missbrauch von Kindern (CSAM) mit der Zeit immer anschaulicher werden wird.

Das beunruhigendste aller Verbrechen

Die Internet Watch Foundation sagt, dass dies generativ ist AI birgt großes Potenzial zur Verbesserung unseres Lebens, warnt jedoch davor, dass die Technologie leicht für böswillige Zwecke missbraucht werden kann.

Susie Hargreaves, Geschäftsführerin der IWF, sagte dem Guardian am Wednesday dass die „schlimmsten Albträume der Agentur wahr geworden sind“.

„Anfang dieses Jahres haben wir gewarnt, dass KI-Bilder bald nicht mehr von echten Bildern von Kindern zu unterscheiden sein könnten, die sexuellen Missbrauch erleiden, und dass wir eine viel größere Verbreitung dieser Bilder beobachten könnten. Diesen Punkt haben wir nun überschritten“, sagte Hargreaves.

Sie fügte hinzu: „Erschreckenderweise sehen wir, wie Kriminelle ihre KI bewusst auf Bilder echter Opfer trainieren, die bereits Opfer von Missbrauch geworden sind.“ Kinder, die in der Vergangenheit vergewaltigt wurden, werden jetzt in neue Szenarien einbezogen, weil irgendjemand irgendwo das sehen will.“

Das Ausmaß des Problems bereitet denjenigen, die gegen CSAM kämpfen, bereits große Probleme.

In einem Monat wurden 20,254 KI-generierte Bilder in einem Dark-Web-CSAM-Forum gepostet. IWF-Analysten identifizierten 2,562 kriminelle Pseudofotos, die mithilfe generativer KI erstellt wurden.

Mehr als die Hälfte davon zeigte Kinder unter 10 Jahren, während 564 Bilder der Kategorie A zugeordnet wurden – der schwersten Form von Kindesmissbrauchsbildern.

Promi-CSAM-Fotos

Generative KI schafft neue Kategorien von CSAM. Ergebnisse des IWF zeigen, dass Prominente mithilfe von KI-Tools gealtert und in Kinder verwandelt werden.

Die entalterten Prominenten werden dann zur Befriedigung von Online-Pädophilen in Missbrauchsszenarien versetzt.

Auch die Kinder von Prominenten werden ins Visier genommen, indem die Jugendlichen für Nutzer in Darknet-Foren „nackiert“ werden.

Das IWF sagt, dass es immer schwieriger wird, diese Bilder von echten CSAM zu unterscheiden.

„Das überzeugendste KI-CSAM ist optisch nicht von echtem CSAM zu unterscheiden, selbst für geschulte IWF-Analysten. Die Text-zu-Bild-Technologie wird nur noch besser werden und das IWF und die Strafverfolgungsbehörden vor noch größere Herausforderungen stellen“, heißt es in der Mitteilung berichten.

Empfehlungen der Regierung

Das IWF mit Sitz in der Vereinigtes Königreich, fordert Technologieunternehmen aus der ganzen Welt auf, sicherzustellen, dass CSAM gegen ihre Nutzungsbedingungen verstößt. Außerdem wird eine bessere Schulung der Strafverfolgungsbehörden gefordert, damit diese diese Art von Bildern leichter identifizieren können.

Die IWF bittet die britische Regierung außerdem, AI CSAM zu einem wichtigen Diskussionsthema auf dem bevorstehenden AI Summit im nächsten Monat in Bletchley Park zu machen.

Das Vereinigte Königreich hofft, wichtige Akteure aus der Geschäftswelt sowie führende Persönlichkeiten der Welt für die Veranstaltung zu gewinnen. Bisher ist die italienische Ministerpräsidentin Giorgia Meloni die einzige bestätigte G7-Chefin, deren Teilnahme erwartet wird.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/