L'IWF exige une action contre les pédophiles utilisant l'IA générative

L'IWF exige une action contre les pédophiles utilisant l'IA générative

Horodatage: 26 octobre 2023 1h55

L’Internet Watch Foundation prévient que l’IA générative menace de permettre la « génération d’images à grande échelle », ce qui « submergerait ceux qui luttent contre les abus sexuels sur enfants en ligne ».

L’organisme est alarmé par les progrès rapides de l’IA générative au cours de l’année écoulée et prédit que les contenus pédopornographiques (CSAM) générés par l’IA ne feront que devenir plus explicites au fil du temps.

Le crime le plus inquiétant

L'Internet Watch Foundation affirme que la génération AI recèle un grand potentiel pour améliorer nos vies, mais prévient que la technologie peut facilement être utilisée à des fins malveillantes.

Susie Hargreaves, directrice générale de l'IWF, a déclaré au Guardian le Mercredi que « les pires cauchemars de l’agence sont devenus réalité ».

« Plus tôt cette année, nous avons averti que les images de l’IA pourraient bientôt devenir impossibles à distinguer des images réelles d’enfants victimes d’abus sexuels, et que nous pourrions commencer à voir ces images proliférer en nombre beaucoup plus grand. Nous avons désormais dépassé ce point », a déclaré Hargreaves.

Elle a ajouté : « Ce qui est effrayant, c'est que nous voyons des criminels entraîner délibérément leur IA sur des images de vraies victimes qui ont déjà subi des abus. Les enfants qui ont été violés dans le passé sont désormais intégrés dans de nouveaux scénarios parce que quelqu’un, quelque part, veut le voir. »

L’ampleur du problème pose déjà des problèmes majeurs à ceux qui luttent contre le CSAM.

En un mois, 20,254 2,562 images générées par l’IA ont été publiées sur un forum CSAM du dark web. Les analystes de l’IWF ont identifié XNUMX XNUMX pseudo-photographies criminelles, créées à l’aide de l’IA générative.

Plus de la moitié d’entre elles montraient des enfants de moins de 10 ans, tandis que 564 étaient classées dans la catégorie A – la forme la plus grave d’images de maltraitance d’enfants.

L'IWF exige une action contre les pédophiles à l'aide de l'IA générative PlatoBlockchain Data Intelligence. Recherche verticale. Aï.L'IWF exige une action contre les pédophiles à l'aide de l'IA générative PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

Photos CSAM de célébrités

L'IA générative crée de nouvelles catégories de CSAM. Les résultats de l’IWF montrent que les célébrités vieillissent et se transforment en enfants grâce aux outils d’IA.

Les célébrités vieillissantes sont ensuite placées dans des scénarios abusifs pour la satisfaction des pédophiles en ligne.

Les enfants des célébrités sont également visés, les « nudifiant » pour les utilisateurs des forums du darknet.

L’IWF affirme que ces images sont de plus en plus difficiles à distinguer des véritables CSAM.

« Le CSAM IA le plus convaincant est visuellement impossible à distinguer du vrai CSAM, même pour les analystes IWF qualifiés. La technologie de conversion texte-image ne fera que s'améliorer et posera davantage de défis à l'IWF et aux forces de l'ordre », lit-on dans le rapport. rapport.

Recommandations du gouvernement

L'IWF, qui est basée dans le Royaume-Uni, demande aux entreprises technologiques du monde entier de s’assurer que le CSAM est contraire à leurs conditions d’utilisation. Il souhaite également une meilleure formation des forces de l’ordre afin qu’elles puissent identifier plus facilement ce type d’images.

L’IWF demande également au gouvernement britannique de faire de l’IA CSAM un sujet de discussion majeur lors du prochain sommet sur l’IA à Bletchley Park le mois prochain.

Le Royaume-Uni espère attirer à l'événement des acteurs clés du monde des affaires ainsi que des dirigeants mondiaux. Jusqu'à présent, la Première ministre italienne Giorgia Meloni est la seule dirigeante confirmée du G7 attendue.

Horodatage:

Plus de MétaActualités