La IWF exige medidas contra los pedófilos que utilizan la IA generativa

La Internet Watch Foundation advierte que la IA generativa amenaza con permitir la “generación de imágenes a escala”, que “abrumará a quienes trabajan para luchar contra el abuso sexual infantil en línea”.

El organismo está alarmado por el rápido progreso de la IA generativa a lo largo del año pasado y predice que el material de abuso sexual infantil (CSAM) generado por IA solo se volverá más gráfico con el tiempo.

El más perturbador de los crímenes

La Internet Watch Foundation dice que la generación AI tiene un gran potencial para mejorar nuestras vidas, pero advierte que la tecnología puede utilizarse fácilmente con fines malévolos.

Susie Hargreaves, directora ejecutiva de la IWF, dijo a The Guardian en Miércoles que las “peores pesadillas de la agencia se han hecho realidad”.

“A principios de este año, advertimos que las imágenes de IA pronto podrían volverse indistinguibles de imágenes reales de niños que sufren abuso sexual, y que podríamos comenzar a ver estas imágenes proliferando en cantidades mucho mayores. Ya hemos superado ese punto”, dijo Hargreaves.

Y añadió: “Es escalofriante ver cómo los delincuentes entrenan deliberadamente su IA con imágenes de víctimas reales que ya han sufrido abusos. Los niños que han sido violados en el pasado ahora están siendo incorporados a nuevos escenarios porque alguien, en algún lugar, quiere verlo”.

La magnitud del problema ya está causando grandes problemas a quienes luchan contra el CSAM.

En un mes, se publicaron 20,254 imágenes generadas por IA en un foro CSAM de la web oscura. Los analistas de la IWF identificaron 2,562 pseudofotografías criminales, creadas con la ayuda de IA generativa.

Más de la mitad de ellas mostraban a niños menores de 10 años, mientras que 564 estaban clasificadas como imágenes de categoría A, la forma más grave de imágenes de abuso infantil.

Fotos CSAM de celebridades

La IA generativa está creando nuevas categorías de CSAM. Los hallazgos de la IWF muestran que las celebridades están envejeciendo y transformándose en niños con herramientas de inteligencia artificial.

Luego, las celebridades envejecidas son colocadas en escenarios abusivos para la gratificación de los pedófilos en línea.

Los hijos de celebridades también son el objetivo, “desnudando” a los jóvenes para los usuarios de los foros de la red oscura.

La IWF dice que estas imágenes son cada vez más difíciles de distinguir del CSAM real.

“El CSAM de IA más convincente es visualmente indistinguible del CSAM real, incluso para analistas capacitados de la IWF. La tecnología de conversión de texto a imagen solo mejorará y planteará más desafíos para la IWF y las agencias encargadas de hacer cumplir la ley”, se lee en el reporte.

Recomendaciones gubernamentales

La IWF, que tiene su sede en Reino Unido, está pidiendo a las empresas de tecnología de todo el mundo que se aseguren de que CSAM infrinja sus acuerdos de términos de uso. También quiere una mejor capacitación para las fuerzas del orden para que puedan identificar más fácilmente este tipo de imágenes.

La IWF también está pidiendo al gobierno británico que haga del AI CSAM un tema importante de discusión en la próxima Cumbre de AI en Bletchley Park el próximo mes.

El Reino Unido espera atraer al evento a actores clave del mundo empresarial, así como a líderes mundiales. Hasta el momento, la primera ministra italiana, Giorgia Meloni, es el único líder confirmado del G7 que se espera que asista.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/