La herramienta de la Universidad de Chicago protege el arte digital del scraping de IA

En una iniciativa para empoderar a los artistas y proteger sus obras de arte digitales del uso no autorizado, investigadores de la Universidad de Chicago han presentado 'Nightshade', una herramienta diseñada para 'envenenar' el arte digital.

Al alterar sutilmente los píxeles de las obras de arte antes de cargarlas en línea, Nightshade garantiza que cualquier intento de Modelos AI raspar y entrenar sobre estas imágenes dará como resultado resultados caóticos e impredecibles, rompiendo efectivamente los modelos.

Esta herramienta surge en respuesta a las crecientes preocupaciones y desafíos legales que enfrentan los gigantes de la IA como OpenAI, Meta y Google mientras los artistas de todo el mundo claman por el respeto de sus derechos de autor y propiedad intelectual.

Artistas, ¡la mejor herramienta que podríamos haber pedido para luchar contra esta explotación sin precedentes de nuestro trabajo está aquí!

Viniendo de los creadores de @ElProyectoGlaze, Nightshade nos permite envenenar conjuntos de datos, dañar modelos y enseñar a las empresas de inteligencia artificial a pedir permiso primero.https://t.co/WurjNDpvsl pic.twitter.com/iEP3TJBhVh

- Katria (@katriaraden) 23 de Octubre de 2023

Según personas familiarizadas con el asunto, Nightshade no solo promete restablecer el equilibrio de poder para los creadores, sino que también es un testimonio de las formas innovadoras en las que la comunidad artística está contraatacando.

Nightshade: una lucha por los derechos de los artistas

Desarrollado bajo el liderazgo de Ben Zhao, un distinguido profesor de la Universidad de Chicago, Nightshade es un testimonio de la resiliencia y la innovación de la comunidad artística. La herramienta introduce cambios invisibles en los píxeles de las obras de arte, volviéndolos tóxicos para los modelos de IA si se usan sin permiso.

Cuando estas imágenes "envenenadas" se incorporan a un conjunto de datos de entrenamiento, provocan importantes fallos de funcionamiento en las salidas de la IA, convirtiendo a los perros en gatos, a los coches en vacas y creando una miríada de resultados caóticos. Tecnología del MIT Revisar, que recibió una vista previa exclusiva de la investigación en curso, destacó el potencial de Nightshade para dañar futuras iteraciones de destacados modelos de IA que generan imágenes como DALL-E, Midjourney y Stable Diffusion.

Un elemento disuasivo contra las infracciones

Nightshade no se trata sólo de sabotear los modelos de IA; es un poderoso elemento disuasivo destinado a inclinar el equilibrio de poder a favor de los artistas. Con numerosos artistas presentando demandas contra las principales corporaciones tecnológicas por eliminar su material protegido por derechos de autor sin consentimiento, Nightshade emerge como un rayo de esperanza.

Al hacer que la herramienta sea de código abierto e integrarla con otra herramienta llamada Glaze, que enmascara el estilo de un artista a partir de raspadores de IA, los investigadores ofrecen a los artistas una opción. Ahora pueden participar activamente en la protección de su trabajo y al mismo tiempo contribuir a un creciente arsenal de mecanismos de defensa contra el entrenamiento no autorizado de IA.

Un llamado a defensas sólidas

Sin embargo, la innovación no está exenta de desafíos y riesgos potenciales. Según MIT Technology Review, la introducción de Nightshade en la esfera del arte digital resalta una importante vulnerabilidad de seguridad en los modelos generativos de IA debido a su dependencia de extensos conjuntos de datos extraídos de Internet. Nightshade explota esto "envenenando" estos conjuntos de datos.

Este método ha demostrado eficacia en pruebas realizadas en Difusión estable últimos modelos y un modelo de IA entrenado desde cero por los investigadores.

Los resultados fueron claros; con solo 50 imágenes de perros envenenados, la producción de Stable Diffusion comenzó a distorsionarse, convirtiendo las imágenes de perros en extrañas criaturas caricaturescas. Sin embargo, Zhao reconoce el potencial de uso malicioso del envenenamiento de datos y enfatiza la necesidad de desarrollar defensas sólidas contra tales ataques.

Un paso hacia la justicia

Según los expertos, el desarrollo de Nightshade y Glaze es un paso hacia el empoderamiento de los artistas en la era digital, proporcionándoles herramientas para proteger su trabajo y desafiando el status quo de las empresas de IA.

Políticas de exclusión voluntaria ofrecidas por Desarrolladores de IA han sido criticados por imponer cargas indebidas a los artistas y dejar a las empresas con un poder desequilibrado. Nightshade desafía esto, ofreciendo a los artistas un medio proactivo para proteger su trabajo y exigir respeto por sus derechos.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://metanews.com/university-of-chicago-tool-to-protect-digital-art-from-ai-scraping/