Los intentos de evitar las barreras de seguridad de la IA son los culpables de los deepfakes de Swift

Las imágenes virales y lascivas de la estrella del pop Taylor Swift supuestamente surgieron de una competencia en línea en 4chan, desafiando a los concursantes a romper los filtros de contenido del software de inteligencia artificial. 

La gente de Graphika, una firma de análisis de redes sociales de Nueva York, rastreó las fotografías directamente hasta 4chan. Se pidió a las personas que idearan trucos para sortear las barreras de seguridad en aplicaciones como Designer de Microsoft o DALL-E de OpenAI para crear imágenes NSFW de celebridades femeninas. Las imágenes de Taylor Swift se crearon con Microsoft Designer y luego se compartieron en un chat grupal en Telegram, antes de publicarse en X, según Graphika.

"Seguimos investigando estas imágenes y hemos reforzado nuestros sistemas de seguridad existentes para evitar que nuestros servicios sean utilizados indebidamente para ayudar a generar imágenes como estas", dijo un portavoz de Microsoft. El registro en un comunicado. 

Imágenes falsas de rápido acumuló millones de visitas en X antes de que la plataforma de redes sociales las eliminara y bloqueara temporalmente algunos términos de búsqueda relacionados con el compositor. Graphika, sin embargo, dijo que la competencia estaba dirigida a otras figuras femeninas conocidas y advirtió que se podría abusar de la tecnología para apuntar a cualquiera. 

“Si bien las imágenes pornográficas virales de Taylor Swift han llamado la atención generalizada sobre el tema de las imágenes íntimas no consensuales generadas por IA, ella está lejos de ser la única víctima”, dijo Cristina López G., analista senior de Graphika, les dijo a Bloomberg. “En la comunidad de 4chan donde se originaron estas imágenes, ella ni siquiera es la figura pública más atacada. Esto demuestra que cualquiera puede ser blanco de este tipo de ataques, desde celebridades mundiales hasta escolares”.

Sin embargo, la naturaleza viral de las imágenes falsas que retratan a Swift en poses sexualmente sugerentes parece haber puesto a los legisladores en marcha. La secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, instó al Congreso a "tomar medidas legislativas" en respuesta a las imágenes "alarmantes". 

La semana pasada, los senadores estadounidenses presentaron la Ley de Interrupción de Imágenes Falsificadas Explícitas y Ediciones No Consensuales (DEFIANCE) de 2024, una proyecto de ley bipartidista eso permitiría a las víctimas demandar a las personas que crean y comparten deepfakes obscenos generados por IA. La legislación, encabezada por los senadores Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) y Josh Hawley (R-MO), señaló un estudio que afirmaba que el 96 por ciento de los videos deepfake eran pornográficos y habían sido creados sin el permiso o consentimiento de las mujeres que representaban. 

La ley DEFIANCE se lanzó en el momento en que los principales directores ejecutivos de plataformas de redes sociales fueron cuestionados en una reunión del Congreso. . sobre la explotación sexual de niños en línea y la falta de protección.

El registro ha pedido a Graphika más comentarios. ®

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://go.theregister.com/feed/www.theregister.com/2024/02/05/deepfakes_taylor_swift_4chan_competition/