China introducirá leyes para abordar los deepfakes en enero PlatoBlockchain Data Intelligence. Búsqueda vertical. Ai.

China introducirá leyes para abordar las falsificaciones profundas en enero

Marca de tiempo: 24 de diciembre de 2022 5:45 a.m.

Si has estado en las redes sociales esta semana, probablemente te hayas encontrado con fotos de imágenes generadas por IA de tus amigos como hadas, personajes de anime, avatares y seres mágicos.

Esto se debe en parte a Lensa, una IA que sintetiza retratos digitales basados ​​en las fotos que suben los usuarios. Los retratos de la aplicación prácticamente se apoderaron de Internet, y Lensa se convirtió en la aplicación más descargada en la tienda de aplicaciones de Apple.

Lensa, como todas las aplicaciones de inteligencia artificial que representan imágenes digitalmente, ha provocado tanto admiración como controversia por su sexualización aparentemente flagrante de las imágenes femeninas. Otros usuarios notaron que la aplicación hizo que su piel se volviera más pálida o sus cuerpos más delgados.

Lea también: Tecnología de inteligencia artificial que crea imágenes falsas profundas que arruinan la vida

Cómo conseguir tu propio 'avatar mágico'

Las imágenes que circulan son una orgullosa creación de la función de avatares mágicos de Lensa. Para tener una idea, hay que descargar la aplicación Lensa en un teléfono. Una suscripción anual cuesta alrededor de $ 35.99, pero sus servicios también están disponibles, aunque con limitaciones, de forma gratuita en una prueba de una semana si uno quiere comprobarlo primero.

Sin embargo, generar los populares avatares mágicos requiere una tarifa adicional debido a lo que la aplicación dice que es un "tremendo poder computacional" para lograr.

En una prueba gratuita, se pueden obtener 50 avatares por $3.99 y 200 avatares por $7.99. Para obtener los mejores resultados, la aplicación anima a los usuarios a cargar al menos 20 imágenes de cerca.

Idealmente, estas imágenes deberían ser primeros planos de la cara con una variedad de fondos, expresiones faciales y ángulos diferentes. La aplicación insiste en que los usuarios deben tener 13 años o más. Lensa no es una aplicación completamente nueva.

Un producto de Prisma, la aplicación se hizo popular por primera vez en 2016 gracias a una función que permitía a los usuarios transformar sus selfies en fotos al estilo de artistas famosos.

¿Cómo funciona Lensa?

Según la compañía, utiliza lo que llama "tecnología API TrueDepth", donde un usuario proporciona fotos o "datos faciales", luego la IA se entrena en sus algoritmos para funcionar mejor y mostrarle mejores resultados. El entrenamiento es cuando la IA procesa datos, valida y prueba los modelos.

Para usar la aplicación, uno puede seleccionar 20 selfies con una variedad de expresiones y ángulos y elegir la opción de 100 avatares.

Se tarda unos 20 minutos en hacer el trabajo. Una vez hecho esto, la IA devuelve avatares que se dividen en 10 categorías, como fantasía, hada princesa, enfoque, pop, elegante, animé, ligero, kawaii, iridiscente y cósmico.

“En general, sentí que la aplicación hizo un trabajo decente al producir imágenes artísticas basadas en mis selfies. No podía reconocerme en la mayoría de los retratos, pero podía ver de dónde venían”, Zoe Sotile de CNN escribió.

“Parecía reconocer y repetir ciertas características, como mi piel pálida o mi nariz redonda, más que otras. Algunas de ellas tenían un estilo más realista y estaban lo suficientemente cerca como para pensar que en realidad eran fotos mías si las viera desde lejos. Otros eran significativamente más estilizados y artísticos, por lo que me parecían menos específicos”.

Sottile notó que la IA también la hacía más ligera.

En cuanto a mí, también sentí que automáticamente me hacía más claro y la imagen que probé en mi galería de mí y un amigo que tiene la piel ligeramente más oscura devolvió una versión mucho más clara de nosotros, claramente una exageración, y expuso una inclinación a aclarar tonos de piel negros.

Sexualizando a las mujeres

Otros que lo usaron tenían preocupaciones más o menos similares.

Las mujeres dicen que la IA es rápida para sexualizar sus imágenes. Pero en un artículo anterior, explicado esto ha sido posible gracias a la gran cantidad de imágenes sexualizadas que se encuentran en los conjuntos de datos utilizados en el entrenamiento de IA.

En otras palabras, esto significa que la IA está muy familiarizada con la forma de generar esas imágenes y volverse pornográficas fácilmente. Con un poco de engaño, se le puede solicitar que, sin darse cuenta, también produzca pornografía a partir de esas imágenes si el usuario lo desea.

En otras historias, hemos cubierto cómo se puede engañar a las IA para que brinden información sobre cómo hacer una bomba por ejemplo. Extrañamente, el tema de la sexualización no apareció en las imágenes de hombres cargadas en la función Magic Avatar. Para MIT Technology Review, Melissa Heikkilä escribí,

“Mis avatares fueron pornográficos caricaturescos, mientras que mis colegas masculinos se convirtieron en astronautas, exploradores e inventores”.

Sottile, por otro lado, notó que la IA “en una de las imágenes más desorientadoras” la hizo ver “como una versión de mi cara en un cuerpo desnudo”.

“En varias fotos, parecía que estaba desnuda pero con una manta colocada estratégicamente, o la imagen simplemente cortada para ocultar algo explícito”, dijo.

“Y muchas de las imágenes, incluso cuando estaba completamente vestida, mostraban una expresión facial sensual, un escote significativo y ropa diminuta que no coincidía con las fotos que había enviado”, agrega Zoe Sottile.

Otros expresaron su temor de que la tecnología de inteligencia artificial los convirtiera en estrellas porno como Lensa.

Vergüenza del cuerpo

Para las mujeres de cuerpo completo, la experiencia fue algo diferente e incluso peor en algunos casos. La IA los hizo más delgados y sexys.

“Para Lmfao, si tienes Body Dysmorphia, no uses la aplicación Lensa para las fotos generadas por IA. Esta es su advertencia”, un usuario escribí.

Otro dijo que la aplicación la había hecho parecer asiática.

Otro usuario recurrió a Twitter para quejarse de que había pagado $ 8 para experimentar dismorfia corporal cuando usaba la IA.

La dismorfia corporal es una afección de salud mental en la que una persona pasa mucho tiempo preocupándose por los defectos de su apariencia. Estos defectos a menudo son imperceptibles para los demás.

Otro se quejó de que la IA se deshizo automáticamente de un peso significativo en sus imágenes de figura completa.

“Una queja que tengo sobre Lensa AI es que te hará flaco en algunas imágenes. Como persona gorda, esas imágenes realmente me molestaban. Así que ten cuidado de no dispararte si eres un tipo gordo sin interés en volverte flaco”, escribió Mariah Success (@Shlatz) el 5 de diciembre de 2022.

bomba de tiempo psicologica

Y los psicólogos están de acuerdo con sus afirmaciones de que la IA podría desencadenar mujeres con figuras completas.

Un psicólogo clínico, el Dr. Toni Pikoos, un profesional de la salud mental con sede en Australia, que investiga y se especializa en el tratamiento del trastorno dismórfico corporal, creía que la aplicación podría hacer más daño que bien y no es más que una "herramienta de filtrado de fotos" para alterar la autopercepción.

“Cuando hay una gran discrepancia entre la apariencia ideal y la percibida, puede alimentar la insatisfacción corporal, la angustia y el deseo de arreglar o cambiar la apariencia con medios potencialmente insalubres o inseguros”, como trastornos alimentarios o procedimientos cosméticos innecesarios, dice Pikoos.

Expresó su preocupación de que las imágenes borraran "detalles intrincados" como "pecas y líneas", algo que podría aumentar las preocupaciones sobre la piel. Esto también podría desencadenar psicológicamente a una persona vulnerable, dice ella.

“Ver una imagen externa que refleja su inseguridad solo refuerza la idea '¡Mira, esto está mal conmigo! ¡Y no soy el único que puede verlo!”, dice Pikoos.

Debido al hecho de que la IA presenta sus propias características que no representan la apariencia de la vida real del usuario, la aplicación podría crear nuevas ansiedades, dice.

Ella dice que los "avatares mágicos" de la IA eran "particularmente interesantes porque parecen más objetivos, como si un ser externo que todo lo sabe hubiera generado esta imagen de cómo te ves".

Ella siente que esto podría ser realmente "útil" para las personas con trastorno dismórfico corporal y ayudar a arrojar luz sobre una "desigualdad" entre la "visión negativa que un individuo tiene de sí mismo y cómo lo ven los demás".

Sin embargo, señaló que la IA no era objetiva debido a su intento de representar una versión impecable y más "mejorada y perfeccionada" de la cara.

Por ejemplo, alguien que experimenta el trastorno dismórfico corporal, o BDD, "puede experimentar un breve impulso de confianza cuando ve su imagen y quiere compartir esta versión de sí mismo con el mundo", dice, pero se verá muy afectado por la realidad cuando no pantalla, sin filtro, en el espejo o en una foto que se toman a sí mismos”.

defendiendo lo suyo

Andrey Usoltsev, director ejecutivo de Prisma Labs, dice que su empresa actualmente está "abrumada" con consultas sobre Lensa y ofreció un enlace a una página de preguntas frecuentes que aborda consultas sobre imágenes sexualizadas, aunque no el tipo de reacciones de los usuarios que describe Pikoos.

“Ver esto reflejado en la aplicación sería muy confrontador y proporcionaría una especie de 'confirmación' de la forma en que se ven a sí mismos”, lo que los llevaría a “atrincherarse más en el trastorno”.

Difusión estable

Lensa también usa Stable Diffusion, que usa síntesis de aprendizaje profundo que puede crear nuevas imágenes a partir de descripciones de texto y puede ejecutarse en una PC con Windows o Linux, en una Mac o en la nube en hardware de computadora alquilado.

Con la ayuda de un aprendizaje intensivo, la red neuronal de Stable Diffusion ha dominado la asociación de palabras y la asociación estadística general entre las posiciones de los píxeles en las imágenes.

Cubrimos en otro historia cómo la tecnología podría tener consecuencias devastadoras para la vida al representar y mostrar imágenes de personas que parecen ser delincuentes o que están involucradas en prácticas menos que halagadoras, como el robo.

Por ejemplo, se le puede dar un aviso a Stable Diffusion de código abierto, como "Tom Hanks en un salón de clases", y le dará una nueva imagen de Tom Hanks en un salón de clases. En el caso de Tom Hank, es pan comido porque cientos de sus fotos ya están en el conjunto de datos que se usa para entrenar Stable Diffusion.

Los artistas también reciben un trato injusto

En el frente del arte, algunos artistas no están contentos.

Les preocupa que la IA pueda amenazar su sustento. Esto se debe a que los artistas, incluidos los digitales, tampoco pueden producir un retrato digital tan rápido como la IA.

La empresa matriz de Lensa, Prisma, ha intentado masajear las preocupaciones sobre su tecnología que elimina el trabajo de los artistas digitales.

“Si bien tanto los humanos como la IA aprenden sobre estilos artísticos de formas casi similares, existen algunas diferencias fundamentales: la IA es capaz de analizar y aprender rápidamente de grandes conjuntos de datos, pero no tiene el mismo nivel de atención y aprecio por el arte. como ser humano," escribí la compañía en Twitter el 6 de diciembre.

Dice que "las salidas no pueden describirse como réplicas exactas de ninguna obra de arte en particular".

Alteración de la imagen propia

Kerry Bowman, bioeticista de la Universidad de Toronto, dice que la IA tiene el potencial de afectar negativamente la imagen de uno mismo, entre otras cuestiones éticas.

“De alguna manera, puede ser muy divertido, pero estas imágenes idealizadas están impulsadas por expectativas sociales que pueden ser muy crueles y muy limitadas”, dijo Bowman el lunes.

Bowman dijo que estos programas de inteligencia artificial utilizan fuentes de conjuntos de datos como Internet en busca de diferentes estilos artísticos para crear estos retratos. La desventaja es que cuando AI hace eso, los artistas rara vez son remunerados financieramente por el uso de su trabajo o acreditados.

“Lo que sucede con la IA emergente es que las leyes no han podido realmente mantenerse al día con esto en términos de la ley de derechos de autor. Es muy difícil y muy turbio, y la ética está aún más por detrás de las leyes porque diría que esto es fundamentalmente injusto”, dijo Bowman.

Inquietudes sobre datos personales

Bowman también expresó su preocupación sobre cómo se almacenan los datos personales de las personas.

“¿Realmente quieres tu cara en una gran base de datos? Las personas deben decidir por sí mismas sobre esto, pero no es benigno, no hay nada en esto, no es solo diversión”, dijo.

Lensa dice que las fotos se guardan en servidores y aplicaciones por no más de 24 horas. Con algoritmos de aprendizaje profundo y aprendizaje automático, la IA recopila y luego ofrece mejores resultados en el futuro, también en función de los datos eliminados. Esto, dice Bowman, generará preocupaciones de seguridad sobre el uso potencial del reconocimiento facial, ya que la policía podría usar este tipo de datos ilegalmente.

Sello de tiempo:

Mas de MetaNoticias