Cómo detectar deepfakes de IA en las redes sociales

Cómo detectar deepfakes de IA en las redes sociales

Marca de tiempo: 4 de noviembre de 2023 2:59 a. M.
Cómo detectar deepfakes de IA en las redes sociales PlatoBlockchain Data Intelligence. Búsqueda vertical. Ai.

Un vídeo publicado en la plataforma de redes sociales china Weibo la semana pasada muestra a la estrella del pop estadounidense Taylor Swift hablando mandarín con fluidez. Sólo que no era el cantante de 33 años el que aparecía en el clip. Era un vídeo deepfake generado por una herramienta de inteligencia artificial de la startup china HeyGen.

Desde el 21 de octubre, cuando se publicó por primera vez el deepfake de Swift compartido, el vídeo ha obtenido más de seis millones de visitas. Pero también ha desencadenado un debate sobre los posibles obstáculos que surgen a medida que la IA avanza, lo que dificulta distinguir entre identidades o contenidos reales y falsos.

Los deepfakes (imágenes o vídeos realistas pero falsos utilizados para hacerse pasar por otra persona, incluida su voz) se pueden implementar para crear identidades digitales falsas, algo que los ciberdelincuentes podrían aprovechar para cometer fraude. Las imágenes y los videos se ven y hablan exactamente como la persona a la que se dirige.

En mayo, por ejemplo, un empresario chino perdió 4.3 millones de yuanes [$612,000] después de que un estafador usó IA de intercambio de rostros para hacerse pasar por su amigo. No hubo pérdida de dinero en el deepfake de Taylor Swift, pero esto es lo que debe tener en cuenta para evitar ser estafado en las redes sociales.

Verificar el respaldo de celebridades de IA

Los estafadores suelen utilizar deepfakes de IA de personas de confianza para atraer a sus víctimas. En los últimos meses, han surgido innumerables celebridades falsas de IA para engañar a las personas con respaldos falsos. Las versiones falsas de íconos como Elon Musk y Beyonce tienen como objetivo promover marcas falsas.

Aparentemente, muchos de los anuncios falsos ocupan un lugar más alto en los resultados de búsqueda de Google, probablemente porque la empresa no hace lo suficiente para filtrar el contenido fraudulento.

Sin embargo, en la era del contenido falso generado por IA, es crucial abordar los videos demasiado buenos para ser verdad con ojo crítico. Las afirmaciones extraordinarias requieren pruebas extraordinarias. Si encuentra videos virales que parecen sensacionales, tómese el tiempo para verificar su autenticidad y sus fuentes.

"Si desea asesoramiento sobre un producto o servicio, consulte reseñas o busque un experto que esté bien versado y pueda demostrarlo", dice el experto en tecnología de consumo y locutor de radio Kim Komando.

“Otro paso inteligente: busque en Google el producto y el actor del anuncio, junto con la palabra 'reseña'. Si a alguien le pagan por promocionar un producto, no hay un solo anuncio aleatorio flotando en las redes sociales”, añadió en un artículo. publicado por el New York Post.

Lea también: Taylor Swift, Emma Watson y otras personas son objeto del aumento de la pornografía con IA

Preste atención a los detalles

La tecnología deepfake es particularmente aterradora porque es muy realista. Herramientas de IA como Difusión estable Puede manipular voces y movimientos de la boca, lo que facilita que las personas crean que una grabación de video o audio es auténtica.

Recuerde la IA creada por Ghostwriter Canción de Drake y The Weeknd, ¿Qué engañó a millones de personas, incluidos los servicios de transmisión de música, haciéndoles pensar que se trataba de un nuevo lanzamiento? Para detectar un deepfake, Alex Kim, cofundador y director ejecutivo de Rice, aceleradora de comercio electrónico impulsada por inteligencia artificial, sugiere:

“Presta atención a cualquier inconsistencia inusual en el video que estás viendo. Los creadores de contenido que utilizan deepfakes generalmente intentan ahorrar tiempo, por lo que no invertirán tiempo en ajustar los detalles”, dijo Kim a MetaNews.

"Eso significa que cualquier expresión facial no coincidente, movimientos antinaturales, artefactos extraños, discrepancia de voz o sincronización de labios probablemente estarán presentes en un video deepfaked", dijo Kim, y agregó:

"Presta especial atención a los ojos, ya que los deepfakes son los que más luchan con ellos".

El caso del empresario chino es un recordatorio de que la tecnología deepfake es una herramienta poderosa que puede usarse para bien o para mal. Los reguladores han comenzado a prestar más atención a los peligros de la IA desde que OpenAI lanzó su chatbot viral ChatGPT en noviembre, lo que desató una carrera global de IA.

Como MetaNews anteriormente reportaron, los expertos sugieren desarrollar nuevas tecnologías que puedan detectar y prevenir el uso de identidades falsas. Esto podría incluir el uso de datos biométricos, como el reconocimiento facial o el escaneo de huellas dactilares, para verificar la identidad de los usuarios en línea.

Verifique el fondo en busca de pistas.

Mientras que algunas aplicaciones usan marcas de agua identificar contenido generado por IA, no es tan obvio con otros. Los usuarios tendrán que escanear el fondo de imágenes o vídeos para encontrar pistas sobre material deepfake de IA, según Alex Kim, el arroz.win CEO.

"Si el fondo se mueve de forma poco natural o la iluminación no coincide con las sombras del primer plano, probablemente se trate de un deepfake", dijo Kim. "Detalles como la textura de los materiales, o la falta de ella, son otros signos".

“Busque pixelación o borrosidad donde no debería haber ninguna, especialmente si ocurre en un sujeto humano. Los detalles naturales como las líneas del cabello, las orejas, la nariz o los rasgos faciales son difíciles de lograr en un deepfake, al menos de manera convincente”.

La tecnología de inteligencia artificial, que en su mayor parte sigue siendo gratuita y de fácil acceso, está siendo utilizada por malos actores de muchas maneras. Imágenes de celebridades femeninas de alto perfil, incluidas Taylor Swift y Emma Watson, han sido manipuladas utilizando IA para crear deepfake. contenido pornográfico.

Una nueva herramienta de inteligencia artificial del Instituto Tecnológico de Massachusetts (MIT) en EE. UU. promete frenar los deepfakes. La gente puede usar fotoguardia para hacer “pequeños ajustes invisibles para mantener [sus] imágenes a salvo de deepfakes y ediciones desagradables, un estándar de oro prometedor en seguridad en línea”.

Alex Kim dijo a MetaNews que la forma más obvia y común de identificar videos falsos de IA en las redes sociales es considerar los canales en los que están alojados.

"Querrás ver cuánto ha estado publicando el canal últimamente y si hubo grandes picos o aumentos en la creación de contenido", dijo Kim. "Si hay un gran aumento en los videos publicados que parecen fuera de lugar, de baja calidad o extraños, es una señal bastante segura de que el creador está usando deepfakes".

Sello de tiempo:

Mas de MetaNoticias