Juguemos a un juego: ¿presentador de noticias deepfake o una persona real?

Reeditado por Platón

seguidores: 0

Los videos falsos en línea que presentan presentadores de noticias generados por IA que lanzan propaganda a favor del gobierno chino son probablemente las creaciones de un prolífico equipo de desinformación denominado Spamouflage.

Estos videos representan "la primera vez que Graphika observa a actores de IO [operación de influencia] alineados con el estado que utilizan imágenes de video de personas ficticias generadas por IA en sus operaciones", informaron los investigadores de la firma de análisis de redes sociales, detallando las falsificaciones profundas de Spamouflage en un informe [(PDF)] esta semana.

Los videos muestran a un locutor masculino y femenino, ambos supuestamente informando para una compañía de medios llamada Wolf News. En uno, el presentador de noticias condena a Estados Unidos por no detener la violencia armada. El otro enfatiza la necesidad de la cooperación entre China y Estados Unidos en los esfuerzos de recuperación económica mundial.

“A primera vista, los presentadores de Wolf News se presentan como personas reales”, dijo Graphika. “Nuestra hipótesis inicial era que eran actores pagados que habían sido reclutados para aparecer en los videos”.

Esto se alinearía con el modus operandi habitual de Spamouflage, según Graphika y otros investigadores incluido Google, que rastrea a los malhechores como Dragonbridge y ha documentado su uso de personas reales en la cámara en sus campañas de desinformación anteriores.

Algunas de las otras operaciones de influencia de la tripulación han incluido intentos de entrometerse en las elecciones intermedias estadounidenses de 2022 y para pesca de curricán compañías mineras de tierras raras mediante el uso de miles de cuentas de redes sociales falsas, lo que provocó un severo movimiento de dedos por parte del Pentágono.

“Pero una investigación más profunda reveló que los presentadores de Wolf News fueron creados casi con certeza utilizando tecnología proporcionada por una compañía británica de video de IA llamada Synthesia”, afirmaron los investigadores de Graphika.

Las búsquedas inversas de imágenes desenterraron una tonelada de videos no relacionados que mostraban al mismo hombre y mujer "presentadores de noticias" que aparecen en la transmisión de Spamouflage Wolf News. Las personas generadas por IA hablan en varios idiomas en estos videos, incluidos árabe, rumano, español e inglés, como esta promover los servicios de agentes de carga.

En él, el presentador masculino dice: “Hola, mi nombre es Sr. Cruise. Y yo soy un avatar.

crucero es uno de Avatares "100+" de Synthesia, y resulta que su nombre es Jason. La presentadora femenina de los videos de Wolf News es Anna.

de síntesis página de ética dice que “no ofrecerá [su] software para uso público. Todo el contenido pasará por un proceso de selección interno explícito antes de ser entregado a nuestros clientes de confianza”.

Además, es página de preguntas frecuentes sobre avatares dice que hay límites en cuanto a lo que los avatares pueden y no pueden decir: “El contenido político, sexual, personal, criminal y discriminatorio no es tolerado ni aprobado”.

Las noticias falsas de Spamouflage violarían ambas políticas. Synthesia no pudo ser contactada para hacer comentarios. Victor Riparbelli, cofundador y director ejecutivo de Synthesia, les dijo a el New York Times a principios de esta semana Spamouflage rompió los términos de servicio de Synthesia al usar la tecnología para hacer sus videos.

Es decir, Spamouflage de alguna manera consiguió y usó la tecnología de Synthesia para producir su contenido, en contra de las reglas de Synthesia. No hay indicios de irregularidades por parte de Synthesia.

Aunque la agencias estatales y investigadores de seguridad han hecho sonar la alarma sobre el uso de deepfakes en operaciones de influencia política en un futuro no muy lejano, hasta ahora, los medios generados por IA se han limitado en gran medida a rostros falsos, no a personas del todo falsas, según Graphika.

Sin embargo, a pesar del uso de avatares, el resto de los videos de Spamouflage parecen "spam político de baja calidad", escribieron los investigadores, haciéndose eco evaluación de Google de los videos de YouTube del equipo, el 83 por ciento de los cuales tuvo menos de 100 visitas.

Además, el elemento deepfake de los noticieros “casi con certeza se creó utilizando un servicio comercial” en lugar de la capacidad interna, concluyó el informe. Esto sugiere que Spamouflage y otros no tienen la experiencia técnica para realizar deepfakes altamente sofisticados y continuarán utilizando las herramientas comerciales disponibles.

Sin embargo, como señala Graphika, "esto también plantea preguntas sobre cómo moderar de manera efectiva el uso de estos productos y servicios". ®