Jouons à un jeu : présentateur de Deepfake News ou une vraie personne ?

Republié par Platon

Suiveurs: 0

Les vidéos Deepfake en ligne mettant en vedette des présentateurs de nouvelles générés par l'IA jaillissant de la propagande du gouvernement pro-chinois sont probablement les créations d'une équipe de désinformation prolifique surnommée Spamouflage.

Ces vidéos représentent "la première fois que Graphika a observé des acteurs IO [opération d'influence] alignés sur l'État utilisant des séquences vidéo de personnes fictives générées par l'IA dans leurs opérations", ont rapporté les chercheurs de la société d'analyse des médias sociaux, détaillant les deepfakes de Spamouflage dans un rapport [PDF] cette semaine.

Les vidéos montrent un diffuseur masculin et féminin, tous deux prétendant faire des reportages pour une société de médias appelée Wolf News. Dans l'un, le présentateur de nouvelles condamne l'Amérique pour ses échecs à arrêter la violence armée. L'autre souligne la nécessité d'une coopération sino-américaine sur les efforts de relance économique mondiale.

« À première vue, les présentateurs de Wolf News se présentent comme de vraies personnes », a déclaré Graphika. "Notre hypothèse de départ était qu'il s'agissait d'acteurs rémunérés qui avaient été recrutés pour apparaître dans les vidéos."

Cela s'alignerait sur le mode opératoire habituel de Spamouflage, selon Graphika et d'autres chercheurs y compris Google qui suit les mécréants sous le nom de Dragonbridge et a documenté leur utilisation de vraies personnes devant la caméra dans leurs précédentes campagnes de désinformation.

Certaines des autres opérations d'influence de l'équipage ont inclus des tentatives de se mêler aux élections américaines de mi-mandat de 2022 et pêche à la traîne sociétés minières de terres rares en utilisant des milliers de comptes de médias sociaux factices, ce qui a provoqué une agitation sévère du Pentagone.

"Mais une enquête plus approfondie a révélé que les présentateurs de Wolf News avaient presque certainement été créés à l'aide de la technologie fournie par une société britannique de vidéo AI appelée Synthesia", ont affirmé les chercheurs de Graphika.

Des recherches d'images inversées ont mis au jour une tonne de vidéos sans rapport montrant les mêmes "présentateurs de nouvelles" homme et femme qui apparaissent dans l'émission Spamouflage Wolf News. Les personnes générées par l'IA parlent plusieurs langues dans ces vidéos, y compris l'arabe, le roumain, l'espagnol et l'anglais, comme ici promouvoir les services de courtage de fret.

Dans celui-ci, l'ancre masculine dit: «Bonjour, je m'appelle M. Cruise. Et je suis un avatar.

La croisière est l'un des Avatars "100+" de Synthesia, et il s'avère que son nom est Jason. La présentatrice des vidéos de Wolf News est Anna.

de synthèse page éthique dit qu'il « n'offrira pas [son] logiciel à un usage public. Tout le contenu passera par un processus de sélection interne explicite avant d'être diffusé à nos clients de confiance.

De plus, son FAQ sur les avatars dit qu'il y a des limites à ce que les avatars peuvent et ne peuvent pas dire : "Le contenu politique, sexuel, personnel, criminel et discriminatoire n'est ni toléré ni approuvé."

Les fausses nouvelles de Spamouflage violeraient les deux politiques. Synthesia n'a pas pu être jointe pour commenter. Victor Riparbelli, co-fondateur et directeur général de Synthesia, dit le New York Times plus tôt cette semaine, Spamouflage a enfreint les conditions de service de Synthesia en utilisant la technologie pour réaliser ses vidéos.

C'est-à-dire que Spamouflage s'est en quelque sorte emparé et a utilisé la technologie de Synthesia pour produire son contenu, contrairement aux règles de Synthesia. Il n'y a aucune suggestion d'acte répréhensible de la part de Synthesia.

Tandis que organismes gouvernementaux et les chercheurs en sécurité ont tiré la sonnette d'alarme sur l'utilisation de deepfakes dans des opérations d'influence politique dans un avenir pas trop lointain, jusqu'à présent, les médias générés par l'IA se limitaient en grande partie à de faux visages – pas entièrement à de fausses personnes, selon Graphika.

Cependant, malgré l'utilisation d'avatars, le reste des vidéos de Spamouflage ressemble à du "spam politique de mauvaise qualité", ont écrit les chercheurs, faisant écho à L'évaluation de Google des vidéos YouTube de l'équipe, dont 83 % ont enregistré moins de 100 vues.

De plus, l'élément deepfake des bulletins d'information "a presque certainement été créé à l'aide d'un service commercial" par opposition à une capacité interne, conclut le rapport. Cela suggère que Spamouflage et d'autres n'ont pas l'expertise technique pour réaliser des deepfakes hautement sophistiqués et continueront à utiliser les outils commerciaux disponibles.

Cependant, comme le note Graphika, "cela soulève également des questions sur la manière de modérer efficacement l'utilisation de ces produits et services". ®