ゲームをしよう: ディープフェイクニュースのアンカーか、それとも実在の人物か?

プラトン再発行

フォロワー： 0

親中国政府のプロパガンダを吐き出す AI 生成のニュースキャスターをフィーチャーしたオンラインのディープフェイクビデオは、Spamouflage と呼ばれる多作の偽情報クルーの作成である可能性があります。

これらのビデオは、「Graphika が、AI によって生成された架空の人物のビデオ映像を使用して、国家と連携した IO [影響力操作] アクターを観察したのは初めて」であると、ソーシャルメディア分析会社の研究者は報告し、レポートで Spamouflage ディープフェイクについて詳しく説明している [PDF] 今週。

ビデオには男性と女性の放送局が映っており、どちらも Wolf News と呼ばれるメディア会社のために報道していると称されています。 XNUMX つは、ニュースキャスターが銃による暴力を止められなかったアメリカを非難することです。もう XNUMX つは、世界経済の回復に向けた中米協力の必要性を強調するものです。

「一見すると、Wolf News のキャスターは実在の人物のように見えます」と Graphika 氏は述べています。「私たちの最初の仮説は、彼らがビデオに出演するために募集された有給の俳優であるというものでした。」

これは、Graphika と他の研究者悪党をドラゴンブリッジとして追跡し、以前の偽情報キャンペーンで実在の人物をカメラで使用したことを記録した Google を含みます。

乗組員の他の影響力作戦のいくつかには、干渉する 2022年のアメリカ中間選挙でトローリング数千の偽のソーシャルメディアアカウントを使用して希土類採掘会社を攻撃し、ペンタゴンによる厳しい非難を引き起こしました。

「しかし、さらなる調査により、Wolf News のプレゼンターは、Synthesia という英国の AI ビデオ会社が提供する技術を使用して作成されたことがほぼ確実であることが明らかになりました」と Graphika の研究者は主張しています。

逆画像検索を行うと、スパムフラージュウルフニュースの放送に登場する同じ男女の「ニュースキャスター」を示す無関係なビデオが大量に発見されました。 AI によって生成された人々は、これらのビデオでアラビア語、ルーマニア語、スペイン語、英語などの複数の言語で話します。この1 貨物仲介サービスの促進。

その中で男性アンカーは、「こんにちは、私の名前はクルーズ氏です。そして私はアバターです。」

クルーズはその一つ Synthesiaの「100以上」のアバター、彼の名前はジェイソンであることがわかりました。 Wolf News ビデオの女性アンカーは Anna です。

シンセシアの倫理ページは、「[その] ソフトウェアを公共の使用のために提供しない」と述べています。すべてのコンテンツは、信頼できるクライアントにリリースされる前に、明示的な内部スクリーニングプロセスを通過します。」

さらに、そのアバターFAQページ「政治的、性的、個人的、犯罪的、差別的なコンテンツは容認または承認されません。」

Spamouflage のフェイクニュース記事は、両方のポリシーに違反します。 Synthesia にコメントを求めることはできませんでした。 Synthesia の共同創設者兼最高経営責任者であるビクターリパルベリは、言われ New York Times は今週初め、Spamouflage が Synthesia の利用規約を破り、この技術を使って動画を作成しました。

つまりスパモフラージュは、どういうわけかシンセシアのルールに反して、シンセシアの技術を入手し、それを使ってコンテンツを制作したのだ。 Synthesia による不正行為の示唆はありません。

一方、政府機関およびセキュリティ研究者 Graphika によると、これまで AI によって生成されたメディアは、完全に偽の人物ではなく、偽の顔に限定されていました。

しかし、アバターを使用しているにもかかわらず、Spamouflage の残りの動画は「質の低い政治的スパム」のように見える、と研究者は書いています。 Google の評価乗組員の YouTube 動画の 83% は 100 回未満の視聴でした。

さらに、ニュースキャストのディープフェイク要素は、社内機能ではなく「商用サービスを使用して作成されたことはほぼ確実」であると、レポートは結論付けています。これは、Spamouflage やその他の企業が高度に洗練されたディープフェイクを作成するための技術的専門知識を持っておらず、利用可能な商用ツールを引き続き使用することを示唆しています。

ただし、Graphika が指摘しているように、「これらの製品やサービスの使用を効果的に管理する方法についても疑問が生じます」。 ®