来玩个游戏：Deepfake新闻主播还是真人？

由 AI 生成的新闻主播大肆宣传支持中国政府的 Deepfake 在线视频很可能是一个名为 Spamouflage 的多产虚假信息团队的创作。

社交媒体分析公司的研究人员报告说，这些视频代表“Graphika 首次观察到与国家结盟的 IO [影响行动] 演员在他们的行动中使用 AI 生成的虚拟人物的视频片段，”并在一份报告中详细介绍了 Spamouflage deepfakes [PDF] 本星期。

视频显示一名男播音员和一名女播音员，两人都声称为一家名为 Wolf News 的媒体公司做报道。 其中，新闻主播谴责美国未能制止枪支暴力。 另一方则强调中美在全球经济复苏努力中的合作必要性。

“乍一看，Wolf News 的主播就像真人一样，”Graphika 说。 “我们最初的假设是，他们是被招募来出现在视频中的付费演员。”

根据 Graphika 和 其他研究员 包括谷歌，他们将不法分子追踪为 Dragonbridge，并记录了他们在早期的虚假信息活动中使用真人拍摄。

机组人员的一些其他影响行动包括尝试 插手 在2022年的美国中期选举和 曳 稀土矿业公司使用数千个虚假社交媒体账户，引发五角大楼的严厉指责。

“但进一步调查显示，Wolf News 的主持人几乎可以肯定是使用英国一家名为 Synthesia 的人工智能视频公司提供的技术创建的，”Graphika 研究人员声称。 

反向图像搜索发现了大量不相关的视频，显示了出现在 Spamouflage Wolf News 广播中的同一对男女“新闻主播”。 人工智能生成的人在这些视频中使用多种语言，包括阿拉伯语、罗马尼亚语、西班牙语和英语，例如 点击例子 推进货运代理服务。

在视频中，男主播说：“你好，我叫克鲁斯先生。 而我是一个化身。”

克鲁斯是其中之一 Synthesia 的“100+”头像，原来他的名字叫杰森。 狼新闻视频中的女主播是安娜。

合成的 道德页面 说它“不会提供 [its] 软件供公众使用。 在发布给我们信任的客户之前，所有内容都将经过明确的内部筛选流程。”

另外，它的 头像常见问题页面 说化身可以和不能说的内容是有限制的：“政治、性、个人、犯罪和歧视性内容是不能容忍或批准的。”

Spamouflage 的假新闻故事将违反这两项政策。 无法联系到 Synthesia 置评。 Synthesia 的联合创始人兼首席执行官 Victor Riparbelli， 告诉 纽约时报本周早些时候，Spamouflage 使用该技术制作视频，违反了 Synthesia 的服务条款。

也就是说，Spamouflage 以某种方式掌握并使用 Synthesia 的技术来制作其内容，这违反了 Synthesia 的规则。 没有迹象表明 Synthesia 有任何不当行为。

而 政府机构 和 安全研究员 根据 Graphika 的说法，在不久的将来，人工智能生成的媒体在很大程度上仅限于假面孔——而不是完全是假的人。 

然而，尽管使用了化身，Spamouflage 的其余视频看起来就像“低质量的政治垃圾邮件”，研究人员写道，呼应 谷歌的评估 剧组的 YouTube 视频，其中 83% 的观看次数少于 100 次。

此外，报告总结说，新闻广播的深度造假元素“几乎可以肯定是使用商业服务创建的”，而不是内部能力。 这表明 Spamouflage 和其他公司不具备实现高度复杂的深度伪造的技术专长，并将继续使用可用的商业工具。

然而，正如 Graphika 指出的那样，“这也引发了关于如何有效地调节这些产品和服务的使用的问题。” ®

• SEO 支持的内容和 PR 分发。 今天得到放大。
• 柏拉图区块链。 Web3 元宇宙智能。 知识放大。 访问这里。
• Sumber: https://go.theregister.com/feed/www.theregister.com/2023/02/11/deepfake_news_anchors/