By 肯纳休斯 - 卡斯尔伯里 02 年 2022 月 XNUMX 日发布
由于技术的进步，越来越难分辨什么是真实的，什么不是。 这个问题随着 deepfake 技术的使用而变得更糟——音频和视频 使用人工智能代替个人或他们的声音。 虽然许多 deepfakes 已成功用于娱乐（例如 尼古拉斯·凯奇 在... 《夺宝奇兵》) 或游戏（例如在 国际足联运动员), 其中很大一部分是为更多 险恶的原因。 随着制作这些篡改视频变得越来越容易，许多专家希望量子计算能够帮助克服这种新兴技术的潜在威胁。
Deepfake 技术如何运作？
要制作成功的 Deepfake 视频，您需要 机器学习 算法。 “深度学习算法自学如何解决大型数据集中的问题，然后用于在视频和其他数字内容中交换面孔，”解释说 后量子 CEO 程安达. Post-Quantum 是一家领先的网络安全公司，其重点是 量子耐 安全性，包括针对 deepfakes。 Cheng 说：“有很多方法可以创建这些 deepfakes，但最流行的是使用涉及自动编码器的深度神经网络。 一个 自动编码器 是一个深度学习人工智能程序，它研究视频剪辑以从多个角度和周围环境了解一个人的样子，然后通过寻找共同特征将那个人映射到个体上。”
Deepfake 技术设置（PC Wikimedia Commons）
为确保自动编码器成功运行，需要分析主体面部的多个视频片段以提供更大的数据池。 然后自动编码器可以通过将原始个体与新主题交换来帮助创建复合视频。 第二种称为通用对抗网络 (GAN) 的机器学习将检测并改进新合成视频中的缺陷。 根据一个 2022年文章： “GAN 训练一个‘生成器’从源图像的潜在表示中创建新图像，并训练一个‘鉴别器’来评估生成材料的真实性。” 这个过程会发生几次，直到鉴别器无法判断视频是否被篡改以及 deepfake 是否完整。
Deepfake 技术的威胁
目前，有许多开源软件或免费应用程序可供个人用来制作深度假货。 虽然这对许多人来说似乎是有益的，尤其是对娱乐业的人来说，但它已经导致了一些严重的、甚至是犯罪的问题。 根据一个 深度追踪报告，毫不奇怪，96 年在线的 2019% 的 deepfake 视频都是色情内容。 虽然这些非法视频中有许多是为了报复前任而制作的，但其他视频则被用来为女名人甚至政客制造丑闻。 2018 年，一段 deepfake 视频从某网站发布 比利时政党 显示时任总统特朗普讨论巴黎气候协定。 随着假新闻已经成为公众关注的问题，深度伪造视频可能成为压垮骆驼的最后一根稻草。 甚至 假冒音频 正在造成严重破坏，因为来自 CEO 某科技公司协助实施欺诈行为。 对于 Cheng 来说，这些类型的媒体会很快削弱公众的信任。 Cheng 补充说：“我们面临着更广泛的社会信任问题——公众将如何辨别什么是真实的，什么是 Deepfake。” “正如我们所看到的，甚至有证据表明深度造假正被用来绕过生物识别认证等保护措施。” 随着这些日益增长的担忧，Cheng 和他在 Post-Quantum 的团队相信他们有一个解决方案，即 诺米迪奥， 一个专门的超级安全软件。
为 DeepFake 技术威胁做好准备
鉴于量子计算和 deepfakes 带来的多重威胁，Cheng 和这个团队创建了 Nomidio 以确保登录身份甚至生物识别身份验证的安全。 “Nomidio 是一种生物识别、无密码多因素生物识别 (MFB) 服务，可通过简单直观的用户体验实现安全身份验证，”Cheng 说。 “它取代了基于用户名/密码的登录和单点登录，用户在后台通过多因素身份验证 (MFA) 根据其生物识别资料进行身份验证。” 由于 Cheng 多年来一直是网络安全专家，他确保 Nomidio 也可以抵御 deepfakes。 “我们在创建它时的核心理念是使用尽可能多的额外输入和真正的多因素身份验证（即超过两个因素），因此它实际上是应对 deepfake 技术未来发展的理想解决方案。 这归根结底是因为传统的 MFA 是不够的，但是 MFB 可以使实时攻击几乎不可能。 也就是说，例如语音、面部和 PIN 码的组合是高度安全的，因为任何一个因素都可能被伪造，但在同一情况下伪造所有三个因素几乎是不可能的。 借助 Nomidio，可以将语音和面部生物识别、语音识别、上下文相关数据甚至行为分析组合到一个身份验证系统中。 ”
虽然 Nomidio 本身并没有利用量子计算来克服深度造假威胁，但量子计算机有可能对付这些虚假媒体文件。 作为 量子计算机 通常利用机器学习算法来更快、更有效地工作，他们可能能够检测到 假视频 或音频文件以更快的速度。 虽然这项技术仍在开发中，而且很少有人将 deepfakes 视为量子计算机的潜在用例，但这些下一代机器可以在未来用于使我们的媒体更加真实和准确。
随着 deepfake 技术的威胁越来越明显，许多政府和公司已经在努力寻找帮助对抗它的方法。 2021 年，Facebook 推出了 Deepfake检测挑战，为那些创造新技术来检测 deepfakes 的人提供 500,000 美元的奖金。 在美国，加利福尼亚州、德克萨斯州和弗吉尼亚州等州的法律禁止将 deepfake 用于色情和政治。 这 欧洲议会 还围绕 deepfakes 制定了更多法规，修改了《数字服务法》以在 deepfake 视频上强加使用标签。 虽然这项立法要到 2024 年才会生效，但它确实表明了 deepfake 技术威胁的严重性。
Kenna Hughes-Castleberry 是 Inside Quantum Technology 的特约撰稿人和 JILA（科罗拉多大学博尔德分校与 NIST 的合作机构）的科学传播者。 她的写作节奏包括深度技术、元宇宙和量子技术。
