打破假象：制止声音克隆欺诈的竞赛已经开始

诈骗

随着人工智能驱动的语音克隆助长冒名顶替者诈骗，我们与 ESET 的 Jake Moore 坐下来讨论如何挂断“高保真”诈骗电话，以及深度伪造检测的未来前景

卡梅伦营

23 Jan 2024  •  , 4分钟读

您是否会被首席执行官打来的假电话要求您电汇而上当受骗？作为我们的同事 杰克·摩尔发现了，你可能会。随着具有空闲计算周期的计算机获得越来越多的训练数据，深度伪造变得越来越好。给他们提供冗长的首席执行官演讲，他们会获得语调、语气和其他微妙的演讲模式，最终使他们非常有说服力。

现在，至少在美国，有一个 破假竞赛，并希望找到为防御系统提供阻止相关攻击的方法。美国联邦贸易委员会 (FTC) 发起的挑战赛要求参​​赛者将他们能找到的任何技术组合在一起，以阻止语音造假，并赢得 25,000 美元的奖金。

竞赛已应用于从太空服设计到自动驾驶汽车再到太阳能技术等各个领域，现在的目的是提高人们对深度伪造防御领域的兴趣和进入者，渴望举办一场竞赛来保护消费者免受人工智能语音克隆的伤害。一旦您通过门户网站注册，您的想法就可以与其他方法竞争，有望将金牌带回家。

我仍然想知道这是否可以阻止像杰克这样的人，所以我问他。

问：企业是否能够使用当前广泛使用的技术（如果可以，是哪些技术）来防御这种威胁？

杰克：遗憾的是，我认为答案还不是解决这一不断演变的问题的对策技术。我们仍处于这个新人工智能时代的婴儿阶段，许多企业都在思考好的、坏的、丑陋的用途及其功能。技术不断发展来帮助有需要的人，但就像新技术的任何婴儿阶段一样，这种运动的快速步伐无法跟上利用其欺骗个人和企业的非法需求的变化。

问：对于个人来说，同样的问题，想想退休人员骗局、爱情骗局等等？

杰克：人工智能使诈骗者能够以比以前更大的规模实施他们的行动，这意味着数字游戏变得更大。当更多的人成为目标时，获得的回报就会大得多，而且欺诈者不需要付出任何额外的努力。

然而，个人需要继续对所有诈骗更加了解——从经典诈骗到当前趋势。特别是，随着声音克隆和深度伪造相似性的诞生，人们需要停止认为 眼见为实。保持对此类诈骗的可能性的认识，将为那些针对此类通信的人提供更多的信心，让他们更加仔细地质疑此类通信，并教会他们不要害怕质疑自己的行为。

互联网上有很多指南提供有关此类诈骗的认识建议，人们需要不断更新最新信息才能受到保护。

Q：机构反欺诈团队可以采取哪些措施来削弱对其用户/客户的攻击？如果人们被骗，谁应该支付费用？

杰克：默认情况下，反欺诈团队必须不惜一切代价提供培训，该培训需要每年一次以及针对组织的所有成员的临时培训。模拟攻击和兵棋推演还有助于以有趣的方式传达信息，并将严重的问题带入更有趣的动态中，从而允许在安全的环境中发生故障。

一旦人们体验了现代攻击的概念并亲眼目睹了这项新技术的规模，他们将更有可能在真正的攻击时记住这些建议。人工智能仍然令人印象深刻，因此在安全的环境中看到深度伪造的行为，让我们有机会展示它可能造成的潜在危险结果，而不会造成太多的恐惧因素。

问：这显然是一场猫捉老鼠的游戏，那么谁会赢呢？

杰克：从一开始，就有一场“警察与强盗”之间的追逐，强盗通常领先几步。然而，随着技术的进步，我们必须确保我们不会落后，并将更大的优势拱手让给骗子。

至关重要的是，人们必须配备正确的工具和知识来最好地抵御这些不可避免的攻击，这样欺诈者就不会总是获胜。通过及时了解最新的攻击媒介和不断演变的骗局，个人和企业就有最好的机会防御这一波新的技术攻击。

有一点是肯定的：这不再是理论上的威胁。预计 2024 年及以后，诈骗者会找到新的自动化方法来非常迅速地发起语音攻击，特别是在应对灾难性事件时，一些值得信赖的官员“要求”你做某事。这一切听起来都令人信服，充满紧迫感，并且看起来像是听觉多因素验证，但即使您“亲自从官员那里听到”，您仍然可能会被骗。

谢谢您抽出时间，杰克。