Deepfakes（也称为合成媒体）的用途不仅仅是模仿名人和使虚假信息更可信。 它们还可以用于金融欺诈。
欺诈者可以利用 Deepfake 技术诱骗金融机构的员工更改账号并 发起转账请求 德勤交易和商业分析负责人萨蒂什·拉尔坎德 (Satish Lalchand) 表示，金额很大。 他指出，这些交易即使不是不可能，也往往很难逆转。
网络犯罪分子不断采用新技术来逃避了解您的客户验证流程和欺诈检测控制。 为此，许多企业正在探索机器学习 (ML) 检测涉及合成媒体、合成身份欺诈或其他可疑行为的欺诈交易的方法。 然而，安全团队应该注意使用机器学习大规模识别欺诈的局限性。
大规模发现欺诈行为
Lalchand 表示，过去两年金融服务领域的欺诈行为是由于 COVID-19 大流行导致许多交易被转移到数字渠道这一事实造成的。 他列举了推动采用机器学习技术进行客户和业务验证的三个风险因素：客户、员工和欺诈者。
尽管金融服务公司的员工通常通过办公室的摄像头和数字聊天进行监控， 远程工作者 拉昌德说，他们没有受到那么多的监视。 随着越来越多的客户以虚拟方式注册金融服务，金融服务公司越来越多地将机器学习纳入其客户验证和身份验证流程，以关闭员工和客户的窗口。 Lalchand 表示，机器学习还可用于识别政府援助欺诈申请或身份欺诈。
除了发现欺诈行为 薪水保障计划贷款专门从事金融犯罪预防的 IT 公司 Consilient 的联合创始人加里·希夫曼 (Gary Shiffman) 表示，可以训练 ML 模型来识别可能预示人口贩卖或虐待老年人诈骗信号的交易模式。
金融机构现在发现多种产品中都出现了欺诈行为，但他们倾向于在孤岛中寻找欺诈交易。 希夫曼说，人工智能和机器学习技术可以帮助汇集来自多个领域的欺诈信号。
“各机构继续打地鼠，并继续尝试找出欺诈行为增加的地方，但这种情况只是在各地发生，”拉尔坎德说。 “信息融合……被称为 CyFi，将网络数据和金融数据结合在一起。”
GBG Acuant 全球产品首席产品官 Jose Caldera 表示，机器学习工具可以帮助主动识别客户、检测身份欺诈并发现风险的可能性。 他说，机器学习可以检查过去的行为和风险信号，并在未来应用这些经验教训。
机器学习的局限
卡尔德拉表示，虽然机器学习模型可以分析数据点以大规模检测欺诈行为，但总会存在误报和漏报，而且模型会随着时间的推移而退化。 因此，他表示，训练算法以发现欺诈的网络安全团队必须定期更新其模型并监控其结果，而不仅仅是每六个月或每年一次。
“你必须确保你明白这个过程不是一次性的[任务]。而且......你需要拥有适当的人员配备，以便你能够随着时间的推移维持这个过程，”卡尔德拉说。 “你总是会获得更多信息，并且......你需要能够不断地使用它来改进你的模型和改进你的系统。”
Shiffman 表示，对于评估机器学习算法有效性的 IT 和网络安全团队来说，他们需要建立基本事实——查询或问题的正确或“真实”答案。他说，为此，使用机器学习技术的团队使用测试数据集尝试模型，使用答案键来计算其假阴性、假阳性、真阳性和真阴性。他解释说，一旦考虑到这些错误和正确答案，公司就可以重新校准其机器学习模型，以识别未来的欺诈活动。
除了更新算法以检测欺诈之外，使用机器学习技术的 IT 和网络安全团队还必须了解法律限制 与其他实体共享数据希夫曼说，甚至可以识别欺诈行为。他说，如果你正在处理来自其他国家/地区的数据，你可能无法合法地将其传输到美国。
对于希望使用机器学习技术进行欺诈检测的团队来说，Caldera 警告说，此类工具只是欺诈预防策略的一个组成部分，并且没有一种解决方案可以解决该问题。 在吸引新客户后，网络安全和 IT 专业人员必须及时了解他们的行为如何随着时间的推移而改变。
“是否使用技术或机器学习只是工具集的一个组成部分，”卡尔德拉说。 “作为一家企业，你必须了解：你为此付出的成本是多少，你的风险承受能力是多少，然后你想要的客户地位是什么？”
