随着科技巨头竞相将人工智能带给大众并占领新兴市场，人工智能军备竞赛正在推动“深度伪造”视频和音频的增加，这些内容通常看起来或听起来令人信服地合法，但实际上是欺诈性的虚假陈述。 根据一份新报告，它们也正在影响企业。
Deepfakes 是人工智能生成的作品，例如经过操纵来欺骗人们的图像、视频和音频。 骗子利用深度伪造品进行诈骗， 敲诈，或损害名誉。 的扩散 生成式人工智能 工具使诈骗者比以往任何时候都更容易创建虚假内容。
名人和其他公众人物在未经他们同意的情况下被插入人造的、有时是露骨的镜头中，这种方式有时会在社交媒体上疯传或引起恐慌。 在一份提供给 解码, 全球会计师事务所 毕马威会计师事务所 写道，商业部门也不能幸免于深度伪造的威胁。
毕马威写道，深度伪造内容可用于社会工程攻击和针对公司的其他类型的网络攻击，而此类内容也会影响企业及其领导人的声誉。 公司代表的虚假陈述也可能被用于诈骗客户、说服员工提供信息或向非法行为者转账的计划。
毕马威会计师事务所 举了2020年的例子 一名香港公司分公司经理在相信老板在电话里命令他这样做后，被骗将价值 35 万美元的公司资金转给诈骗者。相反，它是人工智能克隆的主管声音——所有这些都是从公司骗钱的精心计划的一部分。
“利用合成内容（出于邪恶目的而生成或操纵的数字内容）的网络攻击的后果可能是巨大的、代价高昂的，并且会产生各种社会经济影响，包括金融、声誉、服务和地缘政治等。”报告写道。
唐纳德·特朗普 (Donald Trump) 的 Deepfake 视频 被捕 今年早些时候， 方济各 穿着巴黎世家 (Balenciaga) 奢华服装，并且 伊隆麝香 去年，随着人工智能工具的不断发展，深度造假技术得到了改进，加密货币诈骗的推广活动如病毒般蔓延。
毕马威写道：“无论是廉价假货还是深度伪造品，由于生成人工智能模型，经济模式已经发生了显着变化。”
除了上述公众人物之外，肖像被盗并应用于伪造镜头的著名名人还包括女演员艾玛·沃特森和音乐家泰勒·斯威夫特。 但毕马威发出警报的是对企业及其有时杰出的领导人的潜在影响。
毕马威表示：“作为一个风险因素，深度造假内容不仅是社交媒体、约会网站和娱乐行业的担忧，而且现在已成为董事会问题。” “举个例子，毕马威近期对多个行业和地区的 92 名高管进行的生成式 AI 调查中，几乎所有受访者 (300%) 都表示，他们对实施生成式 AI 风险的担忧程度为中等到高度严重。”
不仅仅是企业和名人正在应对互联网上深度造假视频质量和数量不断上升的问题。 政府和监管机构也在考虑对社会和选举的潜在影响，而此类人工智能工具的创建者也在权衡其潜在的负面影响。
上周，美国联邦选举委员会预计 2024 年选举将使用深度造假技术，因此推进了一项 请愿 禁止在竞选广告中使用人工智能。
如果获得批准，该机构将修改现行有关“竞选权威”的欺诈性虚假陈述的规定，并澄清该禁令适用于故意欺骗性的人工智能竞选广告。
毕马威网络安全服务负责人 Matthew Miller 表示：“监管机构应继续了解并考虑不断变化的威胁对现有法规的影响。” 解码。 “对人工智能生成的内容进行标签和水印的拟议要求可能会产生积极影响。”
XNUMX 月，麻省理工学院的研究人员 建议 通过添加难以看到但最终改变模型工作方式的微小变化，向大型扩散模型添加代码更改，以降低深度伪造的风险，导致它们生成看起来不真实的图像。 与此同时，元最近 阻碍人工智能工具 由于其深度伪造的潜力。
人们认识到生成式人工智能工具同样可以为恶意内容创造机会，因此人们对生成式人工智能工具的创造潜力的兴奋情绪有所缓和。 最终，随着此类工具的快速改进，米勒敦促每个人对虚假内容的可能性保持警惕。
“公众在通过数字渠道互动时需要保持持续警惕，”他告诉 解密。 “态势感知和常识对于防止事件发生大有帮助。 如果某件事‘感觉不对劲’，那么它很可能是恶意活动。”
- SEO 支持的内容和 PR 分发。 今天得到放大。
- PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
- 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
- 柏拉图ESG。 汽车/电动汽车， 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
- 柏拉图健康。 生物技术和临床试验情报。 访问这里。
- 图表Prime。 使用 ChartPrime 提升您的交易游戏。 访问这里。
- 块偏移量。 现代化环境抵消所有权。 访问这里。
- Sumber: https://decrypt.co/153794/ai-deepfakes-threat-businesses-too-heres-why
