恶意深度造假的祸害已经远远超出了名人和公众人物的范围，一份关于未经同意的亲密图像 (NCII) 的新报告发现，随着图像生成器的发展和扩散，这种做法只会不断增长。
“AI脱衣”风潮兴起 报告 社交媒体分析公司 Graphika 周五表示，这种做法是使用 生成式人工智能 经过微调的工具可以从用户上传的图像中去除衣服。
据一位知情人士透露，今年早些时候，游戏和 Twitch 流媒体社区正在努力解决这个问题，当时著名播音员 Brandon 'Atrioc' Ewing 无意中透露，他一直在观看人工智能生成的深度伪造色情片，内容是他称为朋友的女性流媒体。 报告 by 小宅.
尤因于三月份重返平台，对他为减轻所造成的损害而进行的数周工作进行了忏悔和报告。 但这一事件为整个在线社区打开了闸门。
Graphika 的报告显示，这起事件只是沧海一粟。
Graphika 情报分析师圣地亚哥·拉卡托斯 (Santiago Lakatos) 写道：“利用 Meltwater 提供的数据，我们测量了 Reddit 和 X 上的评论和帖子数量，其中包含指向 34 个网站和 52 个提供综合 NCII 服务的 Telegram 频道的推荐链接。” “到 1,280 年，此类数量将达到 2022 辆，而今年迄今已超过 32,100 辆，数量同比增长 2,408%。”
总部位于纽约的 Graphika 表示，NCII 的爆炸式增长表明这些工具已经从小众讨论区转向家庭手工业。
Graphika 说：“这些模型使更多的提供商能够轻松、廉价地大规模创建逼真的 NCII。” “如果没有这样的提供商，他们的客户将需要托管、维护和运行自己的自定义图像传播模型——这是一个耗时且有时昂贵的过程。”
Graphika 警告称，人工智能脱衣工具的普及不仅可能导致假货 色情 材料，还包括有针对性的骚扰、性勒索和儿童性虐待材料 (CSAM) 的生成。
根据Graphika 报告，人工智能脱衣工具的开发者在社交媒体上做广告，引导潜在用户访问他们的网站、私人 Telegram 聊天室或可以找到这些工具的 Discord 服务器。
Graphika 写道：“一些提供商的活动很公开，声称他们提供‘脱衣服’服务，并发布他们声称被‘脱衣服’的人的照片作为证据。” “其他人则不太明确，将自己呈现为 AI 艺术服务或 Web3 照片画廊，同时在其个人资料和帖子中包含与合成 NCII 相关的关键术语。”
虽然脱衣人工智能通常专注于图片，但人工智能也被用来创造 电影 使用名人肖像（包括 YouTube 个性）的深度伪造 野兽先生 和好莱坞标志性演员 汤姆·汉克斯.
有些演员喜欢 斯嘉丽·约翰逊 和印度演员 阿尼尔·卡普尔 正在诉诸法律体系来应对人工智能深度造假的持续威胁。 尽管如此，虽然主流艺人可以获得更多媒体关注， 成人艺人 说他们的声音很少被听到。
“这真的很难，”传奇成人表演者兼 Star Factory 公关负责人 Tanya Tate 说道， 告诉 解码 早些时候。 “如果有人是主流，我相信事情会容易得多。”
泰特解释说，即使没有人工智能和深度造假技术的兴起，社交媒体上也已经充斥着利用她的可能性和内容的虚假账户。 性工作者持续面临的耻辱无助于解决问题，迫使他们和他们的粉丝留在阴影中。
20,254 月，总部位于英国的互联网监管公司互联网观察基金会 (IWF) 在另一份报告中指出，短短一个月内，在一个暗网论坛上就发现了超过 XNUMX 张虐待儿童的图片。 IWF 警告称，人工智能生成的儿童色情内容可能“压倒“ 互联网。
IWF 警告称，由于生成人工智能成像技术的进步， deepfake 色情内容已经发展到区分人工智能生成的图像和真实图像变得越来越复杂的程度，使得执法部门追查网络幻影而不是真正的虐待受害者。
互联网观察基金会首席技术官丹·塞克斯顿 (Dan Sexton) 表示：“因此，你无法相信事情的真实性。” 德克里普t。 “那些能告诉我们事情是否真实的东西并不是100%的，因此，你也不能相信它们。”
至于尤因，据 Kotaku 报道，主播返回后表示，自从他在 一月。 尤因还表示，他向瑞安·莫里森位于洛杉矶的律师事务所汇款， 莫里森·库珀，为 Twitch 上任何需要帮助的女性提供法律服务，以向发布她们图像的网站发出删除通知。
尤因补充说，他从神秘的 Deepfake 研究员 Genevieve Oh 那里得到了有关 Deepfake 问题深度的研究。
“我试图在打击此类内容的斗争中找到‘亮点’，”尤因说。
编辑 小泽赖恩.
