试图避免人工智能护栏被指责为 Swift Deepfakes

据报道，流行歌星泰勒·斯威夫特（Taylor Swift）的淫秽深度伪造图像源自 4chan 上的一场在线竞赛，挑战参赛者打破人工智能软件内容过滤器。 

纽约社交媒体分析公司 Graphika 的工作人员已将这些照片直接追踪到 4chan。人们被要求想出一些技巧来绕过 Microsoft Designer 或 OpenAI DALL-E 等应用程序的安全护栏，以创建女性名人的 NSFW 图像。据 Graphika 称，泰勒·斯威夫特的照片是使用 Microsoft Designer 创建的，后来在 Telegram 的群聊中分享，然后发布在 X 上。

微软发言人表示：“我们正在继续调查这些图像，并加强了我们现有的安全系统，以进一步防止我们的服务被滥用来帮助生成类似的图像。” 注册 在一份声明中。 

的 Deepfake 图像 斯威夫特 在社交媒体平台将其删除并暂时屏蔽一些与歌曲作者相关的搜索词之前，该歌曲在 X 上获得了数百万的浏览量。然而，Graphika 表示，该竞赛针对的是其他知名女性人物，并警告说，该技术可能会被滥用来针对任何人。 

Graphika 的高级分析师 Cristina López G. 表示：“虽然泰勒·斯威夫特的色情图片引起了主流社会对人工智能生成的未经同意的亲密图像问题的关注，但她远非唯一的受害者。” 告诉 布隆伯格。 “在这些图片起源的 4chan 社区中，她甚至不是最常成为攻击目标的公众人物。这表明，从全球名人到学童，任何人都可能成为这种方式的攻击目标。”

然而，那些描绘斯威夫特摆出性暗示姿势的虚假图片的病毒式传播似乎已经让立法者们开始行动起来。白宫新闻秘书卡琳·让-皮埃尔敦促国会“采取立法行动”，以回应这些“令人震惊的”照片。 

上周，美国参议员提出了 2024 年《破坏显式伪造图像和未经同意的编辑 (DEFIANCE) 法案》，该法案 两党法案 这将允许受害者起诉那些创建和分享人工智能生成的色情深度假货的人。这项立法由参议员迪克·杜宾 (D-IL)、林赛·格雷厄姆 (Lindsey Graham) (R-SC)、艾米·克洛布查 (D-MN) 和乔什·霍利 (Josh Hawley) (R-MO) 牵头，指出一项研究声称 96% 的深度造假视频都属于伪造视频。是色情的，并且是在没有得到所描绘的女性许可或同意的情况下创作的。 

《反抗法案》是在社交媒体平台的首席执行官在国会接受质询时启动的。 听力 儿童在网上遭受性剥削，且缺乏保护。

注册 已要求 Graphika 提供进一步评论。 ®

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://go.theregister.com/feed/www.theregister.com/2024/02/05/deepfakes_taylor_swift_4chan_competition/