IWF 要求使用生成人工智能对恋童癖者采取行动

互联网观察基金会警告称，生成式人工智能可能会“大规模生成图像”，这将“压倒那些致力于打击在线儿童性虐待的人”。

该机构对过去一年中生成式人工智能的快速发展感到震惊，并预测人工智能生成的儿童性虐待材料（CSAM）只会随着时间的推移变得更加生动。

最令人不安的犯罪行为

互联网观察基金会表示，生成 AI 拥有改善我们生活的巨大潜力，但警告说该技术很容易被用于恶意目的。

国际举联首席执行官苏西·哈格里夫斯 (Susie Hargreaves) 向《卫报》表示 周三 该机构“最糟糕的噩梦已经成真”。

“今年早些时候，我们警告说，人工智能图像可能很快就会与遭受性虐待的儿童的真实照片变得无法区分，而且我们可能会开始看到这种图像数量激增。 我们现在已经过了这个阶段，”哈格里夫斯说。

她补充道：“令人心寒的是，我们看到犯罪分子故意用已经遭受虐待的真实受害者的图像来训练他们的人工智能。 过去被强奸的儿童现在被纳入新的场景中，因为某个地方的某人想要看到它。”

这个问题的规模已经给那些反对 CSAM 的人带来了重大问题。

一个月内，20,254 张人工智能生成的图像被发布到一个暗网 CSAM 论坛上。 IWF 分析师识别出 2,562 张犯罪伪照片，这些照片是在生成式人工智能的帮助下创建的。

其中一半以上显示 10 岁以下的儿童，而 564 张被归类为 A 类图像——最严重形式的虐待儿童图像。

名人 CSAM 照片

生成式 AI 正在创建新的 CSAM 类别。 IWF 的调查结果显示，名人正在通过人工智能工具被“减龄”，变成“孩子”。

然后，为了满足网上恋童癖者的需要，这些减龄名人被置于虐待场景中。

名人的孩子也成为目标，在暗网论坛上为用户“裸体”这些孩子。

IWF 表示，这些图像越来越难以与真实的 CSAM 区分开来。

“即使对于训练有素的 IWF 分析师来说，最令人信服的 AI CSAM 在视觉上与真实的 CSAM 没有什么区别。 文本到图像技术只会变得更好，并给 IWF 和执法机构带来更多挑战。” 报告.

政府建议

IWF 的总部设在 英国，正在要求世界各地的科技公司确保 CSAM 违反他们的使用条款协议。 它还希望对执法机构进行更好的培训，以便他们能够更容易地识别这些类型的图像。

IWF 还要求英国政府将 AI CSAM 作为下个月在布莱切利公园举行的人工智能峰会上讨论的主要话题。

英国希望吸引商界主要人物以及世界领导人参加此次活动。 迄今为止，意大利总理乔治亚·梅洛尼是唯一确认出席的七国集团领导人。

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/