山姆大叔使用 AI PlatoBlockchain 数据智能揭露匿名作者。 垂直搜索。 哎。

山姆大叔使用 AI 揭开匿名作家的面纱

美国情报界已经启动了一项开发人工智能的计划,该计划可以确定匿名写作的作者身份,同时还可以通过巧妙地改变作者的文字来伪装作者的身份。

国家情报局局长办公室 (ODNI) 的情报高级研究项目活动 (IARPA) 的使用基础结构的人类可解释文本归因 (HIATUS) 计划旨在构建可以执行“语言指纹识别”的软件 说过.

“人类和机器每天都会产生大量的文本内容。 文本包含可以揭示作者身份的语言特征,”IARPA 说过 [PDF]。

ODNI 说,有了正确的模型,IARPA 相信它可以识别不同样本中作家风格的一致性,修改这些语言模式以匿名写作,并以新手用户可以解释的方式完成这一切。 HIATUS AI 也必须与语言无关。 

“我们很有可能实现我们的目标,为情报界提供急需的能力,并利用计算语言学和深度学习的最新进展大幅扩展我们对人类语言变异的理解,”HIATUS 项目经理蒂莫西·麦金农博士说.

为了开发强大的模型,HIATUS 计划将其目标视为对抗性 AI 的问题:作者归属和匿名文本是同一个问题的两个方面,因此 HIATUS 实验组将相互竞争。 

“归因系统的评估是根据同一作者在大型收藏中匹配项目的能力,而隐私系统的评估则是根据阻止归因系统的能力,”IARPA 说。

该机构表示,它还计划为 HIATUS AI 制定可解释性标准。 

麦金农 说过 HIATUS 正在做的那部分工作是试图揭开神经语言模型周围的一些未知因素(HIATUS 努力的重点),他说这很好,但本质上是 黑匣子 该功能在他们的开发人员不知道他们为什么做出特定决定的情况下。

理想情况下,McKinnon 说,“当我们执行署名或执行作者隐私保护时,我们能够真正理解系统为什么会这样运行,并且能够验证它没有接收到虚假的东西并且它正在做正确的事情。”

ODNI 表示,如果成功,HIATUS 可能会产生深远的影响,从打击外国影响活动到识别反情报风险和保护工作可能危及他们的作者。 McKinnon 补充说,HIATUS AI 也可能能够识别文本是否是机器生成的,而不是人类创作的。 

IARPA 完成的研究中约有 70% 会交给其他政府合作伙伴实施,IARPA 不会参与其中——它所做的只是开发技术,而不是把它变成可用的东西。 也就是说,根据情报机构的说法,HIATUS 的可能性很大。

不过,不要指望这项技术很快就会以完整的形式出现:现在 HIATUS 已经开始,距离实验结束还有 42 个月(三年半),而且只是如果 McKinnon 和他的团队成功,那么其他政府机构可能会尝试 HIATUS。 ®

时间戳记:

更多来自 注册