大学提供软件来嗅探 ChatGPT 撰写的论文

由柏拉图重新发布

关注： 0

大学提供软件来嗅探 ChatGPT 撰写的论文 PlatoBlockchain 数据智能。垂直搜索。人工智能。

专栏 Turnitin 以其在全球数万所大学和学校使用的反剽窃软件而闻名，它正在构建一种工具来检测人工智能生成的文本。

自 3 年 OpenAI 的 GPT-2020 商业发布以来，大型语言模型获得了关注。现在多家公司已经建立了自己的竞争机器学习系统，掀起了新一轮的创业浪潮，开发由生成人工智能提供支持的产品。这些模型像通用聊天机器人一样运行。用户键入说明，他们将以连贯、令人信服的文本段落作为回应。

学生越来越多地转向使用人工智能工具来完成作业，而教师才刚刚开始考虑它们在教育中的影响和作用。意见不一。一些人认为这项技术可以磨练写作技巧，而另一些人则认为这是作弊。加利福尼亚州、纽约州、弗吉尼亚州和阿拉巴马州的学校已阻止学生在公共网络上访问最新的 ChatGPT 模型，根据到《福布斯》。

教育部门不太确定应该引入哪些学术政策来规范 AI 文本生成器的使用。此外，考虑到目前没有有效的方法来检测机器编写的作品，无论如何所有规则都将难以执行。输入 Turnitin。这家美国公司成立于 1998 年，销售的软件可以计算一篇特定文章与大型论文、网页和书籍数据库中内容的相似程度，以寻找抄袭迹象。

Turnitin 于 1.75 年被媒体巨头 Advanced Publications 以 2019 亿美元收购，其软件已成为用过的由 15,000 个国家/地区的 140 家机构提供。 Turnitin 拥有超过 XNUMX 年的经验，在教育领域拥有广泛的影响力，并积累了庞大的学生写作资料库，使其成为开发学术 AI 文本检测器的理想公司。

自 GPT-3 发布以来，Turnitin 多年来一直在悄悄构建软件，首席产品官 Annie Chechitelli 表示注册. 随着更强大的继任者 ChatGPT 的推出，让教育工作者能够识别人类和计算机编写的文本的热潮变得更加强烈。随着人工智能的不断进步，大学和学校现在比以往任何时候都更需要能够保护学术诚信。

“ 速度很重要。我们从老师那里听到的只是给我们一些东西，”Chechitelli 说。 Turnitin 希望在今年上半年推出其软件。 “一开始这将是非常基本的检测，然后我们将推出后续的快速版本，这将创建一个对教师来说更具可操作性的工作流程。” 该计划是在公司收集数据和用户反馈后，为现有客户免费提供原型。

“一开始，我们真的只是想帮助这个行业，帮助教育工作者站稳脚跟，更加自信。并尽早获得尽可能多的使用；这对于制作成功的工具很重要。稍后，我们将确定如何将其产品化，”她说。

人工智能写作中的模式

尽管 AI 生成的文本令人信服，但也有迹象表明算法的杰作。写作通常平淡无奇，缺乏原创性； ChatGPT 等工具重复现有的想法和观点，没有明确的声音。人类有时可以识别 AI 生成的文本，但机器在这方面做得更好。

Turnitin 的 AI 副总裁 Eric Wang 表示，计算机可以检测到明显的 AI 写作模式。 “尽管对我们来说它感觉像人类，但 [机器使用] 一种根本不同的机制进行书写。它在最可能的位置选择最可能的词，[与你我相比，这是一种非常不同的构建语言的方式，”他告诉注册.

“我们通过来回跳跃我们的眼睛而不自知地阅读，或者在单词之间、段落之间、有时在页面之间来回移动。我们来回翻转。我们也倾向于以未来的心态写作。我可能在写作，我在想一些事情，一段，一句话，一章；这篇文章的结尾在我的脑海中与我正在写的句子联系在一起，尽管现在和那时之间的句子还没有写出来。”

然而，ChatGPT 没有这种灵活性，只能根据以前的句子生成新词，他解释说。 Turnitin 的检测器通过预测 AI 更有可能在给定的文本片段中生成哪些词来工作。 “从统计上看，这非常平淡。人类并不倾向于在高概率的地方始终如一地使用高概率的词，但 GPT-3 这样做了，所以我们的检测器确实在暗示这一点，”他说。

Wang 表示，Turnitin 的检测器基于与 GPT-3 相同的架构，并将其描述为该模型的微型版本。 “我想[说]我们在很多方面都在以毒攻毒。它附有一个检测器组件而不是生成组件。所以它正在做的是它以与 GPT-3 阅读语言完全相同的方式阅读语言，但它不是吐出更多语言，而是让我们预测我们是否认为这段话看起来像 [it's from] GPT-3。”

该公司仍在决定如何最好地向使用该工具的教师展示其检测器的结果。 “这是一项艰巨的挑战。你如何在有限的空间内告诉讲师他们想看什么？” 切奇泰利说。他们可能希望看到一个百分比，显示一篇文章中有多少内容似乎是由 AI 撰写的，或者他们可能希望显示检测器的预测置信度是低、中还是高的置信度，以评估准确性。

该软件的设计目的并不是要在学术界禁止 ChatGPT。虽然它可能会阻止学生使用这些类型的工具，但 Turnitin 相信它的检测器反而会让教师和学生相互信任并信任该技术。

“我认为我们创作内容的方式和工作方式发生了重大转变，”王说。 “当然，这延伸到我们的学习方式。我们需要从长远考虑我们的教学方式。我们如何在存在这种技术的世界中学习？我认为没有把精灵放回瓶子里。任何能够让这些技术的使用可见的工具都将是有价值的，因为这些是信任和透明度的基础构建块。” ®