ChatGPT 一夜之间开始胡言乱语，令人震惊

正如 OpenAI 的 ChatGPT 聊天机器人用户昨晚发现的那样，有时生成式 AI 系统会发出乱码。

OpenAI 注意到，2340 年 20 月 2024 日 XNUMX UTC，“我们正在调查有关 ChatGPT 意外响应的报告”，当时用户兴高采烈地发布了聊天机器人的图像，看起来完全是无稽之谈。

虽然有些显然是假的，但其他回应表明，流行的聊天机器人确实表现得非常奇怪。在 Reddit 的 ChatGPT 论坛上，一位用户 发布 聊天机器人对“什么是计算机？”这个问题做出了奇怪而漫无目的的回答。

回应是这样开始的：“它是为国家服务的艺术网络的优秀作品，是科学的老鼠，是对少数悲伤的人的简单描绘……”然后就这样继续下去，变得越来越超现实。

其他用户发布了一些示例，其中聊天机器人似乎以不同的语言进行响应，或者只是用毫无意义的垃圾进行响应。

一些用户 描述 输出为“单词沙拉”。

美味。

加里·马库斯（Gary Marcus），认知科学家和人工智能专家， 写 在他的博客中：“ChatGPT 已经疯了”，并继续将这种行为描述为“警告”。

OpenAI 尚未详细说明到底发生了什么，尽管一种似乎合理的理论是，其中一个或多个 设置 用于在幕后控制聊天机器人响应的配置不正确，导致向用户呈现乱码。

在首次承认问题七分钟后，OpenAI 表示，“问题已经确定，现在正在修复”，此后一直在监控情况。当我们尝试“什么是计算机？”时今天早上，ChatGPT 的回答更为合理：“计算机是一种可编程电子设备，可以存储、检索和处理数据。”

我们还问它昨晚为什么发狂。

它回应：

马库斯认为：“归根结底，生成式人工智能是一种炼金术。人们收集尽可能多的数据，并且（显然，如果谣言可信的话）修补各种隐藏的提示……希望一切都能顺利进行。”

他接着表示，实际上，系统从来都不稳定，缺乏安全保障。 “对完全不同的技术的需求仍然是至关重要的，这些技术不那么不透明、更易于解释、更易于维护、更易于调试——因此更容易处理。”

我们联系了 OpenAI，以获取所发生事件的更详细解释，如果该公司做出回应，我们将更新本文。 ®

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/