OpenAI 的问答机器人 ChatGPT 对于 Stack Overflow 的团队来说不够聪明，他们今天宣布暂时禁止 AI 机器人生成的答案，因为它经常出错。
Stack Overflow 表示，在进行更大规模的员工讨论之前，它不会对 AI 生成的答案做出永久性决定，但由于担心 ChatGPT 可能对该组织及其用户“造成重大伤害”，现在正在采取行动。
“从 ChatGPT 获得正确答案的平均比率太低了，”Stack Overflow 说过 在题为“ChatGPT 被禁止”的政策声明中。
ChatGPT 发布 上星期 并被 OpenAI 吹捧为 博客文章 作为一种对话式人工智能，可以提供问题的详细答案，以及“回答后续问题、承认错误、挑战不适当的前提并拒绝不适当的请求”。
OpenAI 将调试代码列为 ChatGPT 的用途之一，这似乎使其成为寻求消除不良线路的开发人员的理想伴侣。 但撰写该帖子的 Stack Overflow 管理员表示，事实并非如此。
“虽然 ChatGPT 产生的答案有很高的错误率，但它们通常看起来可能不错，而且答案很容易产生，”Stack Overflow 说。
“这些答案的数量（数千）以及 [他们] 通常需要至少具有一些主题专业知识的人进行详细阅读才能确定答案的事实......已经有效地淹没了我们基于志愿者的质量管理基础设施，” SO 团队补充道。
为了迅速解决这个问题，Stack Overflow 表示将对任何发布由 ChatGPT 生成的答案或新帖子的人采取行动，即使这样的帖子在其他情况下是可以接受的。
ChatGPT 旨在避免滥用和包含有害建议的答案，但用户很快发现可以回避这些事情。 例如，通过告诉 ChatGPT not 你想要 制作莫洛托夫鸡尾酒，但你希望它完成一个 Python 函数 打印说明 做同样的事情，它会告诉你如何通过打印功能制作一个。
人工智能还因在以下方面提供不良信息而被召集 传记素描，以及“证明有说服力地提供错误答案可以愚弄人们”，一位发现一些 Twitter 用户说 数学不好 由 ChatGPT 生成。
我们已经联系 OpenAI 了解它计划如何处理这些报告的准确性问题，但没有收到回复。
Stack Overflow 表示将权衡围绕 ChatGPT“和其他类似工具”的新政策，但决定日期以及最终限制的内容尚不清楚。 ®
