正如 OpenAI 的 ChatGPT 聊天机器人用户昨晚发现的那样,有时生成式 AI 系统会发出乱码。
OpenAI 注意到,2340 年 20 月 2024 日 XNUMX UTC,“我们正在调查有关 ChatGPT 意外响应的报告”,当时用户兴高采烈地发布了聊天机器人的图像,看起来完全是无稽之谈。
虽然有些显然是假的,但其他回应表明,流行的聊天机器人确实表现得非常奇怪。在 Reddit 的 ChatGPT 论坛上,一位用户 发布 聊天机器人对“什么是计算机?”这个问题做出了奇怪而漫无目的的回答。
回应是这样开始的:“它是为国家服务的艺术网络的优秀作品,是科学的老鼠,是对少数悲伤的人的简单描绘……”然后就这样继续下去,变得越来越超现实。
其他用户发布了一些示例,其中聊天机器人似乎以不同的语言进行响应,或者只是用毫无意义的垃圾进行响应。
一些用户 描述 输出为“单词沙拉”。
美味。
加里·马库斯(Gary Marcus),认知科学家和人工智能专家, 写 在他的博客中:“ChatGPT 已经疯了”,并继续将这种行为描述为“警告”。
OpenAI 尚未详细说明到底发生了什么,尽管一种似乎合理的理论是,其中一个或多个 设置 用于在幕后控制聊天机器人响应的配置不正确,导致向用户呈现乱码。
在首次承认问题七分钟后,OpenAI 表示,“问题已经确定,现在正在修复”,此后一直在监控情况。当我们尝试“什么是计算机?”时今天早上,ChatGPT 的回答更为合理:“计算机是一种可编程电子设备,可以存储、检索和处理数据。”
我们还问它昨晚为什么发狂。
它回应:
作为一个AI语言模型,我没有情感,也没有意识,所以我不能像人类那样“发狂”。然而,有时由于编程错误、输入误解或训练数据限制,可能会出现意外行为。
马库斯认为:“归根结底,生成式人工智能是一种炼金术。人们收集尽可能多的数据,并且(显然,如果谣言可信的话)修补各种隐藏的提示……希望一切都能顺利进行。”
他接着表示,实际上,系统从来都不稳定,缺乏安全保障。 “对完全不同的技术的需求仍然是至关重要的,这些技术不那么不透明、更易于解释、更易于维护、更易于调试——因此更容易处理。”
我们联系了 OpenAI,以获取所发生事件的更详细解释,如果该公司做出回应,我们将更新本文。 ®
- :具有
- :是
- :不是
- :在哪里
- 20
- 2024
- 7
- a
- 后
- AI
- 人工智能系统
- 炼金术
- 还
- 尽管
- 共
- an
- 和
- 出现
- 出现
- 保健
- 艺术
- 刊文
- 人造的
- 人工智能
- AS
- At
- BE
- 很
- 开始
- 行为
- 背后
- 在幕后
- 作为
- 相信
- 最大
- 博客
- CAN
- 聊天机器人
- ChatGPT
- CO
- 认知
- 收集
- 公司
- 一台
- 配置
- 意识
- 国家
- data
- 描述
- 详细
- 设备
- 不同
- 发现
- 不
- 不
- 画
- 两
- 易
- 详尽
- 电子
- 情绪
- 结束
- 故障
- 一切
- 究竟
- 例子
- 解释
- 假
- 远
- 二月
- 少数
- (名字)
- 针对
- 论坛
- 止
- 生成的
- 生成式人工智能
- 越来越
- Go
- 去
- 走了
- 非常好
- 治理
- 担保
- 民政事务总署
- 发生
- 有
- 于是
- 老旧房屋
- 他的
- 希望
- 但是
- HTTPS
- 人
- i
- 确定
- if
- 图片
- in
- 不正确
- 日益
- 的确
- 表示
- 输入
- 房源搜索
- 调查
- 问题
- IT
- JPG
- 只是
- 不停
- 类
- 种
- 缺乏
- 语言
- (姓氏)
- 减
- 限制
- 可维护的
- 马库斯
- 可能
- 分钟
- 误解
- 模型
- 监控
- 更多
- 早上
- 需求
- 决不要
- 夜
- 现在
- 发生
- of
- on
- 一
- 不透明
- OpenAI
- or
- 其他名称
- 输出
- 产量
- 过夜
- 最重要的
- 员工
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 似是而非
- 热门
- 发布
- 呈现
- 市场问题
- 过程
- 可编程
- 代码编程
- 提示
- 题
- 现实
- 合理
- 遗迹
- 业务报告
- 回应
- 响应
- 回复
- 导致
- 右
- 传闻
- s
- 实现安全
- 说
- 场景
- 科学
- 科学家
- 应该
- 只是
- 自
- 情况
- So
- 一些
- 有时
- 稳定
- 启动
- 州/领地
- 商店
- 奇怪
- 产品
- 技术
- 这
- 理论
- 他们
- Free Introduction
- 至
- 产品培训
- 尝试
- 意外
- 更新
- 用过的
- 用户
- 用户
- UTC
- 非常
- 警告
- 是
- 方法..
- we
- 卷筒纸
- 去
- 为
- 什么是
- 什么是
- ,尤其是
- 为什么
- 将
- Word
- 话
- 工作
- 锻炼
- 和风网