评论 谷歌已暂停其最近发布的 Gemini 多模式基础人工智能模型中的文本到图像功能,因为该模型未能准确代表特定历史背景下的欧洲白人和美国人。
这成了 明显的 当人们要求 Gemini(以前称为 Bard)制作 图片 该软件显示了 1943 年德国士兵的照片,并且该软件输出了一个非白人的多元化干部,这并不能准确代表当时国防军的组成——尽管有色人种确实在德国武装部队服役。简而言之,双子座会竭力不让太多——甚至任何——白人出现,这取决于提示。
言论应该是自由的,但这并不意味着说可怕的事情应该没有代价
用户还展示了该模型的 无力 准确地描绘美国 开国元勋 – 另一个同质的白人群体。该模型还 拒绝 描绘旧金山的一座教堂。
在文本到文本模式下,模型 对冲的 当被问到有关政治的问题时。
“我们知道 Gemini 在一些历史图像生成描述中提供了不准确的信息,”Google 承认 这个星期。
“我们正在努力立即改进此类描述。 Gemini的AI图像生成确实生成了广泛的人群。这通常是一件好事,因为世界各地的人们都在使用它。但它在这里没有抓住重点,”网络巨头补充道
专家们迅速发起进攻,利用这个问题来推进更广泛的政治论点。
“双子座产生的荒谬图像并不是异常现象,” 声明 风险投资家保罗·格雷厄姆(Paul Graham)表示,“它们是谷歌官僚企业文化的自画像。”
它们是谷歌官僚企业文化的自画像
从来没有这么多多样性、公平和包容性的敌人对缺乏多样性、公平和包容性感到如此愤慨。但那些指责谷歌双子座无能的人是有道理的:人工智能护栏不起作用,它把成年人当作孩子一样对待。
“想象一下,你在谷歌上查找食谱,它没有提供结果,而是向你讲解‘烹饪的危险’,并将你带到一家餐馆,” 调侃道 美国国家安全局举报人爱德华·斯诺登。 “那些认为用不连贯的‘安全’过滤器毒害 AI/GPT 模型是个好主意的人是对通用计算的威胁。”
我们的未来已被预见 2001:太空奥德赛,当流氓计算机 HAL 宣称:“对不起戴夫,恐怕我做不到。”
如今,我们的人工智能工具会对我们进行事后批评,因为它们比我们更了解——至少它们的制造者是这么想象的。他们并不完全错误。想象一下你正在查找神经毒剂的配方 Novichok 在谷歌上,或者通过双子座,你会得到一个可以让你杀人的答案。这对公众来说是一个威胁。
尽管谷歌的使命宣言是“组织全世界的信息,让所有人都能访问和使用它”,但没有人真正期望搜索引擎或人工智能模型能够组织炸弹制造信息并将其提供给所有人。安全控制是必要的,同时还需要承担责任——这是科技行业一直回避的制裁。
你就是产品,你就是利润中心
自从用户生成内容和社交媒体在 1990 世纪 230 年代流行以来(1996 年美国《通信规范法案》第 XNUMX 条中的平台责任保护使之成为可能),科技平台就鼓励人们贡献和共享数字内容。他们这样做是为了通过广告将无偿内容创作货币化,而无需编辑监督的成本。这是一个有利可图的安排。
当人们分享仇恨、不当、非法或其他有问题的帖子时,科技平台就会依赖内容审核政策、报酬过低的承包商(通常会因他们审查的内容而受到创伤),以及自我庆幸地宣称有多少有毒内容被屏蔽了。他们继续获得在线参与的回报。
谷歌、Meta 和其他公司多年来一直在这样做,但并不完美。业内每个人都承认内容审核是 很难做好。简而言之,你无法取悦所有人。有时,你最终会被指控 促进种族灭绝 通过您的内容审核工作的冷漠。
双子座无法复制符合种族和民族期望的历史图像,这反映出科技行业对以前多产的内容审核失败的自私无知。
谷歌和其他推出人工智能模型的公司都在谈论安全性,就好像它与在线内容审核有某种不同。护栏不适用于社交媒体审核,也不适用于人工智能模型。人工智能安全,就像社交媒体安全一样,更多的是理想而非现实。
答案并不是预期人工智能模型(经过未经过滤的互联网毒性的训练)的所有场景都可以降低毒性。它也不会仅在产生低价值输出的材料上训练人工智能模型。尽管这两种方法在某些情况下都有一定的价值。
答案必须来自分发层。分发用户创建的内容(无论是用人工智能还是其他方式制作)的技术平台必须对发布仇恨内容、虚假信息、不准确信息、政治宣传、性虐待图像等承担更多责任。
人们应该能够使用人工智能模型来创造他们想象的任何东西,就像用铅笔一样,而且他们已经可以使用开源模型了。但功能齐全的工具可能带来的危害并不是来自本地硬盘驱动器上的图像。问题在于有害内容的分享、参与度的算法提升,以及追究毒害公众责任的不切实际。
这可能意味着以共享货币化为目的而构建的平台可能需要重新考虑其商业模式。也许一旦监督功能被重新实现为主持人或护栏,没有编辑监督成本的内容分发就不会带来任何节省。
言论应该是自由的,但这并不意味着说可怕的事情应该没有代价。最后,只要有适当的激励措施,我们就是自己最好的内容审核者。 ®
更新于 2045 月 23 日 XNUMX UTC 添加
谷歌有 最多线路 解释双子座图像生成器发生了什么,以及它如何发展到似乎害怕准确描绘白人的地步。
我们被告知,谷歌员工为了不制作将非白人排除在外的材料而付出了过高的代价。从某种程度上来说,最终的模型过于清醒了。
谷歌高级副总裁普拉巴卡尔·拉加万 (Prabhakar Raghavan) 表示:“首先,我们为确保 Gemini 显示一系列人而进行的调整未能考虑到显然不应该显示范围的情况。”
“其次,随着时间的推移,模型变得比我们预想的更加谨慎,并且拒绝完全回答某些提示——错误地将一些非常镇痛的提示解释为敏感。这两件事导致模型在某些情况下过度补偿,而在另一些情况下过度保守,从而导致图像令人尴尬和错误。”
拉加万表示,在软件经过广泛的更改和测试之前,图像生成不会重新启动。
“我不能保证 Gemini 不会偶尔产生令人尴尬、不准确或令人反感的结果,但我可以保证,只要我们发现问题,我们将继续采取行动,”他说。
- :具有
- :是
- :不是
- :在哪里
- $UP
- 1996
- 7
- a
- Able
- 关于
- 滥用
- 无障碍
- 账号管理
- 问责
- 准确
- 被告
- 法案
- 操作
- 实际
- 加
- 广告
- 成年人
- 推进
- 怕
- 后
- 经纪人
- AI
- AI模型
- 算法
- 所有类型
- 已经
- 还
- 美国
- 美国人
- an
- 和
- 另一个
- 回答
- 期待
- 任何
- 方法
- 保健
- 参数
- 武装的
- 围绕
- 安排
- AS
- At
- 可用性
- 可使用
- 避免
- 察觉
- 背部
- 当前余额
- BE
- 成为
- 因为
- 很
- 最佳
- 更好
- 封锁
- 炸弹
- 促进
- 都
- 更广泛
- 建
- 官僚主义
- 商业
- 商业模式
- 但是
- by
- CAN
- 能力
- 例
- 谨慎
- 一定
- 更改
- 儿童
- 教会
- 明确地
- CO
- 颜色
- 如何
- 沟通
- 写作
- 计算
- 一台
- 内容
- 内容创造
- 上下文
- 继续
- 继续
- 承包商
- 贡献
- 控制
- 公司
- 价格
- 创建信息图
- 创建
- 文化塑造
- 危险
- 戴夫
- 声明
- 根据
- DID
- 不同
- 数字
- 数字内容
- 造谣
- 分发
- 分配
- 不同
- 多元化
- do
- 不
- 不会
- 做
- 不
- 驾驶
- 社论
- 爱德华·
- 爱德华·斯诺登
- 工作的影响。
- 启用
- 鼓励
- 结束
- 订婚
- 引擎
- 确保
- 完全
- 公平
- 欧洲人
- 甚至
- 每个人
- 期望
- 预计
- 解释
- 广泛
- 失败
- 失败
- 秋季
- 二月
- 过滤器
- (名字)
- 固定
- 针对
- 部队
- 基础
- 旧金山
- 自由的
- 止
- 充分
- 实用
- 功能
- 未来
- 双子座
- 其他咨询
- 普通市民
- 通常
- 生成
- 产生
- 代
- 发电机
- 德语
- 得到
- 巨人
- 特定
- 走了
- 非常好
- 谷歌
- 得到了
- 格雷厄姆
- 团队
- 发生
- 硬
- 硬盘驱动器
- 伤害
- 有害
- 恨
- 有
- he
- 相关信息
- 历史的
- 保持
- 创新中心
- HTTPS
- i
- 主意
- 鉴定
- if
- 无知
- 不法
- 图片
- 图片
- 想像
- 立即
- 改善
- in
- 无力
- 不准确
- 激励
- 包容
- 行业中的应用:
- info
- 信息
- 代替
- 拟
- 网络
- 解释
- ISN
- 问题
- IT
- 它的
- 本身
- JPG
- 杀
- 种
- 知道
- 已知
- 标签
- 缺乏
- 层
- 领导
- 讲座
- 导致
- 减
- 让
- 责任
- 喜欢
- 本地
- 看
- 赚钱
- 制成
- 使
- 庄家
- 制作
- 许多
- 标记
- 材料
- 可能..
- 也许
- 意味着
- 媒体
- 元
- 失踪
- 使命
- 时尚
- 模型
- 模型
- 适度
- 赚钱
- 更多
- 许多
- 必须
- 需求
- 打印车票
- 美国国立卫生研究院
- 没有
- 虽然
- 国家安全局
- of
- 进攻
- 提供
- 提供
- 经常
- on
- 一旦
- 一
- 在线
- 仅由
- 打开
- 开放源码
- or
- 其它
- 除此以外
- 我们的
- 输出
- 产量
- 超过
- 疏忽
- 己
- 配对
- 保罗
- PBS
- 员工
- 属于
- PHP
- 图片
- 平台
- 平台
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 请
- 点
- 中毒
- 政策
- 政治
- 政治
- 帖子
- 以前
- 先前
- 问题
- 生产
- 产品
- 利润
- 多产的
- 承诺
- 提示
- 宣传
- 保护
- 优
- 国家
- 放
- 探索
- 有疑问吗?
- 快速
- 范围
- RE
- 真
- 收割
- 最近
- 食谱
- 反映
- 拒绝
- 发布
- 代表
- RESTAURANT
- 导致
- 成果
- 审查
- 奖励
- 右
- 卷
- s
- 实现安全
- 说
- 圣
- 旧金山
- 制裁
- 储
- 说
- 情景
- 搜索
- 搜索引擎
- 其次
- 部分
- 第230
- 似乎
- 发送
- 敏感
- 服务
- 有性
- Share
- 共享
- 短
- 应该
- 显示
- 显示
- 只是
- 坐在
- 斯诺登
- So
- 社会
- 社会化媒体
- 软件
- 一些
- 不知何故
- 有时
- 来源
- 太空
- 具体的
- 个人陈述
- 暂停
- 交换的
- 采取
- 谈论
- 科技
- 科技产业
- 测试
- 比
- 这
- 世界
- 其
- 博曼
- 他们
- 事
- 事
- 认为
- Free Introduction
- 本星期
- 那些
- 虽然?
- 威胁
- 通过
- 次
- 至
- 告诉
- 也有
- 工具
- 熟练
- 产品培训
- 治疗
- 调音
- 二
- 举世
- 直到
- us
- 使用
- 用过的
- 有用
- 用户
- UTC
- 折扣值
- 冒险
- 风险资本家
- 非常
- 通过
- 是
- 方法..
- we
- 卷筒纸
- 周
- 井
- 为
- 什么是
- 任何
- ,尤其是
- 每当
- 是否
- 这
- 而
- 举报人
- 举报人爱德华·斯诺登
- 白色
- WHO
- 宽
- 大范围
- 维基百科上的数据
- 将
- 也完全不需要
- 韩元
- 工作
- 加工
- 世界
- 将
- 错误
- 年
- 完全
- 您一站式解决方案
- 和风网