–>
在对人工智能能力的突破性探索中,人工智能(AI)公司Anthropic定制了大型语言模型(LLM)来反映用户定义的价值观。 这项独特的研究收集了 1,000 名参与者的意见,根据他们的集体判断微调法学硕士的反应。
与配备预定义护栏来限制某些输出的传统法学硕士不同,Anthropic 的方法包含用户代理。 Anthropic 的 Claude 和 OpenAI 的 ChatGPT 等模型通常会遵守预设的安全响应,尤其是在敏感主题方面。 然而,批评者认为,这种干预措施可能会损害用户的自主权,因为可接受性的定义各不相同,并且在不同文化和时间段中都是主观的。
应对这一复杂挑战的一个潜在解决方案是让用户能够塑造人工智能模型的价值一致性。 Anthropic 与 Polis 和集体智能项目合作开展了“集体宪法人工智能”实验。 他们吸引了 1,000 名来自不同背景的用户,通过民意调查提出了一系列问题,以收集有价值的见解。
该实验的重点是授予用户确定适当性的权力,而不会让他们接触到不需要的输出。 此过程涉及引出用户价值并将其合并到预先训练的模型中。 Anthropic 采用了一种被称为“宪法人工智能”的技术,为该模型提供了一套要遵循的规则,类似于指导国家治理的宪法。
在集体宪法人工智能实验中,Anthropic 旨在将用户群体的反馈整合到模型的宪法中。 根据 Anthropic 的博客文章,结果表明科学上的成功,揭示了与让用户共同定义法学硕士产品的价值相关的挑战。
该团队面临的一个显着障碍是开发一种新颖的基准测试流程。 鉴于该实验的开创性以及对 Anthropic 宪法人工智能方法的依赖,目前还没有既定的测试来将基本模型与使用众包值进行微调的模型进行比较。
最后,似乎包含来自用户投票反馈的数据的模型在减轻偏差输出方面比基本模型表现出了“轻微”的改进。 Anthropic 不仅对由此产生的模型表示兴奋,更重要的是对开创性过程本身感到兴奋。 这个实验标志着公众作为一个集体有意影响大型语言模型的行为的最初实例之一。 希望全球社区能够利用这些技术来开发符合其特定文化和背景需求的模型。
- :具有
- :是
- :不是
- :在哪里
- 000
- 1
- 25
- 50
- a
- 关于
- 根据
- 横过
- 坚持
- 机构
- AI
- AI聊天机器人
- AI模型
- 针对
- 对齐
- 对准
- 允许
- an
- 和
- 人类的
- 的途径
- 争论
- 围绕
- 人造的
- 人工智能
- 人工智能(AI)
- AS
- 相关
- 权威
- 背景
- 基地
- 基于
- BE
- 行为
- 标杆
- 偏
- 比特币
- 比特币世界
- 博客
- 建立
- 但是
- by
- 能力
- 产品类别
- 一定
- 挑战
- 挑战
- 聊天机器人
- ChatGPT
- 选择
- CO
- 合作
- 集体
- 统
- 地区
- 公司
- 比较
- 复杂
- 妥协
- 规程
- 上下文
- 常规
- 创建
- 债权人
- 批评
- 文化
- 货币
- data
- 默认
- DEFI
- 定义
- 定义
- 延误
- 民主的
- 派生
- 确定
- 开发
- 发展
- 数字
- 数字货币
- 不同
- 开始
- 拥抱
- 员工
- 授权
- 结束
- 从事
- 配备
- 特别
- 成熟
- 评估
- 激动
- 实验
- 勘探
- 面临
- 远
- 反馈
- 遵循
- 针对
- 止
- FTX
- 收集
- 搜集
- 特定
- 给予
- 在全球范围内
- 治理
- 发放
- 奠基
- 组的
- 高度
- 抱有希望
- 但是
- HTML
- HTTPS
- 栏
- 重要的
- 改进
- in
- 结合
- 影响
- 初始
- 输入
- 可行的洞见
- 整合
- 房源搜索
- 故意地
- 干预
- 成
- 调查
- 参与
- IT
- 它的
- 本身
- 判断
- 只是
- 已知
- 语言
- 大
- 借
- 让
- 光
- 喜欢
- LLM
- 研究方法
- 可能
- 缓解
- 模型
- 模型
- 更多
- 联合国
- 自然
- 需要
- 没有
- 显着
- 小说
- of
- 经常
- on
- 一
- OpenAI
- 输出
- 输出
- 超过
- 与会者
- 期
- 先驱
- 创举
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 构成
- 帖子
- 潜力
- 原则
- 过程
- 产品
- 项目
- 协议
- 提供
- 国家
- 有疑问吗?
- 最近
- 反映
- 关于
- 信赖
- 回复
- 结果
- 成果
- 旋转
- 行
- 定位、竞价/采购和分析/优化数字媒体采购,但算法只不过是解决问题的操作和规则。
- 实现安全
- .
- 证券交易委员会
- 似乎
- 敏感
- 系列
- 集
- 形状
- 表示
- 方案,
- 具体的
- 学习
- 成功
- 这样
- 建议
- 超越
- 行李牌
- 量身定制
- 团队
- 技术
- 技术
- test
- 这
- 其
- 他们
- 那里。
- 他们
- Free Introduction
- 那些
- 通过
- 次
- 至
- Topics
- 教程
- 独特
- 上
- 用户
- 用户
- 运用
- 有价值
- 折扣值
- 价值观
- 是
- 宽度
- 将
- 也完全不需要
- 和风网