Meta 正在构建工具来检测、识别和标记通过其社交媒体平台共享的人工智能生成的图像。它还正在测试大型语言模型以自动调节在线内容。
周二,Meta 全球事务总裁(前英国副首相)尼克·克莱格 (Nick Clegg) 宣布计划在 Facebook、Instagram 和 Threads 上标记这些材料,这些材料不仅是由这家美国巨头自己的文本到图像人工智能模型创建的,而且还包括精心制作的内容通过外部机器学习应用程序。这个想法是为了警告网民,网上的东西可能并不像看上去的那样,而且可能是使用人工智能工具发明的,用来欺骗人们,无论其来源如何。
克莱格 说过 Meta 的工程师目前正在开发工具,在其应用程序上使用“AI 想象”标题来标记逼真的 AI 制作内容,并将在未来几个月内根据需要显示此标签。
据我们所知,内置 Meta AI 助手创建的逼真图像已经使用可见和不可见的标记自动进行了标记。这是从外部提交的高质量人工智能产品,也需要以某种方式进行检测,并在 Facebook 巨头的应用程序帝国中进行标记。
在短期内,Facebook 打算依靠提交文件中的水印来声明内容的来源——这依赖于外部人工智能内容生成器,包括那些标记或元数据,而不被删除——并要求人们诚实地将内容声明为共享媒体时人工智能生成。
从长远来看,Meta 打算使用能够自动辨别材料是否由神经网络制作的分类器,从而避免对用户提交的标签和生成器(包括支持的标记)的依赖。用户需要“在使用虚假媒体时坦白——如果他们甚至意识到它是虚假的——以及依赖外部应用程序将内容正确地标记为计算机制作的,而不被人们剥夺,就像他们一样在软件工程中说,脆弱。这些自动分类器如果能够按预期工作,那么它们就是最需要的。
至少目前,上传音频和视频的人肯定需要声明该材料是深度伪造的还是真实的,因为 Meta 表示,目前还没有一致的方法来识别人工智能制作的镜头和声音;图片要么由 Meta AI 自动标记,包括揭示真实来源的水印,要么可以由人们手动标记。稍后这一切可能都会自动化。
“我们将要求人们在发布包含数字化创建或更改的逼真视频或逼真音频的有机内容时使用此披露和标签工具,如果他们不这样做,我们可能会施加处罚,”克莱格说。
至于水印 Meta 支持,包括内容来源和真实性联盟 (Coalition for Content Provenance and Authenticity) 提供的水印 (C2PA)和国际新闻电讯理事会(IPTC)。这些是由技术和媒体团体支持的行业举措,试图让识别机器生成的内容变得更容易。正如我们之前报道的那样,它们并非万无一失,并且可以被击败。
Meta 推出应对人工智能内容的最新策略之前,其监督委员会(一个由独立专家组成的小组,负责审查其内容审核政策)抱怨称,当前有关受操纵媒体的规则“不连贯”。董事会推出了 探测器 去年,Meta 决定允许一段经过数字修改、声称他是恋童癖的拜登总统的虚假视频留在其社交网络帝国上。
除了 C2PA 和 IPTC 支持的工具之外,Meta 还在测试大型语言模型自动确定帖子是否违反其政策的能力。
社交媒体企业正在利用自己的数据来训练这些系统,并相信软件可以减少需要人工审核员评估的内容,使他们能够专注于更棘手的案例。
“随着人类内容和合成内容之间的区别变得模糊,人们想知道界限在哪里,”克莱格说。
“人们经常第一次遇到人工智能生成的内容,我们的用户告诉我们,他们欣赏这项新技术的透明度。我们将在明年采取这种方法,届时世界各地将举行一些重要的选举。” ®
- :是
- :不是
- :在哪里
- $UP
- 7
- a
- 对,能力--
- 横过
- 增加
- 事务
- 后
- AI
- AI助手
- AI模型
- 所有类型
- 让
- 允许
- 已经
- 还
- 改变
- 和
- 公布
- 应用领域
- 使用
- 欣赏
- 的途径
- 应用
- 保健
- 围绕
- AS
- 问
- 评估
- 助理
- At
- 音频
- 真实性
- 自动化
- 自动
- 避免
- 察觉
- 远离
- 已备份
- BE
- 很
- 作为
- 相信
- 之间
- 拜登
- 商业
- 板
- 边界
- 建筑物
- 内建的
- 但是
- by
- CAN
- 例
- 要求
- CO
- 联盟
- 如何
- 未来
- 一贯
- 内容
- 正确地
- 可以
- 评议会
- 精雕细琢
- 创建
- 电流
- 切
- 切割
- data
- 决定
- 声明
- 无疑
- 副
- 期望
- 检测
- 检测
- 检测
- 确定
- 发展
- 差异
- 数字
- 辨别
- 泄露
- do
- 向下
- ,我们将参加
- 更容易
- 边缘
- 或
- 选举
- 帝国
- 工程师
- 工程师
- 甚至
- EVER
- 专家
- 外部
- 失败
- 假
- FB
- 档
- (名字)
- 第一次
- 已标记
- 专注焦点
- 针对
- 前
- 止
- 发电机
- 得到
- 巨人
- 全球
- 组的
- 民政事务总署
- 有
- he
- 高品质
- 老老实实
- HTTPS
- 人
- 主意
- 鉴定
- if
- 图片
- 图片
- 想象
- 重要
- in
- 包括
- 包括
- 包含
- 独立
- 行业中的应用:
- 项目
- 内
- 拟
- 国际
- 成
- 发明
- 无形
- ISN
- IT
- 它的
- JPG
- 只是
- 知道
- 标签
- 标签
- 语言
- 大
- (姓氏)
- 去年
- 后来
- 最新
- 推出
- 最少
- 谎言
- ll
- 长
- 制成
- 使
- 操纵
- 手动
- 标
- 材料
- 可能..
- 媒体
- 元
- 元数据
- 模型
- 中度
- 适度
- 个月
- 最先进的
- 必要
- 需求
- 打印车票
- 需要
- 网络
- 神经
- 神经网络
- 全新
- 下页
- 缺口
- 现在
- 数
- of
- 经常
- on
- 在线
- 仅由
- or
- 有机
- 我们的
- 输出
- 学校以外
- 超过
- 疏忽
- 己
- 面板
- 处罚
- 员工
- 图片
- 地方
- 计划
- 平台
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 政策
- 帖子
- 总统
- 比登总统
- express
- 先前
- 总理
- 出处
- RE
- 真实
- 而不管
- 信赖
- 依靠
- 依托
- 报道
- 要求
- 揭示
- 右
- 定位、竞价/采购和分析/优化数字媒体采购,但算法只不过是解决问题的操作和规则。
- s
- 说
- 对工资盗窃
- 说
- 似乎
- 共用的,
- 共享
- 短
- 显示
- So
- 社会
- 社会化媒体
- 社会化媒体平台
- 社交网络
- 软件
- 软件工程
- 一些
- 听起来
- 来源
- 留
- 策略
- 提交
- 这样
- 支持
- 支持
- 合成的
- 产品
- 抢断
- 行李牌
- 服用
- 专业技术
- 电信
- 术语
- 测试
- 这
- 世界
- 他们
- 那里。
- 博曼
- 他们
- Free Introduction
- 那些
- 通过
- 从而
- 次
- 至
- 告诉
- 工具
- 工具
- 产品培训
- 用户评论透明
- true
- 尝试
- 试图
- 周二
- Uk
- 上传
- us
- 使用
- 用户
- 运用
- Ve
- 通过
- 视频
- 可见
- 想
- 是
- 水印
- 水印
- 方法..
- we
- 井
- 为
- 什么是
- ,尤其是
- 是否
- 这
- 为什么
- 将
- 也完全不需要
- 工作
- 世界
- 年
- 但
- 和风网