美国联邦贸易委员会 (FTC) 承诺奖励 25,000 美元,奖励最佳解决方案,以应对日益严重的人工智能语音克隆威胁。
自从生成式人工智能成为主流以来,提供易于使用的语音克隆工具的在线服务有时被称为音频深度伪造,数量激增,引发了人们对其在网络攻击中被滥用的可能性的担忧。
例如,广泛的威胁可能涉及欺骗首席执行官的声音以冒充他们并指示财务部门将资金汇入攻击者的账户。朋友和家人也可能被欺骗向亲人汇款,并且 表演艺术家 如果技术继续成熟,他们的生计可能会受到威胁。
感兴趣的各方必须在 12 月 XNUMX 日之前提交他们的想法,以帮助解决基于人工智能的语音克隆欺诈问题,主要侧重于该技术的预防、监控和评估。
联邦贸易委员会表示:“这项努力可能有助于推动减轻上游风险的想法——在声音克隆的危害波及消费者之前,保护消费者、创意专业人士和小型企业免受声音克隆的危害。” 说过.
“它还可能有助于推进减轻消费者层面风险的想法。如果没有出现可行的想法,这将向政策制定者发出重要的早期警告,鉴于防止市场上应用程序有害发展的挑战,他们应该考虑对这项技术的使用进行更严格的限制。”
提交的内容将根据执行和管理的可行性、对技术变革的适应能力、以及他们考虑公司责任和责任的考虑程度等因素进行评估。
最高奖金为 25,000 美元,考虑到巧妙的解决方案可能具有的潜在广泛应用,这听起来不像是金矿。
一名亚军还将获得 4,000 美元的奖金,三名荣誉奖获得者将因遇到的问题每人获得 2,000 美元的奖金,10 人或以上的组织将获得无现金表彰奖励。
AI 语音滥用实际行动
AI语音克隆的有效性已经在过去一年的重复案例中得到证明。斯洛伐克安全商店 ESET 的专家 显示 前面提到的欺骗首席执行官的例子是如何实现的。
事实上,在生成式人工智能进入普通人手中之前,这个问题已经存在多年了。一家英国能源公司 耗尽$243,000 2019 年,该公司首席执行官奉命向一家匈牙利供应商汇出大笔资金。
纽约时报 报告再次回顾前 12 个月,详细介绍了一系列成功针对金融部门的案例,诱骗银行从他们认为是真正客户的人那里转移资金。 他Reg 也曾报道过类似情况 阿联酋发生袭击事件 早在2021年
浪漫骗局也很普遍,一名英国人爱上了一位 恶搞凯文·科斯特纳,犯罪分子也表明他们不会凌驾于执行之上 “家庭紧急情况”诈骗 – 例如,那些以克隆孩子声音来向父母索要保释金的行为。
更多 险恶的例子 看到母亲们接到据称是被“绑架者”扣为人质的女儿打来的电话,并索要巨额赎金。
通过向人工智能模型提供足够的训练数据来理解个人声音的声音、语气、节奏、语调和其他细微差别,语音克隆成为可能。鉴于网上存在大量名人和其他公众人物的声音录音,人们认为他们面临着遭受这些攻击的严重风险。
随着社交媒体和视频内容创作文化的兴起,许多非名人甚至儿童也有足够的在线材料来有效地训练模型。
卡巴斯基研究人员去年研究了人工智能语音克隆的兴起,发现了各种免费的开源工具,可以使用人工智能技术生成克隆语音。然而,他们认为,要获得令人信服的克隆并运行,需要一点 Python 知识,并且克隆者需要进行一些修补。
然而,付费产品往往更有效。研究人员指出 微软的VALL-E模型 据推测,只需将三秒的语音音频用作训练数据,就可以生成一个不错的克隆。
还有其他比免费解决方案效果更好的付费解决方案,但这些解决方案仍处于早期开发阶段,因此我们可以预期这些模型的准确性和有效性会随着时间的推移而提高。 ®
- :具有
- :是
- :不是
- $UP
- 000
- 10
- 12
- 12个月
- 2019
- 2021
- 7
- a
- 以上
- 滥用
- 账号管理
- 地址
- 管理
- 推进
- 后
- 再次
- 驳
- AI
- 还
- 其中
- an
- 和
- 应用领域
- 保健
- AS
- 问
- 评估
- At
- 攻击
- 音频
- 可使用
- 奖
- 背部
- 保释
- 银行
- 基于
- BE
- 很
- before
- 相信
- 最佳
- 更好
- 位
- 广阔
- 企业
- 但是
- by
- 呼叫
- 来了
- CAN
- 携带
- 例
- 现金
- 无现金
- 名人
- CEO
- 老总
- 挑战
- 更改
- 儿童
- 客户
- 美国有线电视新闻网
- CO
- 打击
- 佣金
- 公司
- 公司
- 关注
- 考虑
- 考虑
- 消费者
- 消费者
- 内容
- 内容创造
- 继续
- 可以
- 创建
- 创意奖学金
- 罪犯
- 危急
- 文化塑造
- 网络攻击
- data
- deepfakes
- 需求
- 问题类型
- 详细
- 研发支持
- 发现
- do
- 不会
- 每
- 早
- 易于使用
- 有效
- 只
- 效用
- 努力
- 出现
- 紧急
- 能源
- 更多
- 评估
- 甚至
- 例子
- 执行
- 存在
- 期望
- 专家
- 设备
- 事实
- 落下
- 家庭
- 家庭
- 远
- 可行
- 联邦
- 美国联邦贸易委员会
- 喂养
- 图
- 金融
- 聚焦
- 针对
- 向前
- 骗局
- 自由的
- 自如
- 朋友
- 止
- 联邦贸易委员会
- 生成
- 生成的
- 生成式人工智能
- 真正
- 得到
- 特定
- 成长
- 手
- 伤害
- 有害
- 危害
- 有
- 保持
- 帮助
- 创新中心
- 但是
- HTML
- HTTPS
- 巨大
- 匈牙利
- 思路
- if
- 改善
- in
- 独立
- 个人
- 拐点
- 成
- 涉及
- 问题
- IT
- 它的
- 一月
- JPG
- 只是
- 大
- (姓氏)
- 去年
- Level
- 责任
- 喜欢
- 范围
- 看着
- 爱
- 制成
- 主要
- 主流
- 许多
- 市场
- 材料
- 成熟
- 可能..
- 措施
- 媒体
- 提到
- 减轻
- 模型
- 模型
- 钱
- 监控
- 个月
- 更多
- 移动
- 许多
- 全新
- 纽约
- “纽约时报”
- 细微之处
- 数
- of
- 折扣
- 提供
- 提供
- 供品
- 优惠精选
- on
- 一
- 那些
- 在线
- 仅由
- 打开
- 开放源码
- or
- 组织
- 其他名称
- 输出
- 超过
- 支付
- 父母
- 部分
- 各方
- 过去
- 员工
- 人
- 地方
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 政策制定者
- 可能
- 帖子
- 潜力
- 预防
- 预防
- 以前
- 奖金
- 专业人士
- 有希望
- 成熟
- 国家
- 推
- 蟒蛇
- 提高
- 范围
- 上游
- 接收
- 承认
- 简称
- 重复
- 报道
- 必须
- 研究人员
- 弹性
- 责任
- 积分
- 上升
- 风险
- 风险
- 运行
- s
- 诈骗
- 秒
- 扇形
- 保安
- 看到
- 提交
- 发送
- 特色服务
- 商城
- 应该
- 如图
- 类似
- 自
- 小
- 小企业
- So
- 社会
- 社会化媒体
- 方案,
- 解决方案
- 一些
- 听起来
- 来源
- 阶段
- 仍
- 严格
- 提交
- 顺利
- 供应商
- 采取
- 服用
- 目标
- 瞄准
- 科技
- 技术性
- 专业技术
- 易于
- 比
- 这
- 其
- 他们
- 那里。
- 博曼
- 他们
- Free Introduction
- 思想
- 威胁
- 三
- 次
- 时
- 至
- TONE
- 也有
- 工具
- 最佳
- 贸易
- 培训
- 产品培训
- Uk
- 理解
- 直到
- 使用
- 用过的
- 运用
- 各种
- 可行
- 视频
- 音色
- VOICES
- 警告
- 是
- we
- 去
- 这
- WHO
- 宽
- 广泛
- 将
- 线
- 工作
- 将
- WSJ
- 年
- 年
- 纽约
- 和风网