据报道,一家总部位于香港的跨国公司的一名财务人员在一次视频电话会议中使用 Deepfake AI 技术冒充该公司的首席财务官后,损失了 200 亿港元(25.6 万美元)的公司资金。
警方称,该员工上个月收到了一条自称是该公司驻伦敦首席财务官的信息。这个人,原来是一个 骗子,要求该员工加入与其他四到六名员工的“加密”视频通话。
经过最初的犹豫,该员工在视频通话后被说服了,因为出席的其他人看起来和听起来都像他在工作中认识的人。 报道.
也可以参考: 男子使用换脸 AI 向诈骗者损失 600,000 美元
欺骗金融专业人士
假CFO没有浪费时间。他迅速发出紧急呼吁,以促进资金转移。受害者相信视频通话中的其他人都是真实的,并遵守了指示,最终将 15 笔转账转入 XNUMX 个当地银行账户。
该工人总共同意转账 200 亿港元(当时约合 25.6 万美元)。一周后,该员工向公司总部核实后发现自己被骗。他向警方报告了此事。
“(在)多人视频会议中,事实证明(他看到的)每个人都是假的,”香港警察高级警司陈顺清说。警官没有透露该公司或该工人的姓名或详细信息。
据陈介绍,这些视频是使用人工智能生成的,并且是根据过去的真实在线会议制作的。为了增加骗局的深度和可信度,诈骗者使用 WhatsApp、电子邮件以及与香港工作人员进行一对一视频会议。
陈说:“我相信欺诈者提前下载了视频,然后使用人工智能添加假声音以在视频会议中使用。”并在另一份报告中补充道:
“他们使用 Deepfake 技术来模仿目标朗读脚本的声音。”
警方表示,香港利用人工智能深度造假技术骗取钱财的案件不断增加。 Chan 表示,2023 年 90 月至 54 月期间,八张被盗的本地身份证被用来提出 XNUMX 份贷款申请和 XNUMX 个银行账户注册。 报道 由CNN。
据香港警方称,诈骗者利用 人工智能深度伪造 至少 20 次“通过模仿身份证上的人”来欺骗面部识别软件。警方已逮捕六名与此类诈骗有关的人。
人工智能深度假货令全球领导人担忧
专家表示,随着人工智能变得更加先进,区分真假身份将变得越来越困难。该技术可能会破坏数字身份的安全和隐私。
例如,它可用于创建深度伪造、真实但虚假的图像或视频,用于模仿他人,包括他们的声音,正如香港案例中所强调的那样。
自 OpenAI 推出病毒式聊天机器人以来,世界各地的监管机构开始更加关注人工智能的危险 ChatGPT 十一月2022。
在美国,参议员 介绍 上个月底的一项两党法案允许在未经同意的人工智能生成的色情深度假货中描绘的受害者起诉视频的创作者。
这一决定是在人工智能生成的露骨色情图像之后做出的。 泰勒斯威夫特 这张专辑在包括 X 在内的社交媒体上疯传,在之前的 Twitter 平台屏蔽了对这位流行歌手的搜索之前,有数以千万计的人观看了它们。
在中国,国家网信办去年发布了新规定,禁止使用人工智能生成的内容传播“假新闻”。该法规还要求深度伪造技术的提供商将其产品明确标记为合成产品。
在印度,IT 部长拉吉夫·钱德拉塞卡 (Rajeev Chandrasekhar) 最近 警告 社交媒体公司将对人们在其平台上发布的人工智能深度假货负责。此前,印度演员 Rashmika Mandanna 拍摄了一段由人工智能制作的半裸视频。 出现 11月上线。
- :具有
- :不是
- :在哪里
- 000
- 15%
- 20
- 2022
- 2023
- 54
- a
- 根据
- 账号管理
- 问责
- 账户
- 加
- 添加
- 管理
- 推进
- 高级
- 后
- 议定
- AI
- 让
- 还
- an
- 和
- 另一个
- 上诉
- 应用领域
- 围绕
- 被捕
- 人造的
- 人工智能
- AS
- At
- 勤
- 关注我们
- 禁令
- 银行
- 银行账户
- 银行账户
- 男爵
- BE
- 因为
- 成为
- 成为
- 很
- before
- 相信
- 相信
- 之间
- 法案
- 两党
- 封锁
- 但是
- by
- 呼叫
- 来了
- CAN
- 牌
- 案件
- 例
- CFO
- 陈
- 聊天机器人
- 检查
- 首席
- 中国
- 自称
- 明确地
- 美国有线电视新闻网
- COM的
- 购买的订单均
- 公司
- 公司
- 公司的
- 研讨会 首页
- 会议
- 地都
- 内容
- 确信
- 全国
- 创建信息图
- 创作者
- 可信性
- 网络空间
- 危险
- 决定
- deepfakes
- 深度
- 详情
- DID
- 难
- 数字
- 区分
- 八
- 其他
- 邮箱地址
- 员工
- 终于
- 每个人
- 例子
- 专家
- 面部
- 面部识别
- 促进
- 假
- 金融
- 金融
- 五
- 针对
- 以前
- 发现
- 四
- 骗子
- 止
- FT
- 产生
- 真正
- 全球
- 民政事务总署
- 有
- he
- 头
- 保持
- 高
- 突出
- 香
- 香港
- HTTPS
- ID
- 身份
- 身分
- 图片
- 模仿
- in
- 包含
- 增加
- 日益
- 印度
- 印度
- 初始
- 说明
- 房源搜索
- 成
- 发行
- IT
- 它的
- 加入
- 七月
- 已知
- 香港
- 标签
- (姓氏)
- 去年
- 晚了
- 后来
- 推出
- 最少
- 喜欢
- 贷款
- 本地
- 看着
- 失去
- 丢失
- 制成
- 使
- 制作
- 问题
- 最大宽度
- 媒体
- 成员
- 的话
- 百万
- 百万
- 钱
- 汇款
- 月
- 更多
- 跨国公司
- 姓名
- 全新
- 消息
- 十一月
- of
- 办公
- 官
- on
- 在线
- OpenAI
- or
- 其他名称
- 其它
- 输出
- 过去
- 员工
- 人
- 平台
- 平台
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- Police
- 流行的
- 发布
- 隐私
- 核心产品
- 供应商
- 阅读
- 阅读
- 真实
- 现实
- 收到
- 最近
- 承认
- 法规
- 报告
- 报道
- 据说
- 要求
- 揭示
- s
- 说
- 锯
- 诈骗
- 骗子
- 诈骗
- 脚本
- 搜索
- 保安
- 参议院
- 参议员
- 前辈
- 九月
- 自
- 歌手
- SIX
- 社会
- 社会化媒体
- 软件
- 有人
- 满面
- 传播
- 团队
- 标准
- 开始
- 被盗
- 这样
- 起诉
- 如飞
- 合成的
- 目标
- 专业技术
- HAST
- 这
- 世界
- 其
- 他们
- 然后
- Free Introduction
- 次
- 时
- 至
- 合计
- 转让
- 转让
- 招
- 转身
- 原来
- 我们
- 破坏
- 紧急
- 使用
- 用过的
- 运用
- 受害者
- 受害者
- 视频
- 视频会议
- 视频
- 病毒
- 音色
- VOICES
- 是
- 废物回收
- 周
- 去
- 为
- WHO
- 将
- 工作
- 工人
- 世界
- 担心
- 将
- X
- 年
- 和风网