为什么?因为人类默认信任。没有信任,我们作为一个物种就无法生存。从我们离开妈妈的那一天起,我们就想要并且需要信任他人才能生存。当你以任何形式混合媒体时,我们一生都信任的媒体,然后融入金融欺诈,某人在某个地方落入人工智能诡计的可能性是不可避免的。基于人工智能的“社会工程”诈骗正在迅速成为最纯粹、最有效的心理操纵形式。
Deepfake 人工智能骗局相当于反社会、精神病、自恋、煤气灯操纵、暴力掠夺者的数字化版本。
巴纳姆错了
俗话说“每分钟都有一个笨蛋诞生”。我很确定每分钟大约有 250 人左右出生。根据我的计算,他们每个人都是傻瓜。我,也包括你。这是什么意思?这意味着我们所有人都有可能被欺骗。我敢打赌,我们所有人都被欺骗了,或者说“被骗了”。这只是“默认信任”的危险。
只需看一下简单的“网络钓鱼电子邮件骗局”的演变即可。在过去的 20 年里,这种诡计已经从全面广播的“骗子语法”通信发展成为一种先进的持续威胁,通过了解和利用特定个人的个人和职业生活的各个方面来针对他们。
在这个技术快速进步和人工智能融合的时代,了解最新的骗局对每个人来说都势在必行。去年,网络安全领域出现了动荡的局面,主要公司成为恶意软件攻击、勒索软件的受害者,并且由于人工智能的进步,网络犯罪分子的机会激增。遗憾的是,该预测表明网络威胁和诈骗的复杂性和普遍性将进一步升级,因此个人必须保持警惕并积极主动地保护其数字资产。
考虑 Deepfake AI“造成的严重破坏”
深度造假网站和应用程序的迅速扩散正在造成严重破坏,引发了一波金融和个人欺诈浪潮,对个人和企业都构成独特的威胁。
在人工智能技术的可及性和复杂性的推动下,深度造假的扩散代表了一种令人不安的趋势。即使是普通的技术用户也拥有能够在足够的视频或图像的情况下模仿个人的工具。因此,我们必须预见到网络诈骗中视频和音频深度造假的使用将会激增。这已经发生了。诈骗者利用深度虚假视频和/或音频冒充上级,索取紧急信息。
同样,在个人领域,这些操纵策略可能涉及冒充家庭成员或朋友,欺骗个人泄露敏感信息或从一个银行账户提取资金来支付绑架赎金。尽管这听起来很荒谬,但如果你在远处的手机通话中听到你女儿的尖叫声,如果你认为你所爱的人被俘虏了,你可能会掏出现金。
人工智能深度造假的兴起给打击金融欺诈带来了巨大的挑战,因为它为网络犯罪分子提供了前所未有的能力。在人工智能的帮助下,网络犯罪集团可以迅速更新和增强传统的电汇欺诈策略以及复杂的冒充计划。这种快速演变危及了金融部门内验证和授权流程的可靠性,从而损害了整个金融系统的信任和信心。
这仅仅是个开始。
美国有线电视新闻网 报告 一名财务工作人员在与一名深造“首席财务官”进行视频通话后,遭受了 25 万美元的赔偿。
在香港警方详述的一项复杂计划中,一家跨国公司的一名财务人员沦为深度造假技术的牺牲品,导致冒充该公司首席财务官的冒名顶替者获得了高达 25 万美元的赔偿。
这个精心设计的诡计是在一次视频电话会议中展开的,毫无戒心的员工发现自己周围都是看似熟悉的面孔,却发现他们都是精心制作的深度假货复制品。尽管最初的怀疑是由一封可疑电子邮件引发的,但这名工人的疑虑很快被他所谓的同事令人信服的相似性所平息。
这一事件凸显了深度造假技术在实施前所未有的规模的金融欺诈方面的惊人有效性。尽管相信电话中的所有参与者都是真诚的,但该员工还是同意转账金额高达 200 亿港元,约合 25.6 万美元。该事件是最近发生的一系列事件的象征,其中犯罪者利用深度造假技术操纵公开视频和其他材料来诈骗个人。
此外,警方指出,人工智能生成的深度伪造品多次被用来通过模仿个人来欺骗面部识别系统。直到该员工联系公司总部核实后,涉及伪造首席财务官的欺诈计划才被揭露。
A美国甜心遭人工智能性侵
全球当局对深度造假技术的进步及其恶意利用的可能性发出警报。在最近发生的一起事件中, AI 制作的美国著名艺术家泰勒·斯威夫特 (Taylor Swift) 的色情图片 充斥着各种社交媒体平台,凸显了人工智能的危险后果之一。这些描绘这位歌手做出性挑逗姿势的露骨图片在迅速从网络平台上删除之前获得了数千万次观看。
斯威夫特作为一位经验丰富的名人,无疑感到一种违和感。如果将类似的情况归因于一位安静的 16 岁高中生,他或她可能会在压力下崩溃。这些技术会对现实生活甚至死亡产生影响。
Deepfake 市场深入黑暗网络的深处,成为网络犯罪分子青睐的资源,他们试图获取同步的 Deepfake 视频和音频,用于一系列非法目的,包括加密货币诈骗、虚假信息活动和旨在金融盗窃的社会工程攻击。在暗网论坛中,个人积极寻求 Deepfake 软件或服务,这凸显了对精通 AI 和 Deepfake 技术的开发人员的高需求,而他们通常会满足这些要求。
不要指望你的政府能解决这个问题
虽然深度伪造软件的创建本身仍然合法,但由于公开信息丰富,对某人的肖像和声音的使用处于合法的灰色地带。尽管针对深度造假内容的开发者或用户提起诽谤诉讼似乎是合理的,但定位他们所面临的挑战类似于识别策划其他类型攻击的网络犯罪分子所遇到的挑战。围绕深度造假应用程序的法律框架因司法管辖区和意图而异,创建或传播旨在伤害、欺诈或侵犯隐私的深度造假内容普遍是非法的。
尽管深度造假事件不像勒索软件或数据泄露那样普遍,但其数量却呈上升趋势,为网络犯罪分子带来了数十亿美元的损失。
去年, McAfee 报告称,深度伪造音频攻击显着增加,令人震惊的是,77% 的受害者遭受了经济损失。随着网络犯罪分子完善其深度伪造技术,组织必须加强用户教育和意识,纳入强调与深度伪造技术相关的风险以及通过多种渠道验证信息的重要性的培训计划。
开发能够实时识别深度造假的先进的基于人工智能的检测工具的努力仍在继续,但其功效仍在不断进步,特别是针对更复杂的深度造假作品。然而,犯罪分子利用人工智能进行诈骗总是领先两步,而意识培训由于缺乏落实而往往落后两步。
保护您自己和您的组织:
当遇到视频或音频请求时,必须考虑消息的语气。语言和措辞是否符合您对老板或家庭成员的期望?在采取任何行动之前,请花点时间停下来反思一下。通过不同的平台联系声称的发件人,如果可能的话最好亲自联系,以验证请求的真实性。这种简单的预防措施可以帮助防范由 Deepfake 技术促成的潜在欺骗,确保您不会成为冒充诈骗的受害者。
1. 及时了解最新动态:及时了解人工智能技术的最新发展及其在诈骗中的潜在应用。定期了解网络犯罪分子所采用的常见人工智能相关诈骗和策略。
2. 验证来源:对未经请求的消息持怀疑态度,尤其是那些请求敏感信息或金融交易的消息。在采取任何行动之前,请通过多个渠道验证发件人的身份。
3. 使用可信平台:仅通过信誉良好且安全的平台进行交易和通信。避免接触未知或未经验证的来源,尤其是在线市场或社交媒体平台。
4. 启用安全功能:尽可能利用多重身份验证等安全功能,为您的帐户和敏感数据添加额外的保护层。在安全门户环境中针对敏感操作(例如金融交易或机密信息的发布)实施多因素身份验证,可以作为针对深度伪造技术促进的欺诈请求的重要防御措施。
5. 更新软件:让您的设备和软件应用程序保持最新的安全补丁和更新。定期检查软件更新,以减少人工智能相关诈骗所利用的漏洞。
6. 审查请求:审查对个人或财务信息的请求,尤其是当这些请求看起来不寻常或来自意外来源时。网络犯罪分子可能会使用人工智能生成的内容来创建令人信服的网络钓鱼电子邮件或消息。
7. 教育他人:与朋友、家人和同事分享有关人工智能相关诈骗的知识和认识。鼓励他们采取安全的在线做法并对潜在威胁保持警惕。
8. 验证身份:在共享敏感信息或完成交易之前,请使用可信的联系方式验证接收者的身份。谨防人工智能生成的冒充可信个人的深度伪造视频或音频。
9. 警惕不切实际的报价:遇到好得令人难以置信的报价或交易时要小心谨慎。人工智能驱动的诈骗可能会承诺不切实际的回报或利益,以引诱受害者参与欺诈计划。
10. 举报可疑活动:如果您遇到可疑的人工智能相关活动或认为自己已成为诈骗目标,请向相关机构或平台举报。及时报告有助于防止进一步的剥削,并保护其他人免遭类似诈骗的受害者。
上述任何一项本身都不能解决这个问题。我必须强调这一点,组织及其员工必须持续不断地参与 安全意识培训, 现在比以往任何时候都更。
这并不意味着简单地自行部署网络钓鱼模拟训练。虽然网络钓鱼模拟培训对于“勾选框”合规性是必要的,但它只解决了欺诈预防和社会工程的一个方面。网络钓鱼模拟还远远不能解决人工智能心理操纵的问题。
- SEO 支持的内容和 PR 分发。 今天得到放大。
- PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
- 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
- 柏拉图ESG。 碳, 清洁科技, 能源, 环境, 太阳能, 废物管理。 访问这里。
- 柏拉图健康。 生物技术和临床试验情报。 访问这里。
- Sumber: https://www.finextra.com/blogposting/25697/you-will-get-suckered-by-an-ai-enabled-deep-fake?utm_medium=rssfinextra&utm_source=finextrablogs
- :具有
- :是
- :不是
- :在哪里
- $UP
- 20
- 20 年
- a
- 关于
- 以上
- 丰富
- 访问
- 账号管理
- 账户
- 操作
- 行动
- 积极地
- 活动
- 加
- 地址
- 采用
- 高级
- 进步
- 后
- 驳
- 向前
- AI
- AI供电
- 援助
- 针对
- 对齐
- 一样
- 所有类型
- 靠
- 已经
- 尽管
- 时刻
- 美国人
- an
- 和
- 预料
- 任何
- 出现
- 应用领域
- 约
- 应用
- 保健
- 国家 / 地区
- 人造的
- 人工智能
- 艺术家
- AS
- 方面
- 方面
- 办公室文员:
- 相关
- At
- 攻击
- 音频
- 认证
- 真实性
- 当局
- 授权
- 可使用
- 避免
- 意识
- 背景
- 银行
- 银行账户
- 基于
- BE
- 因为
- 成为
- 很
- before
- 开始
- 背后
- 作为
- 众生
- 相信
- 相信
- 好处
- 打赌
- 提防
- 天生的
- 老板
- 都
- 违规
- 企业
- by
- 计算
- 呼叫
- 活动
- CAN
- 不能
- 能力
- 能力
- 现金
- 迎合
- 警告
- 名人
- CFO
- 挑战
- 挑战
- 通道
- 查
- 首席
- 情况
- 关闭
- 美国有线电视新闻网
- 同事
- 战斗
- 如何
- 相当常见
- 通信
- 沟通
- 公司
- 完成
- 符合
- 进行
- 研讨会 首页
- 信心
- 机密
- 后果
- 所以
- 考虑
- 一贯
- CONTACT
- 内容
- 公司
- 企业
- 精雕细琢
- 创建信息图
- 创建
- 创作
- 罪犯
- 关键
- cryptocurrency
- 加密货币诈骗
- 网络
- 网络犯罪
- 网络罪犯
- 网络安全
- 黑暗
- 黑暗的网络
- data
- 数据泄露
- 日期
- 天
- 交易
- 死亡
- 欺骗
- 深
- 深度假
- 深度假货
- deepfakes
- 诽谤
- 默认
- 国防
- 再往
- 需求
- 描绘
- 部署
- 深度
- 尽管
- 详细
- 检测
- 开发
- 开发
- 发展
- 设备
- 不同
- 数字
- 数字资产
- 通过各种方式找到
- 造谣
- 遥远
- 不
- 不会
- 美元
- 美元
- 不
- 怀疑
- 两
- ,我们将参加
- 教育
- 教育
- 有效
- 效用
- 功效
- 阐述
- 邮箱地址
- 电子邮件
- 强调
- 就业
- 员工
- enable
- 遭遇
- 遇到
- 鼓励
- 从事
- 从事
- 工程师
- 提高
- 更多
- 保证
- 企业
- 环境
- 时代
- 升级
- 特别
- 必要
- 甚至
- EVER
- 所有的
- 每个人
- 进化
- 进化
- 锻炼
- 期望
- 熟练
- 利用
- 开发
- 剥削
- 额外
- 面孔
- 面部
- 面部识别
- 促进
- 假
- 秋季
- 落下
- 熟悉
- 家庭
- 家庭成员
- 特征
- 特色
- 感觉
- 金融
- 金融
- 财务欺诈
- 财务信息
- 金融部门
- 金融系统
- Finextra
- 固定
- 潦
- 以下
- 针对
- 收益预测
- 申请
- 强大
- 论坛
- 发现
- 框架
- 骗局
- 预防诈骗
- 欺诈
- 朋友
- 止
- 推动
- 资金
- 进一步
- 囊括
- 真正
- 得到
- 特定
- 在全球范围内
- 非常好
- 灰色
- 灰色地带
- 长大的
- 事件
- 伤害
- 有
- he
- 头
- 听说
- 保持
- 帮助
- 高
- 突出
- 他自己
- 他的
- 香
- 香港
- 但是
- HTML
- HTTPS
- 人
- i
- 生病
- 理想
- 确定
- 身份
- 身分
- if
- 不法
- 非法的
- 图片
- 势在必行
- 履行
- 实施
- 重要性
- in
- 事件
- 包括
- 包含
- 结合
- 增加
- 表示
- 个人
- 必然
- 信息
- 通知
- 初始
- 积分
- 房源搜索
- 智能化
- 拟
- 意图
- 成
- 涉及
- 涉及
- IT
- 它的
- 本身
- JPG
- 管辖权
- 只是
- 只有一个
- 保持
- 知识
- 香港
- 缺乏
- 景观
- 语言
- 大
- 最新
- 最新发展
- 层
- 法律咨询
- 借力
- 生活
- 一生
- 可能性
- 容易
- 生活
- 定位
- 看
- 爱
- 主要
- 制作
- 恶意
- 恶意软件
- 操作
- 标
- 市场
- 交易市场
- 物料
- 可能..
- 迈克菲
- me
- 意味着
- 手段
- 媒体
- 会员
- 成员
- 的话
- 条未读消息
- 方法
- 百万
- 百万
- 百万观看
- 分钟
- 减轻
- 混合
- 时刻
- 更多
- 最先进的
- 跨国公司
- 多
- 必须
- my
- 必要
- 需求
- 注意到
- 现在
- 众多
- 场合
- of
- 优惠精选
- 办公
- 官
- 经常
- on
- 一
- 正在进行
- 在线
- 网上平台
- 仅由
- 运营
- 机会
- or
- 编排
- 秩序
- 组织
- 组织
- 其他名称
- 其它
- 我们的
- 输出
- 超过
- 与会者
- 尤其
- 过去
- 补丁
- 暂停
- 员工
- 人
- 个人
- 网络钓鱼
- 钓鱼
- 电话
- 电话
- 平台
- 平台
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 似是而非
- Police
- 门户网站
- 提出
- 构成
- 拥有
- 可能
- 潜力
- 做法
- 前
- 礼物
- 压力
- 漂亮
- 流行
- 流行
- 防止
- 预防
- 猎物
- 隐私
- 主动
- 市场问题
- 过程
- 提供
- 所以专业
- 训练课程
- 进展
- 承诺
- 保护
- 保护
- 提供
- 心理
- 公然
- 目的
- 很快
- 后果
- 范围
- 赎金
- 勒索
- 快
- 达到
- 达到
- 真实
- 现实生活
- 实时的
- 最近
- 承认
- 提炼
- 反映
- 经常
- 释放
- 相应
- 可靠性
- 留
- 遗迹
- 切除
- 闻名
- 报告
- 报道
- 报告
- 代表
- 信誉良好
- 请求
- 请求
- 要求
- 资源
- 导致
- 回报
- 上升
- 风险
- s
- 安全
- 维护
- 保护
- 说
- 鳞片
- 诈骗
- 骗子
- 诈骗
- 方案
- 方案
- 尖叫
- 老练
- 扇形
- 安全
- 保安
- 寻找
- 寻求
- 似乎
- 寄件人
- 感
- 敏感
- 系列
- 服务
- 特色服务
- 服务
- Share
- 共享
- 她
- 显著
- SIM
- 类似
- 简易
- 只是
- 模拟
- 歌手
- 单
- 怀疑的
- 社会
- 社会工程学
- 社会化媒体
- 社会化媒体平台
- 软件
- 解决
- 解决
- 有人
- 某处
- 极致
- 极致
- 声音
- 来源
- 引发
- 具体的
- 团队
- 惊人的
- 留
- 住宿
- 步骤
- 应力
- 屈服
- 这样
- 足够
- 应该
- 肯定
- 浪涌
- 包围
- 周围
- 生存
- 可疑
- SWIFT的
- 如飞
- 辛迪加
- 产品
- 策略
- 采取
- 服用
- 针对
- 目标
- 技术
- 技术性
- 技术
- 专业技术
- HAST
- 比
- 这
- 盗窃
- 其
- 他们
- 然后
- 从而
- 博曼
- 他们
- Free Introduction
- 那些
- 虽然?
- 思想
- 威胁
- 威胁
- 威胁
- 通过
- 至
- TONE
- 也有
- 工具
- 传统
- 产品培训
- 交易
- 转让
- 传输
- 趋势
- 烦人的
- true
- 信任
- 信任
- 二
- 类型
- 裸露
- 下
- 下划线
- 理解
- 无疑
- 意外
- 独特地
- 举世
- 不明
- 肆行
- 史无前例
- 不请自来
- 更新
- 最新动态
- 紧急
- us
- 使用
- 用户
- 用户
- 运用
- 利用
- 利用
- 各个
- 变化
- 企业验证
- 确认
- 验证
- 受害者
- 受害者
- 视频
- 视频会议
- 视频
- 意见
- 违反
- 音色
- 漏洞
- 想
- 是
- 波
- we
- 编织
- 卷筒纸
- 网站
- 为
- 什么是
- ,尤其是
- 每当
- 而
- WHO
- 将
- 线
- 中
- 也完全不需要
- 目击
- 工作
- 工人
- 年
- 年
- 完全
- 您一站式解决方案
- 你自己
- 和风网