ChatGPT 使用的扩展功能中发现的三个安全漏洞为未经授权的零点击访问用户帐户和服务(包括 GitHub 等平台上的敏感存储库)打开了大门。
开发人员发布的 ChatGPT 插件和 ChatGPT 自定义版本扩展了 AI 模型的功能,通过授予 OpenAI 流行的生成式 AI 聊天机器人访问权限以及在各种第三方网站(包括 GitHub 和 Google Drive)上执行任务的权限,实现与外部服务的交互。
盐实验室的研究人员发现 影响 ChatGPT 的三个严重漏洞,其中第一个发生在安装新插件期间,此时 ChatGPT 将用户重定向到插件网站以进行代码批准。通过利用这一点,攻击者可以诱骗用户批准恶意代码,从而导致自动安装未经授权的插件和潜在的后续帐户泄露。
其次,插件开发框架PluginLab缺乏适当的用户身份验证,使得攻击者能够冒充用户并执行帐户接管,正如连接ChatGPT和GitHub的“AskTheCode”插件所见。
最后,Salt 研究人员发现某些插件容易受到 OAuth 重定向操作,允许攻击者插入恶意 URL 并窃取用户凭据,从而促进进一步的帐户接管。
报告指出,问题已得到解决,并且没有证据表明这些漏洞已被利用,因此用户应尽快更新他们的应用程序。
GenAI 安全问题使庞大的生态系统面临风险
Salt Security 研究副总裁 Yaniv Balmas 表示,研究团队发现的问题可能会让数十万用户和组织面临风险。
“任何组织的安全领导者都必须更好地了解风险,因此他们应该检查公司正在使用哪些插件和 GPT,以及哪些第三方帐户通过这些插件和 GPT 暴露,”他说。 “作为起点,我们建议对他们的代码进行安全审查。”
对于插件和 GPT 开发者,Balmas 建议开发者更好地了解 GenAI 生态系统的内部结构、涉及的安全措施、如何使用它们以及如何滥用它们。具体包括向 GenAI 发送哪些数据,以及向 GenAI 平台或连接的第三方插件授予哪些权限,例如 Google Drive 或 GitHub 的权限。
Balmas 指出,Salt 研究团队只检查了该生态系统的一小部分,并表示研究结果表明其他 GenAI 平台以及许多现有和未来的 GenAI 插件存在更大的风险。
Balmas 还表示,OpenAI 应该在为开发人员提供的文档中更加重视安全性,这将有助于降低风险。
GenAI 插件安全风险可能会增加
Critical Start 的网络威胁情报研究分析师 Sarah Jones 同意 Salt Lab 的调查结果表明 更广泛的安全风险 与 GenAI 插件相关。
“随着 GenAI 与工作流程的集成度越来越高,插件中的漏洞可能会让攻击者能够访问各种平台内的敏感数据或功能,”她说。
这强调了对 GenAI 平台及其插件生态系统制定稳健的安全标准和定期审核的必要性,因为黑客开始 针对这些平台中的缺陷.
Keeper Security 首席执行官兼联合创始人达伦·古乔内 (Darren Guccione) 表示,这些漏洞“鲜明地提醒”了第三方应用程序所涉及的固有安全风险,应促使组织加强防御。
他表示:“随着组织急于利用人工智能来获得竞争优势并提高运营效率,快速实施这些解决方案的压力不应优先于安全评估和员工培训。”
人工智能应用程序的激增也带来了挑战 软件供应链安全,要求组织调整其安全控制和数据治理策略。
他指出,员工越来越多地将专有数据输入人工智能工具,包括知识产权、财务数据、业务战略等,而恶意行为者未经授权的访问可能会给组织造成严重损害。
“危及员工 GitHub 帐户或其他敏感帐户的帐户接管攻击可能会产生同样的破坏性影响,”他警告说。
- :具有
- :是
- :不是
- $UP
- 7
- a
- 关于
- 滥用
- ACCESS
- 账号管理
- 账户
- 适应
- 影响
- 同意
- AI
- AI聊天机器人
- 允许
- 还
- an
- 分析人士
- 和
- 任何
- 应用领域
- 批准
- 应用
- 保健
- AS
- 相关
- At
- 攻击
- 审计
- 认证
- 自动表
- 察觉
- BE
- 成为
- 很
- 作为
- 更好
- 大
- 都
- 商业
- by
- 能力
- 注意事项
- CEO
- 一定
- 链
- 挑战
- 聊天机器人
- ChatGPT
- 检查
- 联合创始人
- 码
- 公司
- 竞争的
- 妥协
- 已联繫
- 连接
- 控制
- 可以
- 资历
- 残废
- 危急
- 习俗
- 网络
- 损坏
- data
- 防御
- 开发
- 研发支持
- 文件
- 门
- 驾驶
- ,我们将参加
- 生态系统
- 生态系统
- 边缘
- 效率
- 重点
- 强调
- 员工
- 员工
- 员工
- 使
- 提高
- 进入
- 一样
- 评价
- 证据
- 例子
- 执行
- 现有
- 剥削
- 利用
- 裸露
- 延长
- 延期
- 外部
- 促进
- 金融
- 财务数据
- 发现
- (名字)
- 固定
- 缺陷
- 针对
- 发现
- 骨架
- 功能
- 功能
- 进一步
- 未来
- Gain增益
- Genai
- 生成的
- 生成式人工智能
- GitHub上
- 特定
- 谷歌
- 治理
- 发放
- 黑客
- 民政事务总署
- 有
- he
- 帮助
- 创新中心
- How To
- HTTPS
- 数百
- 影响
- 模仿
- 实施
- in
- 包括
- 包含
- 增加
- 日益
- 表明
- 固有
- 安装
- 集成
- 知识分子
- 知识产权
- 房源搜索
- 互动
- 成
- 介绍
- 参与
- 问题
- 琼斯
- JPG
- 实验室
- 实验室
- 领导人
- 领导
- 杠杆作用
- 喜欢
- 容易
- 制作
- 恶意
- 许多
- 可能..
- 措施
- 模型
- 更多
- 必须
- 需求
- 全新
- 没有
- 注意到
- of
- on
- 仅由
- 打开
- OpenAI
- 操作
- or
- 组织
- 组织
- 其他名称
- 输出
- 超过
- 百分比
- 允许
- 权限
- 平台
- 平台
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 点
- 点
- 政策
- 热门
- 可能
- 潜力
- 总统
- 压力
- 正确
- 财产
- 所有权
- 提供
- 出版
- 放
- 很快
- 建议
- 减少
- 定期
- 相应
- 提醒
- 报告
- 研究
- 研究人员
- 检讨
- 风险
- 风险
- 健壮
- 赶
- s
- 盐
- 说
- 保安
- 保安措施
- 安全风险
- 看到
- 敏感
- 发送
- 服务
- 特色服务
- 她
- 应该
- 自
- 小
- So
- 解决方案
- 或很快需要,
- 特别是
- 标准
- 与之形成鲜明
- 开始
- 开始
- 策略
- 建议
- 供应
- 供应链
- 易感
- 采取
- 收购
- 任务
- 团队
- 这
- 其
- 他们
- 那里。
- 博曼
- 他们
- 第三方
- Free Introduction
- 那些
- 数千
- 威胁
- 通过
- 至
- 工具
- 产品培训
- 招
- 擅自
- 裸露
- 理解
- 更新
- 使用
- 用户
- 用户
- 运用
- 各个
- 广阔
- 版本
- 副
- 副总裁
- 漏洞
- 是
- we
- 网站
- 为
- 什么是
- ,尤其是
- 这
- 将
- 中
- 工作流程
- 将
- 和风网