OpenAI 实验室的高管本周在达沃斯举行的世界经济论坛 (WEF) 上表示,该实验室正在为美国军方开发人工智能驱动的网络安全能力,并将其选举安全工作置于高速状态。
几天后,公众在与武装部队合作方面态度大转变 在某一方面的变化 OpenAI 的政策语言此前禁止将其生成式人工智能模型用于“军事和战争”应用,以及“生成恶意软件”及其技术。这些限制现在已经从 ChatGPT 制造商的精美印刷品中消失了。尽管如此,超级实验室强调其技术仍然不应该用于暴力、破坏或通信间谍活动。
OpenAI 发言人表示:“我们的政策不允许我们的工具被用来伤害人类、开发武器、进行通信监视、伤害他人或破坏财产。” 注册 !
“然而,有些国家安全用例与我们的使命相符。
“我们已经与 DARPA 合作,推动新网络安全工具的创建,以保护关键基础设施和行业所依赖的开源软件。目前尚不清楚这些有益的用例是否会在我们之前的政策中被允许用于“军事”。因此,我们政策更新的目标是提供清晰度和进行这些讨论的能力。”
周二,在一次 访问 在为世界领导人举行的世界经济论坛上,OpenAI 全球事务副总裁 Anna Makanju 表示,其与五角大楼的合作包括开发开源网络安全软件。她说,OpenAI 还开始与美国政府就其技术如何帮助防止退伍军人自杀进行谈判。
马坎朱说:“因为我们之前对军事实行了本质上的全面禁止,所以许多人认为这会禁止许多这样的用例,人们认为这与我们希望在世界上看到的情况非常一致。”
然而,尽管删除了 ChatGPT 的“军事和战争”以及其他“不允许的用途”,Makanju 表示 OpenAI 仍然禁止使用其模型开发伤害人类的武器。
同样在同一次采访中,OpenAI 首席执行官 Sam Altman 表示,该公司正在采取措施,确保其生成式人工智能工具不会被用来传播与选举相关的虚假信息。
也遵循类似的 由微软推动是 OpenAI 最大的投资者,该公司于 2024 月宣布了针对“美国和其他将在 XNUMX 年举行关键选举的国家”的五步选举保护战略。
“这次选举事关重大,”奥尔特曼周二表示。
就在美国前总统唐纳德·特朗普发表讲话的第二天 大赢 周一在爱荷华州党团会议上。
所有这些主题——人工智能、网络安全和虚假信息——在议程上都扮演着重要的角色 世界领导人会面 本周在达沃斯。
根据世界经济论坛的 全球风险报告2024上周发布的报告显示,“错误信息和虚假信息”是最大的短期全球风险,“网络不安全”位居第四。
生成式人工智能的兴起加剧了这些挑战,世界经济论坛上有 56% 的高管接受了调查 网络安全年会 2023 年 XNUMX 月说 生成式人工智能将为攻击者提供优势 未来两年内超越防守者。
Tenable 欧洲、中东和非洲地区技术总监伯纳德·蒙特尔 (Bernard Montel) 表示:“特别令人担忧的是使用人工智能技术来增强网络战能力,这是有充分理由的。” 注册.
“虽然人工智能在过去 12 到 24 个月里取得了天文数字的技术进步,但让自主设备做出最终判断在今天是不可理解的,”他补充道。
“虽然人工智能能够快速识别和自动化一些需要采取的行动,但人类必须根据人工智能提供的情报,就何时何地采取行动做出关键决策。” ®
- :具有
- :是
- :不是
- :在哪里
- 12
- 2023
- 2024
- 24
- 7
- a
- 对,能力--
- 法案
- 行动
- 添加
- 进步
- 事务
- 后
- 议程
- AI
- AI模型
- AI供电
- 对齐
- 对齐的
- 所有类型
- 让
- 允许
- 允许
- 沿
- 已经
- 还
- an
- 和
- 公布
- 应用领域
- 保健
- 武装的
- AS
- At
- 自动化
- 自主性
- 禁令
- BE
- 因为
- 很
- 有利
- 商业
- 彭博
- 促进
- by
- CAN
- 能力
- 能力
- 例
- CEO
- 挑战
- ChatGPT
- 明晰
- 清除
- 美国有线电视新闻网
- CO
- 购买的订单均
- 未来
- 通信
- 关心
- 国家
- 创建
- 创造新的
- 危急
- 关键基础设施
- 网络
- 网络安全
- DARPA
- 达沃斯
- 天
- 一年中的
- 决定
- 捍卫者
- 依赖
- 尽管
- 摧毁
- 开发
- 发展
- 设备
- 副总经理
- 讨论
- 造谣
- 不
- 唐纳德
- 唐纳德·特朗普
- ,我们将参加
- 经济
- 经济论坛
- 选举
- 选举
- 欧洲与中东地区
- 确保
- 间谍
- 本质上
- 高管
- 管理人员
- 最后
- 结束
- 如下
- 针对
- 部队
- 前
- 论坛
- 四
- 止
- 婴儿车
- 代
- 生成的
- 生成式人工智能
- 得到
- 给
- 全球
- 目标
- 非常好
- 政府
- 民政事务总署
- 伤害
- 有
- he
- 帮助
- 高
- 创新中心
- 但是
- HTML
- HTTPS
- 人类
- 伤害
- 确定
- 势在必行
- in
- 包括
- 费解的
- 行业中的应用:
- 基础设施
- 不安全
- 房源搜索
- 专属采访
- 成
- 投资者
- 爱荷华州
- ISN
- IT
- 它的
- JPG
- 实验室
- 语言
- 最大
- (姓氏)
- 领导人
- 占地
- 制成
- 维护
- 使
- 制造者
- 制作
- 恶意软件
- 许多
- 很多人
- 会议
- 军工
- 误传
- 使命
- 模型
- 周一
- 个月
- 许多
- National
- 国家安全
- 需求
- 全新
- 下页
- 十一月
- 现在
- 数
- of
- on
- 那些
- 打开
- 开放源码
- OpenAI
- or
- 其他名称
- 其它
- 我们的
- 超过
- 特别
- 合作伙伴
- 五角大楼
- 员工
- 百分
- 地方
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 播放
- 政策
- 政策
- 总统
- 唐纳德·特朗普总统
- 防止
- 以前
- 先前
- 打印
- 被禁止
- 禁令
- 突出
- 财产
- 保护
- 提供
- 提供
- 国家
- 出版
- 很快
- 原因
- 删除
- 报告
- 上升
- 风险
- 风险
- 角色
- s
- 说
- Sam
- 山姆·奥特曼
- 同
- 说
- 安全
- 保安
- 看到
- 她
- 转换中
- 短期的
- 类似
- So
- 软件
- 一些
- 来源
- 发言人
- 传播
- 股权
- 开始
- 州
- 步骤
- 仍
- 策略
- 超级
- 应该
- 监控
- 调查
- 采取
- 拍摄
- 服用
- 会谈
- 文案
- 技术性
- 技术
- 专业技术
- 这
- 世界
- 那里。
- 博曼
- 认为
- Free Introduction
- 本星期
- 那些
- 思想
- 至
- 今晚
- 告诉
- 工具
- 最佳
- Topics
- 王牌
- 周二
- 二
- 下
- 联合的
- 美国
- 更新
- us
- 美国政府
- 美军
- 美国总统
- 使用
- 用过的
- 运用
- 非常
- 老将
- 暴力
- vp
- 想
- 是
- we
- 武器
- 周
- WEF
- 井
- 什么是
- ,尤其是
- 是否
- 这
- 而
- 将
- 中
- 工作
- 加工
- 世界
- 世界经济论坛
- 将
- 年
- 和风网