美国国家安全局发布保护人工智能系统安全的新指南

美国国家安全局发布保护人工智能系统安全的新指南

托德·福克


托德·福克

发表于: 2024 年 4 月 17 日

美国国家安全局(NSA)于 15 月 XNUMX 日发布了网络安全信息(CSI)表,旨在帮助私人国防和安全公司安全地实施其他组织开发的人工智能系统。主要负责监视外国通信的美国情报机构国家安全局通过其新成立的人工智能安全中心(AISC)发布了该指南。

“人工智能带来了前所未有的机会,但也可能为恶意活动提供机会。 NSA 在提供网络安全指导、人工智能专业知识和高级威胁分析方面拥有独特的优势,”NSA 网络安全总监 Dave Luber 在 AISC 的新闻稿中表示。

尽管新的人工智能指南是在考虑到国家安全目标的情况下制定的,但其原则几乎可以被任何希望在其运营中实施人工智能系统的公共或私人组织采用。

新指南以之前的两份人工智能报告为基础,重点关注人工智能系统的安全开发和安全运维。新指南的总体目标是:“安全部署人工智能系统:部署安全和弹性人工智能系统的最佳实践”:

  1. 确保人工智能系统中已知的网络安全漏洞得到适当缓解;和
  2. 提供方法和控制措施来保护、检测和响应针对人工智能系统及相关数据和服务的恶意活动。[1]

美国国家安全局 (NSA) 与联邦调查局 (FBI) 以及加拿大、英国、澳大利亚和新西兰的信号情报机构于 2023 年 XNUMX 月联合成立了 AISC,以提高人工智能系统的机密性、完整性和可用性。 AISC 是网络安全协作中心 (CCC) 的一部分,其目标是:

  1. 检测并应对人工智能漏洞;
  2. 推动与来自美国工业界、国家实验室、学术界、IC、国防部和精选外国合作伙伴的业界和专家的合作伙伴关系;
  3. 开发和推广人工智能安全最佳实践;
  4. 并确保国家安全局有能力领先对手的战术和技术。

[1] https://media.defense.gov/2024/Apr/15/2003439257/-1/-1/0/CSI-DEPLOYING-AI-SYSTEMS-SECURELY.PDF

时间戳记:

更多来自 安全侦探