CISA 和 NCSC 牵头努力提高人工智能安全标准

英国国家网络安全局（NCSC）和美国网络安全和基础设施安全局（CISA）发布了保护人工智能应用程序安全的官方指南——这些机构希望这份文件将确保人工智能开发中固有的安全性。

英国间谍机构称 指导文件 这是同类中的首创，并得到了其他 17 个国家的认可。

驾驶 刊物 人们长期以来担心，随着人工智能系统提供商努力跟上人工智能发展的步伐，安全性将成为事后的想法。

NCSC 首席执行官林迪·卡梅伦 (Lindy Cameron) 今年早些时候表示，科技行业历来在技术快速发展时将安全性作为次要考虑因素。

今天，《人工智能系统安全开发指南》再次引起人们对这一问题的关注，并补充说人工智能也将不可避免地面临新的漏洞。

卡梅伦表示：“我们知道人工智能正在以惊人的速度发展，各国政府和行业需要采取协调一致的国际行动才能跟上。”

“这些指南标志着在围绕人工智能的网络风险和缓解策略形成真正的全球共识方面迈出了重要一步，以确保安全不是发展的后记，而是贯穿始终的核心要求。 

“我很自豪 NCSC 正在领导提高人工智能网络安全标准的关键工作：更安全的全球网络空间将帮助我们所有人安全、自信地实现这项技术的绝佳机会。”

该指南采用了 设计安全 方法，理想地帮助人工智能开发人员在开发过程的各个阶段做出最安全的网络安全决策。 它们将适用于从头开始构建的应用程序以及基于现有资源构建的应用程序。

支持该指南的国家及其各自的网络安全机构的完整列表如下：

• 澳大利亚 – 澳大利亚信号局的澳大利亚网络安全中心 (ACSC) 
• 加拿大 – 加拿大网络安全中心 (CCCS) 
• 智利 – 智利政府 CSIRT
• 捷克 – 捷克国家网络和信息安全局 (NUKIB)
• 爱沙尼亚 – 爱沙尼亚信息系统管理局 (RIA) 和爱沙尼亚国家网络安全中心 (NCSC-EE)
• 法国 – 法国网络安全局 (ANSSI)
• 德国 – 德国联邦信息安全办公室 (BSI)
• 以色列 – 以色列国家网络管理局 (INCD)
• 意大利 – 意大利国家网络安全局 (ACN)
• 日本 – 日本国家网络安全事件准备和战略中心 (NISC；日本内阁府科学、技术和创新政策秘书处
• 新西兰 – 新西兰国家网络安全中心
• 尼日利亚 – 尼日利亚国家信息技术发展局 (NITDA)
• 挪威 – 挪威国家网络安全中心 (NCSC-NO)
• 波兰——波兰NASK国家研究院（NASK）
• 大韩民国 – 韩国国家情报院 (NIS)
• 新加坡 – 新加坡网络安全局 (CSA)
• 大不列颠及北爱尔兰联合王国 – 国家网络安全中心 (NCSC)
• 美利坚合众国 - 网络安全和基础设施局 (CISA)； 国家安全局 (NSA)；联邦调查局 (FBI)

该指南分为四个关键重点领域，每个领域都提供了改进人工智能开发周期每个阶段的具体建议。

1. 安全设计

正如标题所示，该指南指出，即使在开发开始之前也应该考虑安全性。 第一步是提高员工对人工智能安全风险及其缓解措施的认识。 

然后，开发人员应该对其系统的威胁进行建模，同时考虑这些威胁的未来发展，例如考虑随着技术吸引更多用户而出现的更多安全威胁，以及未来的技术发展（例如自动攻击）。

安全决策还应该与每个功能决策一起制定。 如果在设计阶段，开发人员意识到人工智能组件将触发某些操作，则需要询问如何最好地保护此过程。 例如，如果人工智能将修改文件，那么应该添加必要的保护措施，以将这种能力限制在应用程序的特定需求范围内。

2. 安全开发

确保开发阶段的安全包括供应链安全指导、维护可靠的文档、保护资产和管理技术债务。

过去几年，供应链安全一直是防御者特别关注的焦点，一系列引人注目的攻击导致了 大量受害者. 

确保人工智能开发人员使用的供应商经过验证并按照高安全标准运行非常重要，为关键任务系统遇到问题制定计划也很重要。

3. 安全部署

安全部署涉及保护用于支持人工智能系统的基础设施，包括 API、模型和数据的访问控制。 如果发生安全事件，开发人员还应该制定响应和补救计划，假设问题有一天会浮出水面。

模型的功能和训练数据应持续受到保护，免受攻击，并且只有在经过彻底的安全评估后才应负责任地发布。 

人工智能系统还应该让用户在默认情况下轻松保持安全，在可能的情况下，将最安全的选项或配置作为所有用户的默认设置。 用户数据如何使用、存储和访问的透明度也很关键。

4、安全运维

最后一部分介绍了如何在部署人工智能系统后保护其安全。 

监控是其中的核心，无论是跟踪可能影响安全的更改的系统行为，还是系统中的输入内容。 满足隐私和数据保护要求需要监控和 记录 输入滥用迹象。 

默认情况下，更新也应该自动发布，这样过时或易受攻击的版本就不会被使用。 最后，成为信息共享社区的积极参与者可以帮助行业了解人工智能安全威胁，为防御者提供更多时间来设计缓解措施，从而限制潜在的恶意利用。 ®

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://go.theregister.com/feed/www.theregister.com/2023/11/27/uks_global_guidance_leads_international/