CISA 路线图：制定值得信赖的人工智能发展路线

网络防御： 虽然人工智能系统可以帮助组织提高对新兴和高级网络威胁的防御能力，但基于人工智能的软件系统构成了 风险数量 这需要一个强大的 人工智能防御。该路线图旨在促进人工智能的有益利用，同时保护国家系统免受基于人工智能的威胁。

降低风险和恢复能力： 关键基础设施 组织越来越多地使用人工智能系统来维护和增强自身的网络弹性。通过其路线图，CISA 旨在促进负责任且具有风险意识的采用基于人工智能的软件系统，这些系统“设计安全” — 在产品开发生命周期的设计阶段实施安全性，以便从源头上减少可利用的缺陷。

运营协作： 随着人工智能技术的扩散，美国公民和关键基础设施部门可能会受到有针对性的威胁，这可能需要组织、执法机构和国际合作伙伴进行信息共享和协调响应。 CISA 计划开发一个框架，帮助改善相关利益相关者之间的协调和协调。

机构统一： CISA 的目标是统一和集成整个机构的人工智能软件系统，这将有助于其更连贯地使用人工智能系统。 CISA 还计划招募和培养一支能够最佳利用人工智能系统的员工队伍。

负责任地使用人工智能： CISA 打算部署人工智能软件工具来加强网络防御并支持关键基础设施。所有系统和工具都将经过严格的选择流程，CISA 将确保人工智能相关系统负责任、安全、符合道德且可安全使用。 CISA 还将部署强大的治理流程，这些流程不仅符合联邦采购流程、适用的法律和政策、隐私以及公民权利和自由，而且还将采用一种持续评估人工智能模型的方法，同时审查 IT 安全实践以安全地集成技术。

确保人工智能系统： 为了构建更安全、更有弹性的人工智能软件开发和实施，CISA 计划支持 设计安全 倡议，为广泛的利益相关者（例如，联邦民事政府机构、私营部门公司、州、地方、部落和地区政府）制定安全最佳实践和指南，并推动采用强有力的漏洞管理实践，指定漏洞披露流程并为人工智能系统的安全测试和红队练习提供指导。

保护关键基础设施免遭人工智能的恶意使用： CISA 将与政府机构和行业合作伙伴（例如 联合网络防御协作 开发、测试和评估人工智能工具并协作不断发展 人工智能威胁。 CISA 将发布材料以提高对新兴风险的认识，还将评估风险管理方法，以确定评估和处理人工智能风险的适当分析框架。

与机构间、国际合作伙伴和公众合作： 为了提高认识、共享威胁信息并提高事件响应和调查能力，CISA 计划促进人工智能工作组、出席或参与机构间会议以及与国土安全部实体密切协调等协作方式。 CISA 将在跨机构范围内开展工作，以确保其政策和战略与 整个政府 方法并将与国际合作伙伴合作，鼓励采用安全人工智能的国际最佳实践。

扩大员工队伍的人工智能专业知识： 以人为本 始终需要保持警惕、监督和直觉来检测基于人工智能和非人工智能的网络威胁，并确保人工智能系统没有错误、偏见和操纵。只有通过强有力的安全意识举措才能加强人类的直觉和警惕性。这就是为什么 CISA 计划不断对员工进行人工智能软件系统和技术方面的教育，招募具有人工智能专业知识的员工，并开展安全意识培训计划，其中应包括情境练习，以确保员工了解基于人工智能的法律、道德和政策方面系统，超越技术方面。