人工智能算法中的偏差会对云安全构成威胁吗？

自 2010 年代以来，人工智能 (AI) 一直在帮助人类进行 IT 安全运营，快速分析大量数据以检测恶意行为信号。 随着企业云环境产生大量需要分析的数据，云规模的威胁检测取决于人工智能。 但 人工智能可信吗? 或者会 隐藏的偏见 导致错过威胁和数据泄露？

云安全人工智能算法的偏差

偏见可能会给用于以下领域的人工智能系统带来风险： 云安全。 人类可以采取一些措施来减轻这种隐藏的威胁，但首先，了解存在哪些类型的偏见以及它们来自何处是有帮助的。

• 训练数据偏差： 假设用于训练人工智能和机器学习 (ML) 算法的数据不多样化或不能代表整个威胁形势。 在这种情况下，人工智能可能会忽视威胁或将良性行为识别为恶意行为。 例如，根据偏向于来自一个地理区域的威胁的数据训练的模型可能无法识别源自不同区域的威胁。
• 算法偏差： 人工智能算法本身可以引入其形式的偏见。 例如，当良性活动与模式匹配或无法检测已知威胁的细微变化时，使用模式匹配的系统可能会引发误报。 算法也可能被无意中调整为有利于误报，导致警报疲劳，或者有利于误报，从而允许威胁通过。
• 认知偏差： 人们在处理信息和做出判断时会受到个人经验和偏好的影响。 这就是我们的思维方式。 一种认知偏见是偏爱支持我们当前信念的信息。 当人们创建、训练和微调人工智能模型时，他们可以将这种认知偏差转移到人工智能上，从而导致模型忽略新的或未知的威胁，例如零日漏洞利用。

AI 偏见对云安全的威胁

我们将人工智能偏见称为对云安全的隐藏威胁，因为我们通常不知道偏见的存在，除非我们专门寻找它，或者直到为时已晚并且发生了数据泄露。 如果我们未能解决偏见问题，可能会出现以下一些问题：

• 威胁检测不准确和遗漏威胁： 当训练数据不全面、不多样化且不及时时，人工智能系统可能会过度优先考虑某些威胁，而检测不足或遗漏其他威胁。
• 警报疲劳： 误报过多可能会让安全团队不知所措，可能导致他们忽视在大量警报中丢失的真正威胁。
• 新威胁的脆弱性： 人工智能系统本质上是有偏见的，因为它们只能看到经过训练才能看到的东西。 不通过持续更新保持最新状态并具备持续学习能力的系统将无法保护云环境免受新出现的威胁。
• 信任的侵蚀： 由于人工智能偏见而导致的威胁检测和响应反复出现不准确的情况，可能会损害利益相关者和安全运营中心 (SOC) 团队对人工智能系统的信任，从而长期影响云安全态势和声誉。
• 法律和监管风险： 根据偏见的性质，人工智能系统可能会违反有关隐私、公平或歧视的法律或监管要求，从而导致罚款和声誉受损。

减少偏见并加强云安全

虽然人类是人工智能安全工具偏差的根源，但人类的专业知识对于构建可信赖的人工智能来保护云至关重要。 安全领导者、SOC 团队和数据科学家可以采取以下步骤来减少偏见、培养信任并实现 AI 提供的增强威胁检测和加速响应。

• 对安全团队和员工进行多元化教育： 人工智能模型从分析师在评估威胁时做出的分类和决策中学习。 了解我们的偏见以及它们如何影响我们的决策可以帮助分析师避免有偏见的分类。 安全领导者还可以确保 SOC 团队代表多样化的经验，以防止因偏见而产生的盲点。
• 解决培训数据的质量和完整性： 采用强大的数据收集和预处理实践，确保训练数据没有偏见，代表真实的云场景，并涵盖全面的网络威胁和恶意行为。
• 考虑云基础设施的特殊性： 训练数据和算法必须适应公共云特定的漏洞，包括错误配置、多租户风险、权限、API 活动、网络活动以及人类和非人类的典型和异常行为。
• 让人类处于“中间”，同时利用人工智能消除偏见： 专门成立一个团队来监控和评估分析师和人工智能算法的工作是否存在潜在偏差，以确保系统公正且公平。 同时，您可以采用专门的人工智能模型来识别训练数据和算法中的偏差。
• 投资于持续监控和更新： 网络威胁和威胁行为者迅速发展。 人工智能系统必须不断学习，模型应定期更新以检测新的和正在出现的威胁。
• 采用多层人工智能： 您可以通过将风险分散到多个人工智能系统来最大程度地减少偏见的影响。
• 力求可解释性和透明度： 人工智能算法越复杂，理解它们如何做出决策或预测就越困难。 采用可解释的人工智能技术，让人们了解人工智能结果背后的推理。
• 掌握减轻人工智能偏见的新兴技术： 随着我们在人工智能领域的进步，我们目睹了发现、量化和解决偏见的技术的激增。 对抗性去偏见和反事实公平等创新方法正在获得动力。 跟上这些最新技术对于开发公平高效的云安全人工智能系统至关重要。
• 向您的托管云安全服务提供商询问有关偏见的问题： 构建、训练和维护用于威胁检测和响应的人工智能系统是困难、昂贵且耗时的。 许多企业正在寻求服务提供商来增强其 SOC 运营。 使用这些标准来帮助评估服务提供商解决人工智能偏见的能力。

外卖

考虑到企业云环境的规模和复杂性，无论是内部服务还是外部服务，使用人工智能进行威胁检测和响应都是至关重要的。 然而，人工智能永远无法取代人类的智慧、专业知识和直觉。 为了避免人工智能偏见并保护您的云环境，请为熟练的网络安全专业人员配备强大的、可扩展的人工智能工具，并由强有力的政策和人工监督管理。