人工智能设计的威胁是 FUD 还是现实？

生成式人工智能应用程序进入市场的那一刻，它改变了业务节奏——不仅对安全团队来说，而且对网络犯罪分子来说也是如此。 如今，不接受人工智能创新可能意味着落后于竞争对手，并使您的网络防御在面对人工智能支持的网络攻击时处于不利地位。 但在讨论人工智能将或不会影响网络犯罪时，重要的是我们要通过务实和清醒的视角来看待事物，而不是助长读起来更像科幻小说的炒作。

当今人工智能的进步和成熟标志着企业安全的重大飞跃。 网络犯罪分子无法轻易与企业资源、技能和动机的规模和规模相匹配，这使得他们更难跟上当前人工智能创新的速度。 人工智能领域的私人风险投资 爆炸 93.5 年将达到 2021 亿美元——坏人没有这个水平的资本。 他们也没有人力、计算能力和创新能力，无法为商业公司或政府提供更多的时间和机会来快速失败、快速学习并首先把事情做对。

但请不要误会：网络犯罪将会迎头赶上。 这并不是安全行业第一次拥有短暂的优势——当勒索软件开始促使更多的防御者采用端点检测和响应技术时，攻击者需要一些时间来弄清楚如何规避和逃避这些检测。 这段临时“宽限期”让企业有时间 更好地保护自己。 现在同样适用：企业需要最大限度地发挥在人工智能竞赛中的领先地位，提高威胁检测和响应能力，并利用当前人工智能创新所提供的速度和精度。

那么人工智能如何改变网络犯罪呢？ 嗯，它不会很快对其进行实质性改变，但在某些情况下会对其进行扩展。 让我们来看看人工智能的恶意使用会在哪些方面产生最直接的影响，不会产生最直接的影响。

全自动恶意软件活动：FUD

近几个月来，我们看到了有关人工智能各种恶意使用案例的说法，但仅仅因为某个场景是可能的并不意味着它就是可能的。 以完全自动化的恶意软件活动为例，逻辑上认为可以利用人工智能来实现这一结果，但鉴于领先的科技公司尚未开创完全自动化的软件开发周期，财务有限的网络犯罪组织不太可能更快实现这一目标。 然而，即使是部分自动化也可以扩大网络犯罪的规模，我们已经看到这种策略被用于 集市活动。 这不是一个创新，而是一个 久经考验的技术 防守者已经开始进攻了。

人工智能设计的网络钓鱼：现实（但背景是关键）

另一个需要考虑的用例是人工智能设计的网络钓鱼攻击。 这不仅是可能的，而且我们已经开始在野外看到这些攻击。 下一代网络钓鱼可能会实现更高水平的说服力和点击率，但人工设计的网络钓鱼和人工智能设计的网络钓鱼仍然朝着相同的目标发展。 换句话说，人工智能设计的网络钓鱼仍然是搜索点击的网络钓鱼，它需要相同的检测和响应准备。

然而，虽然问题仍然相同，但规模却截然不同。 人工智能充当了扩大网络钓鱼活动规模的力量倍增器，因此，如果企业发现入站网络钓鱼电子邮件数量激增，并且这些恶意电子邮件明显更具说服力，那么它可能会看到高点击率概率和潜在的妥协。 人工智能模型还可以提高定位效率，帮助攻击者确定谁是组织内特定网络钓鱼最容易受到攻击的目标，并最终从其活动中获得更高的投资回报率。 网络钓鱼攻击历来是攻击者用来渗透企业的最成功的策略之一。 此类攻击的规模不断扩大，凸显了 EDR、MDR、XDR 和 IAM 技术在异常行为产生影响之前对其进行检测方面发挥的关键作用。

AI 中毒攻击：FUD-ish

AI中毒攻击换句话说，以编程方式操纵构建人工智能模型的代码和数据，可能是网络犯罪分子攻击的“圣杯”。 成功的中毒攻击的影响范围可能很广，从错误信息尝试到 虎胆龙威4.0“。 为什么？ 因为通过毒害模型，攻击者可以使其按照他们想要的方式运行或运行，并且不容易检测到。 然而，这些攻击并不容易实施——它们需要访问人工智能模型在训练时正在训练的数据，这是一个不小的壮举。 随着更多模型开源，这些攻击的风险将会增加，但暂时仍将保持较低水平。

未知

虽然区分炒作与现实很重要，但确保我们就人工智能对威胁格局的影响提出正确的问题也很重要。 关于人工智能的潜力还有很多未知数——它如何改变对手的目的和目标是我们不能忽视的一个。 目前尚不清楚新能力如何帮助对手实现新目的并重新调整他们的动机。

我们可能不会看到新型人工智能攻击立即激增，但人工智能带来的网络犯罪规模将对那些没有做好准备的组织产生重大影响。 速度和规模是人工智能的固有特征，正如防御者寻求从中受益一样，攻击者也是如此。 安全团队已经人手不足且不堪重负——恶意流量或事件响应活动的激增给他们的工作量带来了巨大的负担。

这比以往任何时候都更加证实了企业投资于防御的必要性， 使用人工智能提高速度和精度 他们的威胁检测和响应能力。 利用这一“宽限期”的企业会发现，当攻击者真正在人工智能网络竞赛中迎头赶上的那一天，自己准备得更加充分，更有弹性。

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 汽车/电动汽车， 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 块偏移量。 现代化环境抵消所有权。 访问这里。
• Sumber: https://www.darkreading.com/dr-tech/are-ai-engineered-threats-fud-or-reality-