人工智能的黄金时代……还是安全威胁？

我们正处于人工智能的黄金时代吗？ 做出预测是很困难的——而且可能是不明智的。 谁愿意预测这样一项新技术的未来？

然而，我们可以肯定地说一些事情。 人工智能在创意作品中的应用正在大量涌现，从配音到剧本初稿。 但人工智能在处理苦差事时可能最有用。 如果承诺与早期实验相匹配，这对开发人员来说是个好消息——可以轻松创建代码初稿并准备好供开发人员进行调整和迭代。

但是，重要的是要记住 并非每个程序员都在为合法企业工作。正如网络安全威胁行为者模仿他们的目标变得更加商业化一样，他们也在采用新技术和工艺。无论我们是否进入人工智能的黄金时代，我们都可以预期人工智能将在未来几年帮助开发恶意软件和其他威胁。

起草代码和诈骗

近年来我们看到的一个趋势是“即服务”产品的兴起。 早期的黑客都是修补匠和恶作剧者，他们欺骗电话系统或制造混乱，主要是为了好玩。 这已经从根本上改变了。 威胁行为者是专业的，经常出售他们的产品供他人使用。

人工智能将非常适合这种工作方式。 人工智能能够创建代码来解决特定问题，可以修改代码以针对漏洞或采用现有代码并进行更改，因此寻找特定模式的安全措施不容易检测到它。

但人工智能被滥用的可能性还不止于此。 许多网络钓鱼电子邮件会被有效的过滤工具检测到，并最终进入垃圾文件夹。 那些确实进入收件箱的邮件往往是非常明显的骗局，写得非常糟糕，几乎难以理解。 但人工智能可以打破这种模式，创建数千封看似合理的电子邮件，这些电子邮件可以逃避检测，并且编写得足够好，可以欺骗过滤器和最终用户。

鱼叉式网络钓鱼是这种攻击更有针对性的形式，这项技术也可能带来革命性的变化。 当然，很容易忽视老板要求您电汇现金或紧急购买礼品卡的电子邮件 - 网络安全培训可以帮助员工避免此类骗局。 但是深度伪造的电话或视频聊天又如何呢？ 人工智能有潜力将广播节目和播客变成令人信服的拟像，这是更难以忽视的东西。

反击人工智能网络攻击

有两种主要方法可以反击人工智能给敌人带来的好处—— 更好的人工智能和更好的培训 ——两者都是必要的。

新一代人工智能的出现开启了新的军备竞赛。 由于网络犯罪分子使用它来发展他们的攻击，因此安全团队也需要使用它来发展他们的防御。

如果没有人工智能，防御就依赖于过度劳累的人员和对某些预编程模式的监控来防止攻击。 人工智能防御工具将能够预测攻击向量并查明网络和系统的敏感区域。 他们还能够分析恶意代码，从而更好地了解新攻击的工作原理以及如何预防它们。

在紧要关头，人工智能还可以起到紧急停止的作用——在检测到漏洞时禁用网络并锁定整个系统。 虽然从业务连续性的角度来看并不理想，但这可能比数据泄露造成的破坏要小得多。

但以人工智能对抗人工智能并不是唯一的答案。 我们还需要人类智慧。 无论多么聪明和有针对性，防范网络钓鱼攻击的最佳方法是让员工或客户知道要寻找什么，并且足够怀疑，不会上当。 实施强大的安全策略和最佳实践网络卫生仍然是防御攻击的关键。

这意味着训练需要更新，以包含人工智能攻击的迹象……无论这些迹象是什么。 培训需要随着人工智能的发展而发展——当培训很快过时时，每隔几年举办一次培训课程就不再有效。

虽然人工智能驱动的网络攻击的可能迹象正在迅速变化，但一般来说，攻击是：

• 快速且可扩展，在短时间内利用多个漏洞。
• 适应性和回避性，改变策略和技术以避免被发现和响应。
• 有针对性和个性化，使用人工智能制作令人信服的网络钓鱼电子邮件或社会工程活动。
• 具有欺骗性和操纵性，使用人工智能创建虚假或更改的内容，例如深度伪造、语音克隆或文本生成。
• 隐秘而持久，长期隐藏在网络基础设施中而不被注意到。

这些迹象并不详尽，一些人工智能驱动的攻击可能不会表现出所有这些迹象。 然而，他们表明 人工智能对网络安全构成的威胁程度.

为了有效地打击人工智能驱动的网络攻击，企业必须超越个别不良行为者的思维，并为国家资助的行为者或犯罪组织的协调攻击做好准备，这些行为者或犯罪组织可能会利用人工智能以基于风险的方法发起复杂的活动。 他们还应该有一个 主动策略 其中包括定期安全审核、备份、加密和事件响应计划。 通过获得 PCI-DSS 等知名安全认证，最容易实现这一点。

最后，组织必须确保人工智能系统的完整性、机密性和可用性，并降低对抗性攻击、数据中毒和模型窃取的风险，从而提高其自身人工智能系统的网络安全。

这些策略将有助于保护企业，但它们不应该独立存在——安全性应该是协作的。 通过与其他组织、研究人员和权威机构合作，分享信息、最佳实践和可从中吸取的失败教训，企业将为新一波的人工智能安全威胁做好更好的准备。

人工智能既是一种新威胁，也是旧威胁的延续。 随着网络威胁变得更加复杂和数量越来越多，企业必须改进应对网络威胁的方式，但许多基本原理仍然保持不变。 做好这些仍然至关重要。 安全团队不需要放弃旧的想法，而是以旧的想法为基础，以确保业务安全。

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 汽车/电动汽车， 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 块偏移量。 现代化环境抵消所有权。 访问这里。
• Sumber: https://www.darkreading.com/vulnerabilities-threats/a-golden-age-of-ai-or-security-threats-