生成式人工智能使我们面临哪些网络安全威胁？

生成式人工智能 (AI) 正在改变世界，为各个行业提供了无数可能性。 这种类型的人工智能可以产生新的内容，例如文本、图像、音乐、声音和视频。 机器学习模型在海量数据集上进行训练，以学习模式、结构和关系，生成类似于原始内容甚至超越原始内容的输出。

OpenAI 的 GPT 系列是生成式人工智能的一个著名例子，在生成类人文本和交互方面展示了令人印象深刻的能力。 然而，这项强大的技术也带来了需要解决的风险，特别是在网络安全领域。 在这里，我探讨了人工智能和生成式人工智能可能给网络安全带来的一些潜在威胁场景。

先进的恶意软件和规避技术

生成式人工智能系统，例如 GPT-4，可以创建真实且连贯的文本和代码。 这种功能虽然有许多积极的应用，但也可以被恶意用来开发使用传统安全措施难以检测的高级恶意软件。 人工智能生成的恶意软件可能比人类生成的恶意软件更复杂，因为它可以快速适应不同的目标和环境。 这种适应性使得人工智能驱动的恶意软件难以实时检测和消除。

使用机器学习来识别和绕过安全系统的高级规避技术构成了另一个重大威胁。 这些技术包括多态恶意软件（不断更改其代码以避免基于签名的检测）和变态恶意软件（在不影响其功能的情况下改变其结构）。 应努力确保负责任地使用人工智能并防范恶意应用程序。

网络钓鱼、社会工程和冒充

网络钓鱼攻击欺骗用户点击恶意链接或提供敏感信息，也可以从生成人工智能中受益。 通过生成与合法通信极为相似的令人信服的电子邮件或消息，攻击者可以增加成功的机会。

社会工程攻击依靠人类交互和操纵来获得对信息或系统的未经授权的访问，使用生成人工智能也可以变得更加有效。 攻击者可以创建高度令人信服的个性化消息，这些消息可以绕过安全过滤器，甚至欺骗警惕的用户。

例如，Deepfake 技术可用于生成模仿可信个人的真实视频或音频内容，这在鱼叉式网络钓鱼攻击中特别有效。

生成式人工智能还可以促进在社交媒体上创建虚假个人资料，使攻击者更容易冒充合法用户并获得信任。 这些虚假个人资料可用于收集情报、传播错误信息或发起有针对性的攻击，对个人和组织构成威胁。

逆向工程

逆向工程涉及拆卸和分析软件或硬件，以了解其功能、设计和实现。 这些知识可用于多种目的，包括改进现有系统、识别漏洞和开发新技术。

生成式人工智能可以通过自动化流程并快速生成高质量结果来影响逆向工程。 这可能是有益的，也可能是有害的。 它可以帮助安全研究人员识别和缓解漏洞，还可以帮助恶意行为者发现和利用软件和硬件系统中的弱点。 通过利用生成式人工智能，攻击者可以分析和修改现有的恶意软件，以创建新的、更有效的变体，从而逃避检测和缓解策略。

此外，生成式人工智能可用于创建针对特定漏洞和目标的自定义漏洞利用，使它们更有效且更难以防御。

绕过验证码工具

验证码工具用于在线区分人类用户和机器人。 这些工具要求用户完成对人类来说相对容易但对自动化系统来说困难的任务，例如识别图像中的对象或解决简单的谜题。 人工智能和机器学习（包括生成式人工智能）的最新进展使得机器学习模型的开发能够有效绕过验证码工具。

这一进步削弱了验证码工具的有效性，而验证码工具对于保护在线服务免受垃圾邮件、暴力攻击和抓取等自动攻击至关重要。 因此，它使在线服务面临越来越多、范围更大的网络威胁。

生成式人工智能提供了许多好处，但它也给网络安全带来了潜在威胁。 当我们探索这项技术的潜力时，优先考虑道德因素并保护我们的数字生态系统至关重要。

为了应对人工智能驱动方法日益增长的威胁，网络安全行业必须发展和调整其策略。 这包括投资研发和实施尖端的安全解决方案，以抵制人工智能的恶意使用并保护我们的数字环境。 开发先进的机器学习算法来识别和响应人工智能生成的威胁至关重要。

研究人员、网络安全专家、政策制定者、执法部门以及公共和私营部门之间的持续合作可以帮助确保负责任地使用人工智能，并针对不断变化的网络威胁建立强有力的防御。

链接：https://www.weforum.org/agenda/2023/06/what-c​​ybersecurity-threats-are-pose-by-generative-ai/?utm_source=pocket_saves

来源：https://www.weforum.org

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://www.fintechnews.org/what-cybersecurity-threats-does-generative-ai-expose-us-to/