网络骗子告诉 ChatGPT 创建恶意代码

由柏拉图重新发布

关注： 0

网络骗子告诉 ChatGPT 创建恶意代码 PlatoBlockchain 数据智能。垂直搜索。人工智能。

网络犯罪分子开始使用 OpenAI 广受欢迎的 ChatGPT 技术快速轻松地开发用于恶意目的的代码。

根据信息安全机构 Check Point Research 的说法，围绕地下黑客站点的一次调查发现了不法分子使用大型语言模型 (LLM) 界面开发网络威胁工具的最初实例，该界面是该公司在 XNUMX 月下旬推出并开放供公众使用的。

一个很好的 [帮助] 手，用一个很好的范围来完成脚本

类似的崛起即服务模型研究人员在一份报告中表示，在网络犯罪领域，ChatGPT 为技能较低的骗子开辟了另一条途径，可以轻松发起网络攻击报告星期五。

“正如我们所怀疑的那样，一些案例清楚地表明，许多使用 OpenAI 的网络犯罪分子根本没有开发技能，”他们写道。 “虽然我们在这份报告中提供的工具非常基础，但更复杂的威胁行为者增强他们使用基于 AI 的工具来作恶的方式只是时间问题。”

我们不要忘记 ChatGPT 也因生成错误代码而臭名昭著——Stack Overflow 已经禁用软件由 AI 系统生成，因为它通常存在严重缺陷。但技术正在改进，上个月芬兰政府的一份报告警告人工智能系统已经被用于社会工程，并且在五年内可能会导致攻击激增。

ChatGPT 的机器学习能力使基于文本的工具能够以对话方式进行交互，用户输入问题并以对话形式接收答案。该技术还可以回答后续问题并挑战用户的答案。

OpenAI 产品的复杂性产生了同样多的担心出于热情，教育机构、会议组织者和其他团体开始禁止在从学校论文到研究工作的所有方面使用 ChatGPT。

分析师在 XNUMX 月证明如何使用 ChatGPT 创建完整的感染流程，从网络钓鱼电子邮件到运行反向 shell。他们还使用聊天机器人构建后门恶意软件，可以动态运行由 AI 工具创建的脚本。同时，他们展示了它如何帮助网络安全专家开展工作。

现在网络罪犯正在测试它。

29 月 XNUMX 日，在一个广泛使用的地下黑客论坛上出现了一个名为“ChatGPT - 恶意软件的好处”的帖子，该帖子由一位人士撰写，他说他们正在试验该界面以重新创建常见的恶意软件变种和技术。作者展示了基于 Python 的信息窃取程序的代码，该程序搜索和复制文件类型并将它们上传到硬编码的 FTP 服务器。

Check Point 确认该代码来自基本的窃取恶意软件。

在另一个示例中，作者使用 ChatGPT 创建了一个简单的 Java 片段，该片段下载了一个在使用 PowerShell 的系统上秘密运行的通用 SSH 和 telnet 客户端。

研究人员写道：“这个人似乎是一个以技术为导向的威胁行为者，他发帖的目的是向技术能力较弱的网络犯罪分子展示如何利用 ChatGPT 进行恶意攻击，并提供他们可以立即使用的真实示例。”

21 月 XNUMX 日，一个自称 USDoD 的人发布了一个用 Python 编写的加密工具，其中包括各种加密、解密和签名操作。他写道，OpenAI 的技术给了他“很好的 [帮助] 手，可以在一个很好的范围内完成脚本。”

研究人员写道，美国国防部的开发技能有限，但活跃于地下社区，有出售对受感染组织和被盗数据库的访问权的历史。

在新年前夜的一个论坛上发布的另一个讨论主题谈到使用 ChatGPT 创建一个暗网市场来交易恶意软件或毒品等非法工具以及帐户和支付卡等被盗数据是多么容易。

该主题的作者发布了一些使用 ChatGPT 创建的代码，这些代码使用第三方 API 为市场支付系统获取比特币、门罗币和以太坊等加密货币的最新价格。

本周，不法分子在地下论坛上讨论了利用 ChatGPT 进行各种计划的其他方法，包括将其与 OpenAI 的 Dall-E 2 技术结合使用来创作艺术品以通过 Etsy 等合法网站在线销售，以及制作有关特定主题的电子书或简短章节可以在线销售。

为了获得有关如何滥用 ChatGPT 的更多信息，研究人员询问了 ChatGPT。在其答复中，ChatGPT 谈到使用人工智能技术创建令人信服的网络钓鱼电子邮件和社交媒体帖子，以诱骗人们泄露个人信息或点击恶意链接或创建可用于错误信息的视频和音频。

ChatGPT 还为其创建者辩护。

“重要的是要注意，OpenAI 本身不对第三方滥用其技术负责，”聊天机器人说。 “公司采取措施防止其技术被用于恶意目的，例如要求用户同意禁止将其技术用于非法或有害目的的服务条款。” ®