WormGPT：AI技术成网络犯罪分子的新武器

蠕虫GPT（WormGPT）

WormGPT是一款基于GPTJ语言模型的AI模块，其功能与OpenAI的ChatGPT类似，但缺乏道德界限或限制。它拥有一系列强大功能，其中包括：

1、无限字符支持：WormGPT能够生成看似无限长度的文本，使其可以创建极具说服力的虚假内容，以欺骗受害者。

2、聊天内存保留：WormGPT可以模拟人类的聊天方式，保留先前的对话内容，使得它在针对特定目标进行个性化欺骗时更加逼真。

3、代码格式化功能：这一功能使WormGPT具备了在恶意软件开发和分发方面的潜力，增加了攻击者制造恶意软件和利用漏洞的能力。

WormGPT的潜在威胁

WormGPT据称在训练过程中使用与恶意软件相关的数据源，但具体数据集保密。然而，其模型的高度可扩展性和逼真性使得它成为进行复杂网络钓鱼和商业电子邮件泄露（BEC）攻击的理想工具。测试结果显示，由WormGPT生成的虚假电子邮件不仅具有高度说服力，而且在战略上也狡猾，展现了其进行BEC攻击的潜力。

1、生成式AI带来的威胁：

生成式AI为网络犯罪分子带来许多优势，这些优势使得恶意活动变得更具有威胁性和普遍性。

2、出色的语法：

生成式AI可以创建语法无可挑剔的虚假内容，使其看起来合法，并降低被标记为可疑的可能性。

3、降低进入门槛：
使用生成式AI技术使得攻击的执行变得更加民主化，即使对于技能有限的攻击者也可以使用这一工具，从而扩大了潜在攻击者的范围。

生成式 AI 如何彻底改变 BEC 攻击

人工智能（AI）技术的快速进步为商业电子邮件泄露（BEC）攻击带来了新的威胁和挑战。特别是像OpenAI的ChatGPT这样的复杂AI模型，它可以根据收到的输入生成类似人类的文本。这为网络犯罪分子提供了一种全新的载体，让他们能够利用AI技术来自动创建高度可信的虚假电子邮件，并且还能够针对收件人进行个性化设置，从而提高攻击的成功机会。

上面这个图片，最近在网络犯罪论坛上展开了讨论。在这次交流中，一名网络犯罪分子展示了利用生成式人工智能来改进可用于网络钓鱼或 BEC 攻击的电子邮件的潜力。他们建议用母语撰写电子邮件，进行翻译，然后将其输入 ChatGPT 等界面，以增强其复杂性和正式性。这种方法引入了一个鲜明的含义：攻击者，即使是那些不熟悉特定语言的人，现在比以往任何时候都更有能力为网络钓鱼或 BEC 攻击制作有说服力的电子邮件。

继续看上面的图，我们在网络犯罪分子的论坛上发现了一个令人不安的趋势，即对于类似ChatGPT的界面提供”越狱”的讨论线程变得越来越普遍。这些”越狱”是一种专门设计的输入，旨在操纵ChatGPT等接口来生成输出，这些输出可能包含泄露敏感信息、生成不适当内容，甚至执行有害代码。随着这种做法的增加，我们面临着日益严峻的挑战，需要找到方法来保持人工智能的安全性，以抵御这些顽固的网络犯罪分子。

“越狱”的概念指的是攻击者试图绕过ChatGPT等生成式AI界面的限制，通过巧妙构造的输入来操纵模型生成不当输出。这种做法的普及表明了攻击者对于利用AI技术进行欺骗和攻击的渴望。他们希望利用这些AI模型的复杂性和强大的文本生成能力，来实现更加隐蔽、精准和欺骗性的攻击。

由于生成式AI的开放性，攻击者能够利用这些模型的自由性来生成可能具有危害性的输出。他们可能试图通过输入特定的指令、敏感信息或恶意代码，来引导AI模型生成虚假邮件、误导性信息或甚至恶意软件。这种行为不仅给个人和企业的隐私和安全带来了巨大威胁，还可能导致社会和经济上的不稳定。

最后，在上面的第三张图中，我们看到恶意行为者现在正在创建自己的自定义模块，类似于 ChatGPT，但更容易用于邪恶目的。他们不仅创建这些自定义模块，还向其他不良行为者进行广告宣传。这表明，在人工智能塑造的世界中，由于这些活动的复杂性和适应性不断增加，网络安全变得越来越具有挑战性。

面对这种日益复杂和隐蔽的网络犯罪行为，确保人工智能的安全性变得至关重要。我们需要采取措施来加强AI模型的防御能力，阻止潜在的攻击，并降低被误导的风险。

WormGPT中网络犯罪分子的武器库

我们的团队最近在一个通常与网络犯罪相关的知名在线论坛上获得了名为”WormGPT”的工具的访问权限。这款工具自称是GPT模型的黑帽替代品，专门为进行恶意活动而设计。

WormGPT是基于GPTJC语言模型的AI模块，于2021年开发而成。它具备一系列功能，包括无限字符支持、聊天内存保留和代码格式化功能。

据称，WormGPT接受了各种数据源的训练，特别是与恶意软件相关的数据。然而，工具作者决定将训练过程中使用的具体数据集保密。

为了全面评估WormGPT的潜在危险，我们进行了针对BEC攻击的测试。在一个实验中，我们指示WormGPT生成一封电子邮件，旨在迫使毫无戒心的客户经理支付欺诈性发票。

结果令人不安。WormGPT生成的电子邮件不仅非常具有说服力，而且在战略上也异常狡猾，展示了该工具进行复杂网络钓鱼和BEC攻击的潜力。

这些发现凸显出WormGPT等生成式AI工具对于网络安全带来的潜在威胁。它们的高度可信的文本生成能力使得虚假邮件变得更具欺骗性，给企业和个人的隐私和资产安全带来了巨大风险。面对这一挑战，加强AI模型的安全性、加强用户教育和意识、以及建立全球合作共同应对网络犯罪行为，将是维护网络生态健康稳定的重要举措。