详细内容或原文请订阅后点击阅览
越狱的AIS正在帮助网络犯罪分子磨练自己的手艺
网络犯罪分子正在使用越狱的AI模型来帮助他们设计运动并改善战术。
来源:Malwarebytes Labs 博客网络犯罪分子绕过应该阻止AI模型进行犯罪活动的护栏。
研究人员在过去几年中，网络犯罪分子迅速增长，我们看到了AI模型的滥用，这塑造了数字威胁的新时代。早期，攻击者专注于越狱的公共AI聊天机器人，这意味着他们使用专门提示来绕过内置的安全措施。成功后，他们继续在地下论坛上出售这些“未经审查”或“定制”大语模型（LLMS）。这些越狱的AI可以生成不受限制的内容，包括恶意代码，网络钓鱼电子邮件和社会工程脚本。
恶意代码 网络钓鱼电子邮件诸如蠕虫和幻影之类的工具，通常是从开源或商业模型中拼凑在一起的，可以在黑暗的网络上订阅，使攻击者能够写出复杂的恶意软件，分析脆弱性，并以前所未有的效率来协调大规模攻击。
黑暗网络研究人员说：
“ Wormgpt于2023年6月在Hack Forums上出现，这是一个受欢迎的地下论坛，作为一个未经审查的Genai工具。蠕虫促进了威胁性参与者的黑帽子活动。但是，在2023年8月，蠕虫被其中一位创造者关闭。”
从那时起，Wormgpt成为未经审查的LLM的品牌名称。另一个受欢迎的地下论坛Breachforums中出现了几种蠕虫变体。
注意：当前漏洞已降低。 Breachforums V2在2025年4月在该网站被MYBB零日脆弱性违反后脱机。该论坛从未在网上返回，由于最近在法国逮捕了该论坛，因此我们不希望它这样做。
最近在法国逮捕了该消息还展示了网络犯罪分子如何绕过AI的护栏以产生恶意内容。
我们不仅报告威胁 - 我们将其删除
今天下载恶意软件