详细内容或原文请订阅后点击阅览
人工智能辅助恶意广告：利用聊天机器人传播诈骗
网络犯罪分子利用一种绰号为“Grokking”的技术，诱骗 X 的人工智能聊天机器人传播网络钓鱼诈骗。以下是关于它的了解。
来源:WeLiveSecurity _恶意软件人工智能辅助恶意广告：利用聊天机器人传播诈骗
网络犯罪分子利用一种绰号为“Grokking”的技术，诱骗 X 的人工智能聊天机器人传播网络钓鱼诈骗。以下是关于它的了解。
2025 年 10 月 13 日 • ，5 分钟。阅读
2025 年 10 月 13 日 • , 5 分钟。阅读我们都听说过社会工程带来的危险。这是黑客书中最古老的伎俩之一：从心理上操纵受害者交出他们的信息或安装恶意软件。到目前为止，这主要是通过网络钓鱼电子邮件、短信或电话来完成的。但镇上有一种新工具：生成式人工智能（GenAI）。
网络钓鱼电子邮件 文本 电话在某些情况下，嵌入流行在线服务的 GenAI 和大型语言模型 (LLM) 可能会在不知情的情况下成为社会工程的帮凶。最近，安全研究人员警告 X（以前称为 Twitter）上确实发生了这种情况。如果您到目前为止还没有认为这是一种威胁，那么是时候将面向公众的人工智能机器人的任何输出视为不可信的了。
“Grokking”是如何运作的以及为什么它很重要？
人工智能在两个方面是一种社会工程威胁。一方面，法学硕士可以大规模设计极具说服力的网络钓鱼活动，并创建深度伪造的音频和视频来欺骗最持怀疑态度的用户。但正如 X 最近发现的那样，还有另一个可以说更阴险的威胁：一种被昵称为“Grokking”的技术（当然，不要将其与机器学习中观察到的 Grokking 现象混淆。）
摸索在这次攻击活动中，威胁行为者通过运行包含点击诱饵视频的视频卡帖子来规避 X 对推广帖子中的链接的禁令（旨在打击恶意广告）。他们能够将恶意链接嵌入到视频下方的小“发件人”字段中。但有趣的是：恶意行为者随后询问 X 的内置 GenAI 机器人 Grok 视频来自哪里。 Grok 阅读了这篇文章，发现了这个微小的链接，并在答案中放大了它。
攻击活动，