详细内容或原文请订阅后点击阅览
HashJack 攻击表明人工智能浏览器可以通过简单的“#”来欺骗
Hashtag-do-whatever-I-tell-youCato Networks 表示，它发现了一种名为“HashJack”的新攻击，该攻击隐藏合法 URL 中“#”后面的恶意提示，欺骗 AI 浏览器助手执行它们，同时躲避传统网络和服务器端防御。
来源:The Register _恶意软件Cato Networks 表示，它发现了一种名为“HashJack”的新攻击，该攻击隐藏合法 URL 中“#”后面的恶意提示，欺骗 AI 浏览器助手执行这些提示，同时躲避传统网络和服务器端防御。
当某些原因导致用户未编写的文本成为 AI 机器人的命令时，就会发生提示注入。当在提示输入点输入不需要的文本时，会发生直接提示注入；而当内容（例如机器人被要求总结的网页或 PDF）包含隐藏命令时，就会发生间接注入，然后人工智能会遵循这些命令，就像用户输入了这些命令一样。人工智能浏览器是一种相对较新的网络浏览器，它使用人工智能来尝试猜测用户意图并采取自主行动，迄今为止已被证明特别容易受到间接提示注入的攻击——在寻求帮助的过程中，它们有时最终会帮助攻击者而不是最终用户。
特别容易受到攻击Cato 将 HashJack 描述为“第一个已知的间接提示注入，可以将任何合法网站武器化以操纵人工智能浏览器助手。”它概述了一种方法，攻击者将恶意指令潜入合法 URL 的片段部分，然后由 AI 浏览器助手（例如 Edge 中的 Copilot、Chrome 中的 Gemini 和 Perplexity AI 中的 Comet）进行处理。由于 URL 片段永远不会离开 AI 浏览器，传统网络和服务器防御无法看到它们，从而将合法网站变成攻击媒介。
描述 来自 Perplexity AI 的彗星这项新技术的工作原理是在正常 URL 末尾附加一个“#”，这不会改变其目的地，然后在该符号后添加恶意指令。当用户通过人工智能浏览器助手与页面交互时，这些指令会输入大型语言模型，并可能触发数据泄露、网络钓鱼、错误信息、恶意软件指导甚至医疗伤害等结果，为用户提供错误剂量指导等信息。