详细内容或原文请订阅后点击阅览
AI浏览器可能会使用户一文不名：及时注射警告
提示注射攻击可能会来您附近的AI浏览器。继续阅读以了解这些攻击的作用以及如何保持安全。
来源:Malwarebytes Labs 博客人工智能（AI）浏览器正在获得吸引力，这意味着我们可能需要开始担心称为“及时注入”的潜在危险。
大型语言模型（LLMS）（例如，供应AI聊天机器人，包括Chatgpt，Claude和Gemini）旨在遵循“提示”，这是人们在查找信息或获得主题帮助时提供的说明和问题。在聊天机器人中，您问AI的问题是“提示”。但是，AI模型并不擅长分开仅针对其眼睛的命令类型（例如，隐藏的背景规则直接来自开发人员，例如从用户带来的请求类型中。
不要写勒索软件为了在这里展示风险，Web浏览器开发人员勇敢（拥有自己的AI助手Leo）勇敢地测试了它是否可以欺骗AI浏览器来阅读危险提示，从而损害了用户的危险提示。正如他们本周在博客中所写的那样，公司发现的警报引起了警报：
博客本周“随着用户对AI浏览器的满意，并开始在登录的会议中（例如银行业，医疗保健和其他关键网站）中使用敏感数据来信任它们，风险会繁殖。如果该模型幻觉并执行您不要求的幻觉和更糟糕的操作，您会遇到良性的网站或其他良性的指示，该怎么办？ 助手？”
及时注射基本上是一个窍门，有人以普通对话或数据的形式插入精心制作的输入，以推动或直接迫使AI做并不是要做的事情。
是什么设定了提示注入的原因，与老式的黑客攻击是因为这里的武器是语言，而不是代码。攻击者不需要闯入服务器或寻找传统的软件错误，他们只需要巧妙地说单词即可。
在x上引用用户
在x