使用AI代理进行浏览的隐藏危险

波兰 - 日本信息技术学院的研究人员已在LLM驱动的浏览代理商中绘制了安全风险。该研究提出了一个全面的威胁模型,并确定了几个严重的安全问题,例如迅速注入,规避域验证和数据恢复。通过对流行的开源项目浏览器的深入分析,他们证明了未受保护的Web内容如何削减代理的行为并导致严重的安全性不足。 […]帖子首先出现在AI新闻中,使用AI代理进行浏览的隐藏危险。

来源:AI新闻
波兰 - 日本信息技术学院的研究人员已在LLM驱动的浏览代理商中绘制了安全风险。该研究提出了一个全面的威胁模型,并确定了几个严重的安全问题,例如迅速注入,规避域验证和数据提取。通过对流行的开源项目浏览器使用的深入分析,它们证明了未受保护的Web内容如何削减代理的行为并导致严重的安全性不足。为了抵消这些威胁,研究人员提出了一种多层安全策略,包括进入修复,计划和执行之间的隔离,正式的安全分析和会话监控,以防止初始攻击和随后的利用。广泛的攻击。预测构成了一个关键的脆弱性,其中有害内容操纵代理商的行为并可能导致数据泄漏或不正确的措施。基于LLM的恶意内容检测以及计划模块和执行模块之间的建筑隔离,以防止初始攻击。在html内容中读取的代理。更多信息:https://arxiv.org/html/2505.13076v1
研究

更多信息:

https://arxiv.org/html/2505.13076v1