详细内容或原文请订阅后点击阅览
Atlas vuln 让犯罪分子注入恶意提示 ChatGPT 不会在会话之间忘记
它能做的不仅仅是每天玩“虎之眼”。LayerX 的研究人员在 OpenAI 的 Atlas 中发现了一个漏洞，该漏洞允许攻击者使用跨站点请求伪造将恶意指令注入 ChatGPT 的内存中，这再次提醒人们警惕 AI 浏览器。
来源:The Register _恶意软件已更新 在另一个提醒警惕 AI 浏览器的提醒中，LayerX 的研究人员发现了 OpenAI 的 Atlas 中的一个漏洞，该漏洞允许攻击者使用跨站点请求伪造将恶意指令注入 ChatGPT 的内存中。
已更新这个漏洞被浏览器安全供应商 LayerX 的研究人员称为 ChatGPT Tainted Memories，他们发现并向 OpenAI 披露了该安全漏洞，涉及一定程度的社会工程，因为它确实需要用户单击恶意链接。它还对任何浏览器上的 ChatGPT 用户构成风险，而不仅仅是 Atlas，这是 OpenAI 上周针对 macOS 推出的新型人工智能网络浏览器。
上周推出但据 LayerX 联合创始人兼首席执行官 Or Eshed 表示，这对于使用 Atlas 的人来说尤其危险。这是因为 Atlas 用户通常默认登录 ChatGPT，这意味着他们的身份验证令牌存储在浏览器中，并且可能在活动会话期间被滥用。另外，“LayerX 测试表明 Atlas 浏览器比 Chrome 和 Edge 更容易受到网络钓鱼攻击，”Eshed 在周一的博客中表示。
说OpenAI 没有立即回应 The Register 关于此次攻击和 LayerX 研究的问题。当我们收到人工智能巨头的回复时，我们将更新这个故事。
寄存器该攻击涉及滥用跨站点请求伪造漏洞 - 利用用户在网站上的活动会话，然后强制浏览器向该站点提交恶意请求。该网站将此请求视为来自在网站上经过身份验证的用户的合法请求。在这种情况下：它让攻击者能够访问用户已经登录的 OpenAI 系统，然后注入恶意指令。
它还涉及感染 ChatGPT 的内置内存功能 - 这允许聊天机器人“记住”用户的查询、聊天和偏好，并在未来的聊天中重用它们 - 然后使用跨站点请求伪造将隐藏指令注入 ChatGPT 的内存中。