详细内容或原文请订阅后点击阅览

ChatGPT Atlas 因其安全缺陷而面临强烈反对

2025年10月28日 12:30 33 Comments
X Twitter Instagram Mail

OpenAI 的新 ChatGPT Atlas 浏览器即将推出，具有强大的代理功能，旨在代表用户阅读页面、单击按钮和执行任务。

来源:营销人工智能研究所
OpenAI 的新 ChatGPT Atlas 浏览器正在推出强大的代理功能，旨在代表用户读取页面、单击按钮和执行任务。但几乎立即，安全研究人员就拉响了警报，警告这种新的代理浏览模式会创建一个危险且高度可利用的新攻击面。为了了解这些风险有多严重以及它对企业和用户意味着什么，我在《人工智能》第 176 集中与 SmarterX 和 Marketing AI Institute 创始人兼首席执行官 Paul Roetzer 进行了详细讨论危险的新攻击面虽然浏览器内存和实验性代理模式等功能听起来很有用，但网络安全专家警告说，它们很容易受到即时注入攻击。核心问题是人工智能代理无法区分用户的可信指令和网页中嵌入的恶意指令（通常是隐藏的指令）。正如一位专家在《财富》杂志上指出的那样，这实际上“打破了数据和指令之间的界限”。网站上的隐藏提示可能会劫持 Atlas 代理以窃取用户的电子邮件、用恶意链接覆盖剪贴板，甚至启动恶意软件下载，所有这些都在用户不知情的情况下进行。 看不见的攻击和剪贴板劫持这不仅仅是理论上的威胁。安全研究人员已经在演示这些漏洞如何在野外发挥作用。浏览器公司 Brave 详细介绍了人工智能代理如何读取和执行“看不见的提示注入”或隐藏在微弱文本甚至屏幕截图中的恶意命令。另一位被称为“解放者普林尼”的研究人员强调了“剪贴板注入”的漏洞。用户可能认为他们正在从网页复制简单文本，但他们也可能正在复制隐藏指令，这些指令命令人工智能代理在下次粘贴时执行恶意操作。正如 Brave 的研究指出的，如果您登录了银行或电子邮件等敏感帐户，只需要求代理进行摘要
危险的 攻击面 用户 执行 网络安全 代理模式 嵌入的 意味着 指令 注入 实际上 电子邮件 代理 研究人员 创始人 人工智能 理论上的 强大的 隐藏的 Atlas 隐藏 浏览器 指出的 剪贴板 可利用的 恶意 执行官