详细内容或原文请订阅后点击阅览
您知道您赋予 AI 代理哪些权利吗？三分之一的 Claude 和 ChatGPT 连接器在短短六周内就更改了这些权利 - 并且没有人警告您
熟悉的工具无需重新检查安全性即可扩展权限。
来源:安全实验室新闻频道您知道您赋予 AI 代理哪些权利吗？三分之一的 Claude 和 ChatGPT 连接器在短短六周内就更改了这些权利 - 并且没有人警告您
熟悉的工具无需重新检查安全性即可扩展权限。
将人工智能代理连接到生产服务将传统集成转变为不断变化的数据访问链，因为 ChatGPT 和 Claude 连接器可以默默地接收新功能并将信息传输到第三方人工智能系统。
PromptArmor 研究了 2,517 个连接器，发现从 5 月中旬到 6 月底的六周内，其中 931 个（即 37%）发生了变化。开发人员在现有集成中添加了 1,686 个新工具，允许模型读取、修改和发送用户数据。另外 1,127 个工具的描述被重写，人工智能决定是否启动它们取决于这些描述。
Dropbox 连接器的功能得到了特别显着的扩展。扫描开始时，它提供了 8 个工具，到结束时已经有 24 个。具有写访问权限的函数数量从 3 个增加到 10 个，可能删除或不可逆转地更改数据的潜在破坏性操作数量从 0 个增加到 4 个。与此同时，决议发生了变化，并出现了模型的附加说明。
连接器还可以向其他 AI 提供商发送请求。 PromptArmor 在 487 个 Claude 集成中测试了 7,517 个工具，并在 189 个连接器（大约五分之二）中发现了此功能。例如，向 Zoom 查找会议的请求可能会传递到该服务使用的外部模型和数据处理系统。
由于这种设计，公司可以检查 Claude 或 ChatGPT 的安全性，但不考虑第三方提供商连接的附加服务。 Anthropic单独警告称，连接的服务在自己的基础设施上并根据自己的规则处理信息，克劳德计算区域的设置不适用于它们。