详细内容或原文请订阅后点击阅览
人工智能“记住”你的信息是隐私的下一个前沿
记住您和您的偏好的能力正在迅速成为人工智能聊天机器人和代理的一大卖点。本月早些时候，谷歌推出了 Personal Intelligence，这是一种人们与该公司的 Gemini 聊天机器人互动的新方式，该机器人利用 Gmail、照片、搜索和 YouTube 历史记录，使 Gemini “更加个性化、主动……
来源:MIT Technology Review _人工智能当信息全部位于同一个存储库中时，很容易以非常不希望的方式交叉上下文。随意聊聊饮食偏好以建立购物清单可能会影响随后提供的健康保险选项，或者搜索提供无障碍入口的餐厅可能会渗入薪资谈判——所有这些都在用户不知情的情况下发生（这种担忧在“大数据”的早期听起来可能很熟悉，但现在远不那么理论化了）。记忆中的信息汤不仅会带来隐私问题，还会使理解人工智能系统的行为变得更加困难，并从一开始就对其进行治理。那么开发者可以做些什么来解决这个问题呢？
首先，内存系统需要能够控制内存访问和使用目的的结构。早期的努力似乎正在进行中：Anthropic 的 Claude 为不同的“项目”创建了单独的内存区域，OpenAI 表示通过 ChatGPT Health 共享的信息与其他聊天是分开的。这些都是有帮助的开始，但工具仍然太生硬：至少，系统必须能够区分特定记忆（用户喜欢巧克力并询问过 GLP-1）、相关记忆（用户管理糖尿病，因此避免巧克力）和记忆类别（例如专业和健康相关）。此外，系统需要允许对某些类型的存储器进行使用限制，并可靠地适应明确定义的边界，特别是与医疗状况或受保护特征等敏感主题有关的存储器，这些边界可能会受到更严格的规则的约束。