详细内容或原文请订阅后点击阅览
ChatGPT 不是你的朋友。 Signal 负责人解释了为什么不应允许神经网络进入个人聊天
家庭自动化很容易变成隐私问题。
来源:安全实验室新闻频道ChatGPT 不是你的朋友。 Signal 负责人解释了为什么不应允许神经网络进入个人聊天
家庭自动化很容易变成隐私问题。
即时通讯工具中的隐私问题越来越不仅仅取决于一次黑客攻击，而是取决于用户自己授予通信和数据访问权限的服务的信任问题。 Signal 总裁 Meredith Whittaker 在接受彭博社采访时警告说，像 ChatGPT 和 Claude 这样的人工智能聊天机器人不应被视为朋友、对话者或智能系统。
Whittaker 承认，她有时会使用此类工具来执行简单的任务，例如格式化文档，但不会带着问题提及它们。 Signal 负责人表示，思考和文本的工作应该由人来完成，生成系统会对现有材料进行平均，并可以用现成的答案取代自己的推理路线。
在她看来，主要风险并不在于与聊天机器人进行通信本身，而在于扩大其对其他应用程序和服务的访问。原因是微软AI负责人穆斯塔法·苏莱曼(Mustafa Suleiman)的情景，他建议Copilot将能够接管圣诞节购物，并通过家庭信件了解亲戚的愿望。
Whittaker 描述了这样一个场景：系统可以访问信使、浏览器、银行卡、家庭住址、日历，并且能够代表用户给亲戚写信。在她看来，就安全信使而言，这种集成实际上会变成旁路访问通道。
Signal 围绕限制对通信内容的访问构建安全性，因此与通用人工智能助手的深度连接与该服务的隐私模型发生直接冲突。惠特克并不是在谈论实际的攻击或发现的漏洞，而是警告可能出现的情况，即自动化的便利性需要向助手授予过于广泛的权限。