详细内容或原文请订阅后点击阅览
人工智能中的“联合遗忘”是否会改善数据隐私，或带来新的网络安全风险？
Deborah Lupton / Pop Chips / 获得 CC-BY 4.0 许可作者：里贾纳大学 Abbas Yazdinejad 和巴尔斯利国际事务学院 Ann Fitz-Gerald 随着人工智能 (AI) 能力呈指数级增长，人们对用户数据隐私的担忧也随之增加。世界各地的组织越来越多地采用称为联合的东西[...]
来源:ΑΙhubDeborah Lupton/Pop Chips/由 CC-BY 4.0 许可
作者：Abbas Yazdinejad，里贾纳大学和Ann Fitz-Gerald，巴尔西利国际事务学院
随着人工智能 (AI) 能力呈指数级增长，对用户数据隐私的担忧也随之增加。
世界各地的组织越来越多地采用一种称为“联合取消学习”的技术，这种技术可以在不集中敏感数据的情况下进行人工智能训练。这使得医院、银行和政府机构能够在将数据保存在本地的同时进行协作——这种方法被认为是隐私方面的重大进步。
联合取消学习承诺可以从训练有素的人工智能系统中删除用户数据。例如，医院可以要求其人工智能系统忘记患者的数据。
在欧盟，这被定义为“被遗忘的权利”。全球范围内都存在类似的数据删除权，但具有不同的法律效力和技术解释。
联邦学习允许医院在不共享患者数据的情况下训练强大的人工智能模型，解决限制医疗人工智能创新的隐私障碍。 #machinelearninginhealthcare
[图像或嵌入]
— HackerNoon (@hackernoon.com) 2026 年 3 月 16 日 15:01
但是如果忘记请求本身不值得信任怎么办？我们的研究表明，虽然联合遗忘似乎是数据权利的自然延伸，但它也引入了新的隐藏安全风险，破坏了人们对数字世界的信任。
新的隐形漏洞
在联合遗忘过程中，参与者根据个人数据训练本地模型，然后将这些模型的更新发送到中央服务器。服务器聚合这些更新以学习单个共享系统，这使得模型能够从数据的规模和范围中受益。
研究人员已经知道这些联邦系统可能会受到数据中毒攻击的影响，攻击者会偏置他们用来训练本地模型的数据来改变共享模型的性能。