人工智能 (AI) 已从科幻小说中的概念迅速发展成为我们生活中相对常见的特征。生成式人工智能是人工智能中一个快速崛起的分支，它可以创建与输入数据非常相似的、以前不存在的新数据。在适当的条件下，生成式人工智能模型可以生成高质量的文本、图像、音乐等。然而，生成式人工智能的便利性和创新潜力是有代价的。尽管它具有广阔的功能，但与这些系统共享个人数据会给隐私、机密性以及数据的完整性和安全性带来巨大风险。了解这些风险对于保护个人数据保护权利和维护安全的数字环境至关重要。与大多数人工智能系统一样，生成式人工智能是数据驱动的。传统的人工智能训练涉及将大型数据集输入人工智能模型，然后人工智能模型可以从这些数据中学习模式和特征。训练完成后，人工智能系统就能够根据所学的模式和特征生成输出。这意味着，一旦个人数据成为人工智能训练集的一部分，它就会有助于人工智能内部模型的形成，并将不可避免地影响其行为和输出。实际上，数据成为了人工智能的“一部分”，因为它为系统的理解和知识提供了信息。这带来了重大的数据保护问题，因为个人数据是训练数据。使用个人数据训练的生成式人工智能模型可以提取姓名、地址、健康信息甚至财务数据等敏感信息，然后将这些数据重新发布到不同用户的搜索结果中。此外，生成式人工智能模型可以通过生成更多与原始输入相似的数据来扩大曝光率。第三方可能会利用这些数据进行非法活动，包括侵入性广告、网络钓鱼诈骗，或者在更严重的情况下进行欺诈或身份盗窃。这凸显了控制生成式人工智能模型使用个人数据方式的复杂性。一旦个人数据与生成式 AI 模型共享，管理和跟踪其使用情况就会成为一项复杂（甚至不可能）的任务，这是由于 AI 系统处理信息以及在不同系统之间存储和复制数据的方式的性质。因此，撤回与生成式 AI 模型共享的个人数据可能非常困难或不切实际。DPO 的教训是，用户必须准确了解哪些类型的信息可以与生成式 AI 工具共享，哪些不能，因为一旦个人数据被共享，就已越过界限，很难撤销已做的事情。