基于概率波动的会员推理攻击
机构名称:
¥ 1.0

摘要 - 富含广泛和流动的培训数据,生成模型在多个领域表现出了非凡的创造力。尽管如此,如何避免滥用对隐私敏感和版权的数据仍然是一个开放的问题。会员推理攻击(MIAS)通过推断可疑数据记录是机器学习模型的培训数据的一部分,从而提供了潜在的补救措施。尽管针对常规分类模型的MIA已引起了很大的关注,但最近的研究已开始研究MIA在生成模型中的应用。我们的研究表明,针对生成模型量身定制的当前MIA严重依赖于目标模型中存在的过度拟合。但是,可以通过应用各种正则化技术来缓解过度拟合,从而导致现有MIA在实际情况下的表现不佳。与过度拟合相比,记忆在使深度学习模型实现最佳性能中起着至关重要的作用,从而使其变得更加普遍。在生成模型中,记忆表现为围绕成员记录的记录的概率分布的上升趋势。因此,我们提出了一种评估成员推理攻击(PFAMI)的概率波动,这是一种新型的MIA框架,旨在通过分析围绕特定记录的概率波动来识别记忆模式来推断成员资格。我们的代码和数据集可在以下链接1中找到。我们对各种生成模型和多个数据集进行了广泛的实验,这表明PFAMI与表现最好的基线相比,PFAMI将攻击成功率(ASR)提高了约27.9%。

基于概率波动的会员推理攻击

基于概率波动的会员推理攻击PDF文件第1页

基于概率波动的会员推理攻击PDF文件第2页

基于概率波动的会员推理攻击PDF文件第3页

基于概率波动的会员推理攻击PDF文件第4页

基于概率波动的会员推理攻击PDF文件第5页

相关文件推荐

锂价格波动
2024 年
¥1.0
概率
2025 年
¥2.0
会员包
2025 年
¥5.0
概率门:H
2022 年
¥4.0
会员指南
2025 年
¥2.0
会员手册
2025 年
¥12.0
会员重的一般手册
2024 年
¥1.0
会员报告
2024 年
¥3.0
AI推理套件
2025 年
¥1.0
会员手册
2023 年
¥1.0
会员目录
2023 年
¥3.0
3。经济波动
2024 年
¥1.0
会员和注册费
2024 年
¥1.0
会员福利
2024 年
¥1.0
AI推理套件
2025 年
¥1.0
AI推理套件
2025 年
¥1.0
会员申请
2019 年
¥1.0
基于凸组合攻击
2023 年
¥4.0