详细内容或原文请订阅后点击阅览
序言:通过块稀疏向量
我们重新审查了在PRIO等两级服务器系统中高维向量的安全聚合的问题。这些系统通常用于汇总媒介,例如私人联合学习中的梯度,在该学习中,通过噪声来保护聚合本身以确保差异隐私。现有方法需要具有维数的沟通缩放,因此限制了向量的维度,可以在此设置中有效处理。我们提出序言:{\ bf pr} ivate {\ bf e} fficient {\ bf a} ggregation {\ bf a} ggregation {\ bf m} e} uclidean矢量…
来源:Apple机器学习研究我们重新审查了在PRIO等两级服务器系统中高维向量的安全聚合的问题。这些系统通常用于汇总媒介,例如私人联合学习中的梯度,在该学习中,通过噪声来保护聚合本身以确保差异隐私。现有方法需要具有维度的通信缩放,从而限制了一个可以在此设置中有效处理的向量的维度。
我们提出了序言:{\ bf pr} iVate {\ bf e} fficient {\ bf a} ggregation {\ bf m}通过{\ bf bl} ock-sparse {\ bf bl} ock-sparse {\ bf e} uclidean vectors。序言建立在分布点函数的扩展上,该函数可以实现{\ em block-sparse vectors}的通信和计算有效的聚合,它们是稀疏的向量,其中非零条目出现在少数连续坐标的群集中。我们表明,这些块Sparse DPF可以通过抽样结果与随机抽样和隐私放大结合使用,以允许以沟通成本的一部分来渐近地,以涉及矢量聚集的最佳最佳隐私性权衡。与PRIO使用的高斯机制相比,当加上数值隐私会计的最新进展时,我们的方法会产生可忽略的噪声差异开销。
- **在Apple†Aarhus University完成的工作