机构名称：
¥ 4.0
保留培训数据的隐私已成为一个重要的考虑因素，现在对于机器学习算法来说是一项艰巨的任务。要解决隐私问题，依从于密码学的差异隐私（DP）（Dwork等，2006）是一个强大的数学保存计划。它允许进行丰富的统计和机器学习分析，现在正成为私人数据分析的事实上的符号。保证差异隐私的方法已被广泛研究，最近在行业中采用（Tang等，2017； Ding等，2017）。作为机器学习和差异隐私社区中最重要的问题之一，在过去的十年中，DP模型中的经验风险最小化问题（即DP-erm）在（Chaudhuri等人，2011年）开始，已经在过去的十年中进行了很好的研究，例如（Bassily等，2014; Bassily等，2014; Wang et ant; Jin，2016年，Kifer等人，2017年，Wang等人，2018a，2019b；dp-dp-erm，其人口（或预期）版本，即私人的固定式凸优化（DP-SCO），近年来从（Bassily等，2014）开始受到很多关注。特定于（Bassily等，2019）首先提供了DP-SCO的最佳速率，具有（ϵ，δ）-DP的一般凸损耗函数，这与DP-MERM中最佳速率不同。后来（Feldman等，2020）通过提供一般性定位技术，将此问题扩展到强烈凸出和（或）非平滑案例。此外，如果损耗函数平滑，它们的方法具有线性时间复杂性。对于非平滑损失函数，（Kulkarni等，2021）最近提出了一种仅需要亚限级梯度复杂性的新方法。虽然已经有大量有关DP-SCO的研究，但问题仍然远远不够知名度。一个关键的观察结果是，所有以前的作品仅着眼于损失函数是一般凸或强凸的情况。但是，还有许多问题甚至比强凸功能强，或者落在凸功能和强烈凸功能之间。在非私人对应物中，各种研究试图通过对损失函数施加其他假设来获得更快的速度。并且已经表明，实现比一般凸损失函数速率快的速率确实可以（Yang等，2018; Koren and Levy，2015; van Erven等，2015），或者甚至可以达到与强凸的强劲速率相同的速率，即使函数也不强劲，karimi et al al an al al an al al and act al and act al and act an al al an al an al an al al an al al an al al al al al al al al al al al al al al al al al al al al al al al al al al a al al a al al act 201 v exe et a al and lie et as act 2010 8。 Al。，2017）。以此为动机，我们的问题是，对于具有特殊类别的人口风险功能的DP-SCO问题，是否有可能比一般凸的最佳人口和（或（或）强烈凸出案例的最佳人口风险率更快？在本文中，我们通过研究一些类别的人口风险功能来提供有效的答案。尤其是，我们将主要关注种群风险功能满足Tysbakov噪声条件（TNC）1的情况，其中包括强烈凸功能，SVM，SVM，ℓ1频繁的随机性优化和线性回归为特殊情况
差异私有随机凸的速度更快...
主要关键词
相关文件推荐
