XiaoMi-AI文件搜索系统
World File Search Systemconvex
优化近似凸函数的量子加速及其在对数遗憾随机凸老虎机中的应用
贡献。在本文中，我们系统地研究了近似凸函数优化的量子算法，并将其应用于零阶随机凸老虎机。量子计算是一项快速发展的技术，量子计算机的能力正在急剧提升，最近谷歌 [ 6 ] 和中国科学技术大学 [ 42 ] 已经达到了“量子至上”。在优化理论中，半定规划 [ 3 ， 4 ， 11 ， 12 ]、一般凸优化 [ 5 ， 15 ]、优化中的脱离鞍点问题 [ 41 ] 等问题的量子优势已被证明。然而，据我们所知，近似凸优化和随机凸优化的量子算法是广泛开放的。在本文中，我们使用量子零阶评估预言机 OF 来考虑这些问题，这是先前量子计算文献中使用的标准模型 [ 5 ， 14 ， 15 ， 41 ]：
可编程量子计算机的凸优化
量子计算的一个基本模型是可编程量子门阵列。这是一种量子处理器，由程序状态提供信息，该程序状态会在输入状态上引发相应的量子操作。虽然可编程，但已知该模型的任何有限维设计都是非通用的，这意味着处理器无法完美模拟输入上的任意量子通道。表征模拟的接近程度并找到最佳程序状态在过去 20 年里一直是悬而未决的问题。在这里，我们通过展示寻找最佳程序状态是一个凸优化问题来回答这些问题，该问题可以通过机器学习中常用的半有限规划和基于梯度的方法来解决。我们将这个一般结果应用于不同类型的处理器，从基于量子隐形传态的浅层设计到依赖于基于端口的隐形传态和参数量子电路的更深层方案。
网格空间中的凸包计算
摘要 当输入点来自结构化配置（例如二维 (2D) 或三维 (3D) 网格）时，许多实际应用都要求计算凸包 (CH)。网格空间中的凸包已应用于地理信息系统、医学数据分析、机器人/自动驾驶汽车的路径规划等。用于 CH 计算的传统和现有的 GPU 加速算法不能直接在以矩阵格式表示的 2D 或 3D 网格上运行，并且不能利用这种光栅化表示中固有的顺序。这项工作引入了新颖的过滤算法，最初为 2D 网格空间开发，随后扩展到 3D 以加速外壳计算。它们进一步扩展为 GPU-CPU 混合算法，并在商用 NVIDIA GPU 上实现和评估。对于 2D 网格，对于 ( n × n ) 网格，贡献像素的数量始终限制为 ≤ 2 n。此外，它们是按字典顺序提取的，从而确保了 CH 的高效 O(n) 计算。同样，在 3D 中，对于 (n×n×n) 体素矩阵，贡献体素的数量始终限制为 ≤ 2n2。此外，2D CH 滤波在 3D 网格的所有切片上并行启用，从而进一步减少了要输入到 3D CH 计算过程的贡献体素的数量。与最先进的方法相比，我们的方法更胜一筹，尤其是对于大型和稀疏的点云。
随机凸优化中适应性的价格
现代机器学习中的随机优化方法通常需要仔细地调整算法参数，以大量的时间，计算和专业知识。这种现实导致人们对开发自适应（或无参数）算法的持续兴趣，这些算法需要最小或不需要调整[1、2、4-8、10-10-15、17-20]。但是，这些适应性方法通常比非自适应对应物的次级次数范围更差。存在“尽可能自适应”，还是有改进的空间？换句话说，是否有基本价格要支付（按照收敛速度），因为不知道问题参数吗？为了回答这些问题，我们从算法游戏理论中的“无政府状态价格” [16]中汲取了灵感，并介绍了“适应性价格”（POA）。大致说明，由于问题参数的不确定性，POA衡量了次优的乘法增加。我们显示了以下非平滑随机凸优化的POA下限：
算法扩散用于采样凸体
从高维凸体中生成随机样品是无数连接和应用的基本算法问题。[DFK91]的著名结果的核心是用于计算凸体体积的随机多项式算法，是第一个用于均匀采样凸体的多项式时间算法。在此后的几十年中，对抽样的研究已导致其算法复杂性的一系列改进[LS90，LS93，KLS97，LV06，CV18]，通常基于发现的新数学/几何结构，建立了与其他领域的连接（例如，均具有新的工具），并开发了新的工具（例如并分析马尔可夫连锁店。随着数据的扩散和机器学习的越来越重要，取样也已成为一种必不可少的算法工具，应用采样器需要非常高的尺寸的采样器，例如科学计算[CV16，HCT + 17，KLSV22] Sta20]。凸体的采样器基于马尔可夫链（有关摘要，请参见§A）。他们的分析是基于关联的马尔可夫链的电导限制，后者又界定了混合速率。分析电导需要将精致的几何参数与（Cheeger）凸体的（Cheeger）等级不平等相结合。后者的原型示例如下：对于任何可测量的分区S 1，s 2，s 3的凸形身体k r d，我们有
网络中学习增强的分散在线凸优化
本文研究了网络化多智能体系统中的学习增强分散式在线凸优化，这是一个尚未得到充分探索的具有挑战性的场景。我们首先考虑一种线性学习增强分散式在线算法（LADO-Lin），该算法以线性方式将机器学习（ML）策略与基线专家策略相结合。我们表明，虽然 LADO-Lin 可以利用 ML 预测的潜力来提高平均成本性能，但它不能保证最坏情况的性能。为了解决这个限制，我们提出了一种新颖的在线算法（LADO），该算法自适应地结合 ML 策略和专家策略来保护 ML 预测，从而实现强大的竞争力保证。我们还证明了 LADO 的平均成本界限，揭示了平均性能和最坏情况鲁棒性之间的权衡，并展示了通过明确考虑鲁棒性要求来训练 ML 策略的优势。最后，我们对分散式电池管理进行了实验。我们的结果突出了 ML 增强在提高 LADO 的平均性能以及保证的最坏情况性能方面的潜力。
通过凸优化定义量子发散
我们引入了一个新的量子 R'enyi 散度 D # α，其中 α ∈ (1 , ∞ ) 以凸优化程序定义。此散度具有多种理想的计算和操作特性，例如状态和通道的高效半正定规划表示，以及链式法则特性。这种新散度的一个重要特性是它的正则化等于夹层（也称为最小）量子 R'enyi 散度。这使我们能够证明几个结果。首先，我们使用它来获得当 α > 1 时量子通道之间正则化夹层 α -R'enyi 散度的上界的收敛层次。其次，它使我们能够证明当 α > 1 时夹层 α -R'enyi 散度的链式法则特性，我们用它来表征通道鉴别的强逆指数。最后，它使我们能够获得量子通道容量的改进界限。
用户级差分私有随机凸优化
我们在用户级别的隐私下研究了差异化私有随机凸优化（DP-SCO），每个用户可以持有多个数据项。用户级DP-SCO的现有工作要么需要超多项式运行时[Ghazi等，2023b]，要么要求用户数量在问题的维度上以额外的严格影响[Bassily and Sun，Sun，2023]在问题的维度上生长。我们为用户级DP-SCO开发了新的算法，这些算法在多项式时间内获得了凸面和强烈凸功能的最佳速率，并要求用户数量仅在维度上对数增长。我们的算法是第一个在多项式时间内获得非平滑函数的最佳速率。这些算法基于多通道DP-SGD，与集中数据的新型私人平均估计程序合并，该过程在估算梯度的平均值之前对较高的删除步骤进行了分类。
差异私有随机凸的速度更快...
保留培训数据的隐私已成为一个重要的考虑因素，现在对于机器学习算法来说是一项艰巨的任务。要解决隐私问题，依从于密码学的差异隐私（DP）（Dwork等，2006）是一个强大的数学保存计划。它允许进行丰富的统计和机器学习分析，现在正成为私人数据分析的事实上的符号。保证差异隐私的方法已被广泛研究，最近在行业中采用（Tang等，2017； Ding等，2017）。作为机器学习和差异隐私社区中最重要的问题之一，在过去的十年中，DP模型中的经验风险最小化问题（即DP-erm）在（Chaudhuri等人，2011年）开始，已经在过去的十年中进行了很好的研究，例如（Bassily等，2014; Bassily等，2014; Wang et ant; Jin，2016年，Kifer等人，2017年，Wang等人，2018a，2019b；dp-dp-erm，其人口（或预期）版本，即私人的固定式凸优化（DP-SCO），近年来从（Bassily等，2014）开始受到很多关注。特定于（Bassily等，2019）首先提供了DP-SCO的最佳速率，具有（ϵ，δ）-DP的一般凸损耗函数，这与DP-MERM中最佳速率不同。后来（Feldman等，2020）通过提供一般性定位技术，将此问题扩展到强烈凸出和（或）非平滑案例。此外，如果损耗函数平滑，它们的方法具有线性时间复杂性。对于非平滑损失函数，（Kulkarni等，2021）最近提出了一种仅需要亚限级梯度复杂性的新方法。虽然已经有大量有关DP-SCO的研究，但问题仍然远远不够知名度。一个关键的观察结果是，所有以前的作品仅着眼于损失函数是一般凸或强凸的情况。但是，还有许多问题甚至比强凸功能强，或者落在凸功能和强烈凸功能之间。在非私人对应物中，各种研究试图通过对损失函数施加其他假设来获得更快的速度。并且已经表明，实现比一般凸损失函数速率快的速率确实可以（Yang等，2018; Koren and Levy，2015; van Erven等，2015），或者甚至可以达到与强凸的强劲速率相同的速率，即使函数也不强劲，karimi et al al an al al an al al and act al and act al and act an al al an al an al an al al an al al an al al al al al al al al al al al al al al al al al al al al al al al al al al a al al a al al act 201 v exe et a al and lie et as act 2010 8。 Al。，2017）。以此为动机，我们的问题是，对于具有特殊类别的人口风险功能的DP-SCO问题，是否有可能比一般凸的最佳人口和（或（或）强烈凸出案例的最佳人口风险率更快？在本文中，我们通过研究一些类别的人口风险功能来提供有效的答案。尤其是，我们将主要关注种群风险功能满足Tysbakov噪声条件（TNC）1的情况，其中包括强烈凸功能，SVM，SVM，ℓ1频繁的随机性优化和线性回归为特殊情况
凸多阶段随机优化的数值方法
在随机环境中涉及顺序决策的优化问题。在这本专着中，我们主要集中于SP和SOC建模方法。在这些框架中，存在自然情况，当被考虑的问题是凸。顺序优化的经典方法基于动态编程。它具有所谓的“维度诅咒”的问题，因为它的计算复杂性相对于状态变量的维度呈指数增长。解决凸多阶段随机问题的最新进展是基于切割动态编程方程的成本为go（值）函数的平面近似。在动态设置中切割平面类型算法是该专着的主要主题之一。我们还讨论了应用于多阶段随机优化问题的随机临界类型方法。从计算复杂性的角度来看，这两种方法似乎相互融合。切割平面类型方法可以处理大量阶段的多阶段问题