机构名称：
¥ 1.0
抽象数据重建攻击和防御对于理解机器学习和联合学习中的数据泄漏至关重要。然而，以前的研究主要集中在梯度反演攻击的经验观察上，缺乏基于模型架构和防御方法定量分析重建错误的理论框架。在本演讲中，我们提出将问题作为一个反问题，从而实现了对数据重建攻击的理论和系统评估。对于各种防御方法，我们得出了算法上限和匹配信息 - 两层神经网络的重建误差的理论下限，考虑了特征和建筑维度以及防御强度。我们进一步提出了两种防御策略 - 最佳梯度噪声和最佳梯度修剪 - 在保持模型性能的同时最大化重建误差。bio：Qi Lei是Courant数学科学研究所和NYU数据科学中心的数学和数据科学助理教授。以前她曾是普林斯顿大学ECE系的副研究学者。她获得了博士学位。来自UT Austin的Oden计算工程与科学研究所。她访问了高级学习研究所（IAS）/普林斯顿理论机器学习计划。在此之前，她曾是西蒙斯深度学习计划基础研究所的研究员。她的研究旨在为可信赖和（样本和计算）有效的机器学习算法开发数学基础。QI获得了多个奖项/认可，包括机器学习，EEC中的新星，统计和数据科学，杰出论文奖，计算奖学金奖学金和Simons-Berkeley Research奖学金。
数学座谈会
主要关键词
相关文件推荐
