背景:机器学习(ML)在医学数据分析上表现出了巨大的潜力。从不同来源和设置收集的大型数据集对于医疗保健中的ML模型至关重要,以实现更好的准确性和概括性。在不同的医疗机构或司法管辖区之间共享数据,由于复杂,不同的隐私和监管要求,这是具有挑战性的。因此,很难允许多方协作培训ML模型来利用各方可用的私人数据集,而无需直接共享这些数据集或通过协作损害数据集的隐私。方法:在本文中,我们通过提出集中式的,collaborative,以及用于多疗养院数据(DENAPH)的DE集中式,Collaborative,以及PRIVACY PRIVACY PRIVACY ML。此框架提供了以下关键好处:(1)允许不同的各方在不转移其私人数据集的情况下协作训练ML模型(即没有数据集中量); (2)通过限制培训过程中各方共享的任何内容引起的潜在隐私泄漏来保护患者的隐私; (3)它在不依赖集中派对/服务器的情况下促进了ML模型培训。的发现:我们使用现实世界分布的医疗数据集在三个不同的任务上证明了脱夹的通用性和力量:使用电子健康记录,使用单细胞人体基因组进行细胞类型分类的患者死亡率预测以及使用胸部放射学图像进行病理鉴定。同时,接受脱夹培训的模型隐私攻击的平均脆弱性降低了16%。与非私人保留协作框架培训的ML模型相比,经过剪裁框架训练的ML模型的模型性能下降了3.2%。此外,经过我们的Dechaph框架培训的模型比仅在没有协作的情况下与私人数据集进行培训的模型和以前的隐私权协作培训框架培训的模型分别在相同的隐私保证下受到了70%和18.2%的培训。解释:我们证明,经过雕刻框架训练的ML模型具有改进的公用事业折衷,这表明dechaph使模型能够具有良好的性能,同时保留了培训数据点的隐私。此外,经过培训的ML模型一般而言,跑赢大盘的模型仅通过各方的私人数据集进行培训,这表明DeChaph增强了模型的通用性。Funding: This work was supported by the Natural Sciences and Engineering Research Council of Canada (NSERC, RGPIN- 2020-06189 and DGECR-2020-00294), Canadian Institute for Advanced Research (CIFAR) AI Catalyst Grants, CIFAR AI Chair programs, Temerty Professor of AI Research and Education in Medicine, University of Toronto, Amazon, Apple, DARPA through the GARD Project,Intel,Meta,安大略省早期研究员奖和斯隆基金会。资源
1 昆士兰大学心理学院,昆士兰州圣卢西亚 4072,澳大利亚,2 昆士兰大学昆士兰脑研究所,昆士兰州圣卢西亚 4072,澳大利亚,3 悉尼大学心理学院,新南威尔士州悉尼 2050,澳大利亚,4 明尼苏达大学磁共振研究中心放射学系,明尼苏达州明尼阿波利斯 55455,5 昆士兰大学高级成像中心,昆士兰州圣卢西亚 4072,澳大利亚,6 西门子医疗有限公司,昆士兰州布里斯班 4006,澳大利亚,7 约翰霍普金斯大学医学院 Russell H. Morgan 放射学和放射科学系,马里兰州巴尔的摩 21287,8 马里兰大学医学院诊断放射学和核医学系,马里兰州巴尔的摩 21201,9悉尼大学生物医学工程学院,澳大利亚新南威尔士州悉尼 2050,10 悉尼大学大脑与思维中心,澳大利亚新南威尔士州悉尼 2050,11 昆士兰大学信息技术与电气工程学院,澳大利亚昆士兰州圣卢西亚 4072,12 加拿大高级研究中心 (CIFAR),加拿大安大略省多伦多 M5G 1M1
AE 对抗性示例 AI 人工智能 API 应用程序接口 BDP 边界差分隐私 BIM 基本迭代方法 CIFAR 加拿大高级研究院 CNN 卷积神经网络 CW Carlini 和 Wagner(攻击) DNN 深度神经网络 DP-SGD 差分隐私随机梯度下降 FGSM 快速梯度符号法 GNN 图形神经网络 IP 知识产权 JPEG 联合图像专家组 JSMA 基于雅可比矩阵的显著性图 KNHT 键控非参数假设检验 L-BFGS 有限内存 Broyden-Fletcher-Goldfarb-Shanno(算法) MNIST 改良的国家标准与技术研究所 MNTD 元神经木马检测 PATE 教师集合的私有聚合 PCA 主成分分析 PGD 项目梯度下降 PRADA 防止 DNN 模型窃取攻击 ReLU 整流线性单元 RNN 循环神经网络 RONI 拒绝负面影响 SAI 保护人工智能 SAT 可满足性 SGD 随机梯度下降 SMT 可满足性 模理论 STRIP STRong 有意扰动 TRIM 基于修剪的算法 ULP 通用试金石
Adrian M. Owen OBE 博士目前是加拿大西安大略大学生理学与药理学系和心理学系的认知神经科学与成像教授。他还指导由加拿大高级研究院 (CIFAR) 资助的大脑、思维和意识项目,并且是加拿大西安大略大学 CFREF 资助的 BrainsCAN 计划的执行委员会成员。Owen 博士曾担任剑桥大学医学研究委员会认知与脑科学部的助理主任和西安大略大学认知神经科学与成像领域的加拿大卓越研究主席 (CERC)。他的研究将结构和功能神经成像与脑损伤患者的神经心理学研究相结合,并已在许多世界领先的科学期刊上发表,包括《科学》、《自然》、《新英格兰医学杂志》和《柳叶刀》。Owen 博士担任过多个编辑职务,其中包括担任《欧洲神经科学杂志》副主编 9 年。他发表了 400 多篇同行评审文章和章节,以及一本畅销科普书《走进灰色地带:神经科学家探索生死边界》。欧文博士因在科学研究方面的贡献,于 2019 年荣获女王荣誉榜上的大英帝国官佐勋章 (OBE)。他于 2022 年被任命为加拿大皇家学会院士,并于 2023 年被任命为加拿大卫生科学院院士。
Schmidt Sciences AI2050 Early Career Fellow 2024 City & State Trailblazer in Higher Education 2024 Samsung AI Researcher of the Year (awarded to 5 early-career faculty worldwide) 2023 NSF CAREER Award 2022 Cornell Tech Faculty Teaching Award of the Year (awarded to one faculty member by students) 2022 CIFAR Azrieli Global Scholar 2022 Kavli Fellow 2022 LinkedIn Faculty Research Award 2022 MIT Technology Review 35 Innovators Under 35 2021 Best Paper Award in Applied Data Science Track, KDD 2021 Google Research Scholar 2021 Best On Theme paper award, NeurIPS ML4H Workshop 2020 Forbes 30 Under 30 in Science 2019 Most impactful to society poster award, University of Michigan AI Symposium 2019 EECS Rising Star 2018 Best paper award, AISTATS 2018 Top 10 2016-2017论文监管和系统基因组学(ROCOMB/ISCB)2017 2017年最佳海报奖,ICML计算生物学2016年最佳脱口秀奖,ISMB高吞吐量Sig 2015 Rhodes 2015 Rhodes Secorning 2015 Rhodes Scholar 2014 Hertz Hertz Hertz Hertz 2014 NDSEG Allt 2014 NDSEG ALLIG 2014 NDSEG ALLID 2014 DEANS奖学金,2014年DEANS COUMPL ANTANFORD COMPAL,NINTAN FAME 2013 NINATAR DRIVATE 2013 US,US DIMATICS US,US DIMATICS US,US dnd <
邀请在2024年12月AI的全球问题上关于AI的全球问题的神经访问研讨会2024年12月在2024年12月的开放问题,2024年10月CIFAR DEEP LEAD LEAVY SUMMLE暑期夏季学校2024年7月,多伦多大学学生AI学生AI大学学生AI 2023年1月2023年1月1月1月的剑桥大学cambridge University computational and Biological Lab Scienter 2022年多伦多大学学校(高中)研究俱乐部(远程)2022年4月神经研讨会:编程语言和神经成像系统(遥远)2021年12月Schwartz-riesman Institute Institute研讨会系列(远程)2021年11月)ICCV ICCV ICCV关于Neural Architect on Neural Architect:现在和未来的(远程(遥远)2021年10月20日至2021年10月20日Keynote:K. ICML Workshop on Time Series (remote) July 2021 Oxford University, StatML Centre for Doctoral Training Seminar (remote) July 2021 Centre for Mathematics and Algorithms for Data, University of Bath (remote) July 2021 Microsoft Research AutoML Lecture Series (remote) May 2021 Flatiron Institute, Center for Computational Mathematics May 2021 ICLR Workshop on Deep Learning for Simulation (remote) April 2021 University College伦敦,DeepMind/Ellis CSML研讨会系列(遥控)2021年2月,贝叶斯深度学习(远程)Neurips Europe Meetup 2020年12月Neurips研讨会:超越反射(远程)2020年12月
Email: saramos@cs.washington.edu Web: http://saramostafavi.github.io/ ____________________________________________________________________________ EMPLOYMENT Sept 2020- Associate Professor, Paul G. Allen School of Computer Science and Engineering, University of Washington (UW), Seattle, USA Sept 2020- Adjunct Faculty, Genome Sciences, UW,美国西雅图,2020年9月 - 美国西雅图市西雅图市埃库斯研究所高级数据科学研究员,2018 - 2020年12月至2020年,加拿大多伦多矢量研究所,加拿大多伦多,2015 - 2020年不列颠哥伦比亚省哥伦比亚大学(UBC)助理教授(UBC),统计学系,加拿大医学院,2015年1月20日至20日,UBC University of Medical Genertics,2015年至2020年,UBC,UBC大学,2015年至2020年。高级研究所(CIFAR),人工智能研究所(AI)主席,2015年至今,加拿大高级研究,儿童与大脑发展研究所,2015 - 2020年加拿大加拿大研究主席(CRC II)2006-2008 Ontario Anttario研究生奖学金(OGS)2004年发现McGill discult McGill Research Grants Andivalial Actorical Actorical Accorepant PDF 2014 decume McGill Medical Schools Schools 2014 Medical Schools(Dect)免疫学;导师:Christophe Benoist)PDF 2011-2014斯坦福大学(Dept.计算机科学;导师:达芙妮·科勒(Daphne Koller))博士2006-2011多伦多大学(Dept.计算机科学;顾问:Quaid Morris)MS 2004-2006皇后大学(Dept.Sasse A*,Chinkina M $,Mostafavi Sara $(2024)。在硅中的快速有效近似计算科学;顾问:Parvin Mousavi)BSC 2001-2004多伦多大学(计算机科学与生命科学)1999-2001皇后大学(Life Sciences) - 2001年转移到Uoft,于2001年转移到Uoft,选定的出版物 - 我的监督或共同服务的受训者:下划线,上线,共同或共同的作者: https://scholar.google.ca/citations?user = nbl0j6kaaaaj&hl = en -Google Scholar:H -index:54;引用(全部):34K前10个选定出版物:1。
为了培训分类器,我们首先查找了一些成功的分类器实现,例如Alexnet(旧),Inception-V1,V2,V2,V3,V4,V4(Google Net),残留网络,Inception-Resnet v1,v2,v2。试图实现这些模型,我们很快意识到它们对于我们的情况来说太复杂了,因为它们大多数是为Imagenet数据集设计的,该数据集的像素维度比我们的32x32图像大得多。因此,这个想法是遵循这些方法的结构,但将其优化到CIFAR数据集。首先,我们没有设法按照状态方法来制定有效和准确的模型,因为它们的精度非常缓慢,几乎没有达到40%。实际上,我们仅使用几个卷积层,合并层,批归归式化和恢复就可以更快,更准确。也就是说,使用这种简单的方法(类似于Alexnet),我们仅在几分钟内就达到了40%左右(时期= 10)。另一方面,为了避免消失的梯度问题,并能够进一步扩展我们的网络(更深入地),我们选择实施与所研究论文中的网络型模型相比,它的不同。这个想法是在块和块残差块中施加2-2卷积层,并重复每个块3次,以将它们求和以前的结果。块后,我们应用了一个还原模块,以使用步幅= 2降低图像的大小,并增加(翻倍)特征图的数量,然后再次将其添加到块的序列中。有关视觉表示,请参见图1。请注意,由于图像的大小已经相对较小(32x32),因此在模型的茎部分进行任何形式的还原/池很难,因为它很容易导致边缘损失。因此,在茎部分(在残留块之前),我们仅在原始图像上应用1 x 1卷积以生成相同大小的特征图。在第二个残留块的末尾应用一个最大池层层,以进一步降低图像的空间尺寸,然后再应用最终完全连接的层。
其他经验 协议实验室志愿者顾问(2018 年夏季)、顾问 2021 - 加速科学的软件工具 Encultured AI 顾问,2022 年 9 月 - 非常规 AI 安全相关平台 OccamzRazor 顾问委员会成员 (2015-2018) 科学家的知识捕获和共享平台 Expii 科学知识图谱顾问 (2014) 在线参与式数学教育。 Beagle 联合指导(与 Juan Batiz-Benet 合作)一个开发科学文献社交注释工具的项目(2014-)[暂停] 房利美和约翰赫兹基金会奖学金采访员(2015-) 确定下一代科学/工程领袖 开放慈善项目科学顾问(2013-2016) 就生物工具和技术、人工智能、纳米技术、科学政策等提供建议 脑保护基金会科学顾问(2015-2018) 香农实验室非正式咨询(2018 年夏季) 麻省理工学院媒体实验室“科学+艺术/设计/工程的未来”咨询小组成员(2016-)[10,000 美元奖金] Wyss 中心(日内瓦) 战略输入 Neuralink(2016 年 7 月 - 11 月) 为后来成为 Neuralink 的公司提供早期无偿咨询 - 直接为 Elon Musk 提供建议,帮助培育初始团队 志愿执行顾问:转化生物技术研究所( IXBio) (2018) 为英国政府成员提供非正式的科学政策建议 科学同行评审:PLoS 计算生物学、JoVE、Nature Communications、麻省理工学院出版社、Neuron、ICLR BAICS、NeurIPS,Frontiers 科学研讨会客座编辑 组织:“科学技术的瓶颈”,与 Geoff Anders、Jose Luis Ricon 和 Larissa Hesketh-Rowe 共同组织 (2021) “分子增材制造”,英国剑桥大学,领导的研讨会 (2016) 与领先的纳米技术专家一起勾勒出如何制造分子 3D 打印机 Kavli Futures Symposium,“走向皮质计算分类法”,与 Gary Marcus 共同组织,由 Kavli 基金会资助 6 万美元 (2015) Cosyne Workshop,“用于地面真实神经科学的工具和方法”,与 Annabelle Singer 共同组织(2015) CIFAR 心机链接研讨会 (2019),与 Blake Richards 和 Alona Fyshe 联合组织 纽约干细胞基金会研讨会,“免疫工程”,共同发起研讨会 (2015) 其他:共同创建者:神经技术架构网络,在白宫 BRAIN 计划 2014 年 9 月 30 日公告中介绍,http://neuroarchitecting.org/ 参与者:NTC 神经伦理研讨会 (2017)、Kavli 未来研讨会:神经技术 (2017)、宾大大脑深度学习研讨会 (2018) 报告员:BrainX.io 全球大脑研究协调会议 (2016)