我的研究重点是开发可解释的机器学习算法和管道,以促进人类模型的相互作用,以解决高风险决策问题。我解决了可解释的机器学习中的基本问题,使非常简单的模型以非常快速且可扩展的方式实现与黑匣子相当的性能。我引入了一种用于机器学习的新范式,称为学习Rashomon集,以通过在最佳损失的ε中找到和存储所有模型,从而破坏用户和ML算法之间的交互瓶颈。我已经在神经,ICML,AAAI,AISTATS,IEEE VIS和统计数据中发表了多篇论文。北卡罗来纳州学术大学,位于北卡罗来纳州教堂山教堂山的北卡罗来纳州教授助理教授2024年7月 - 数据科学与社会运营学院研究教育教育教育杜克大学达勒姆大学达勒姆大学,北卡罗来纳州博士。在计算机科学2020 - 2024论文中:解释性和多样性:通往可信赖的机器学习的途径M.S.统计科学2018 - 2020年北卡罗来纳大学教堂山教堂山北卡罗来纳州北卡罗来纳州 统计和信息科学2014 - 2018年选定统计科学2018 - 2020年北卡罗来纳大学教堂山教堂山北卡罗来纳州北卡罗来纳州统计和信息科学2014 - 2018年选定
大学和Riken AIP的Baiho访问科学家,他的研究重点是机器学习,深度学习,基础模型及其应用。他是MBZUAI MLD的访问研究学者,Microsoft Research和Alibaba Damo Academy的客座研究员,Riken AIP的博士后研究员。他撰写了MIT Press,Springer自然以及基金会和趋势的三本机器学习专着。他曾担任Neurips的高级主席,以及神经,ICML和ICLR的区域主席。他还曾担任IEEE TPAMI,MLJ和JAIR的副编辑,以及JMLR和MLJ的编辑委员会成员。他在Neurips获得了杰出的纸质奖,在Neurips的最有影响力的论文,著名的Neurips的区域主席,ICLR的杰出地区主席以及IEEE TNNLS的杰出副编辑。他获得了RGC早期职业计划,NSFC总体计划,IJCAI早期职业聚光灯,Riken Baiho奖,Dean杰出成就奖,Microsoft Research Startrack计划以及来自Bytedance,Baidu,Baidu,Alibaba and Tencent的教师研究奖。2。Tongliang Liu教授是悉尼大学悉尼AI中心的主任,Tongliang Liu教授是悉尼大学悉尼AI中心的主任,
R关于地球观察研讨会计算机视觉系列的研讨会。WACV 2025。r人类决策系统中的人类对齐。IEEE CAI2025。R首次关于人工智能,公共政策和国家安全的研讨会。伯克利AI研究。2024。R地球系统建模的机器学习研讨会。ICML2024。R关于复杂评估深度学习和肉类挑战的研讨会。WACV 2024。关于人道主义援助和灾难反应的人工智能第六次研讨会。Neurips 2023。r第五次关于人道主义援助和灾难反应的人工智能研讨会。ICCV2023。R太空工业基础2023年。R第四届人工智能援助和灾难响应的研讨会。Neurips 2022。r关于人道主义援助和灾难反应的人工智能第三次研讨会。Neurips2021。R第二次关于人道主义援助和灾难反应的人工智能研讨会。Neurips 2020。用于数据发现和重用研讨会的人工智能。开放科学研讨会2020年。R软件硬件代码用于机器学习工作负载研讨会。mlsys 2020。人工智能援助和灾难反应研讨会的人工智能。Neurips2019。
1。背包语言模型。在计算语言学协会年会(ACL)年会2023年。接受率:23.5%未偿还纸张奖:39 /3872纸提交。约翰·休伊特(John Hewitt),约翰·加斯敦(John Glongstun),克里斯托弗·D·曼宁(Christopher D. Manning),珀西·梁(Percy Liang)。2。通过生成预训练的旋律转录。在国际音乐信息检索研讨会(ISMIR)2022中。接受率:43.3%的克里斯·多纳休(Chris Donahue),约翰·加斯敦(John Glongstun),珀西·梁(Percy Liang)。3。扩散lm改善可控文本生成。神经信息处理系统的进步(神经)2022。接受率:25.6%的口头呈递。Xiang Lisa Li,John Glongstun,Ishaan Gulrajani,Percy Liang,Tatsunori B. Hashimoto。 4。 淡紫色:使用发散边界来测量神经文本和人类文本之间的差距。 神经信息处理系统的进步(神经)2021。 接受率:25.7%未偿还纸张奖:6 /9122纸质提交。 奎师那·普鲁图拉(Krishna Pillutla),斯瓦巴(Swabha Swayamdipta),罗文·泽勒斯(Rowan Zellers),约翰·盖斯坦(John Gondstun),肖恩·威尔克(Sean Welleck),Yejin Choi,Zaid Harchaoui。 5。 通过Langevin Dynamics从自回旋模型进行平行和灵活的采样。 在机器学习国际会议(ICML)2021中。 接受率:21.5%Vivek Jayaram*,John Glongstun*(*同等贡献)。 6。 使用连续时间梯度更快地学习。 动态与控制学习(L4DC)2021。 7。 8。 9。 10。Xiang Lisa Li,John Glongstun,Ishaan Gulrajani,Percy Liang,Tatsunori B. Hashimoto。4。淡紫色:使用发散边界来测量神经文本和人类文本之间的差距。神经信息处理系统的进步(神经)2021。接受率:25.7%未偿还纸张奖:6 /9122纸质提交。奎师那·普鲁图拉(Krishna Pillutla),斯瓦巴(Swabha Swayamdipta),罗文·泽勒斯(Rowan Zellers),约翰·盖斯坦(John Gondstun),肖恩·威尔克(Sean Welleck),Yejin Choi,Zaid Harchaoui。5。通过Langevin Dynamics从自回旋模型进行平行和灵活的采样。在机器学习国际会议(ICML)2021中。接受率:21.5%Vivek Jayaram*,John Glongstun*(*同等贡献)。6。使用连续时间梯度更快地学习。动态与控制学习(L4DC)2021。7。8。9。10。塞缪尔·阿恩斯沃思(Samuel Ainsworth),肯德尔·洛里(Kendall Lowrey),约翰·康斯敦(John Glongstun),扎伊德·哈科伊(Zaid Harchaoui),悉达多·斯里尼瓦萨(Siddhartha Srinivasa)。一种信息瓶颈方法,用于控制理由提取中的简洁性。自然语言处理中的经验方法(EMNLP)2020。接受率:24.5%Bhargavi Paranjape,Mandar Joshi,John Glongstun,Hannaneh Hajishirzi,Luke Zettlemoyer。用深的生成先验的源分离。在国际机器学习会议(ICML)2020中。接受率:21.8%Vivek Jayaram*,John Glongstun*(*同等贡献)。卷积作曲家分类。在国际音乐信息检索研讨会(ISMIR)2019中。接受率:45.1%苛刻的Verma,John Glongstun。耦合复发模型,用于复音音乐组成。在国际音乐信息检索研讨会(ISMIR)2019中。接受率:45.1%John Glongstun,Zaid Harchaoui,Dean P. Foster,Sham M. Kakade。11。监督音乐转录的不断增长和数据增强。在国际声学,言语和信号处理(ICASSP)2018中。接受率:49.7%的口头介绍。John Gongstun,Zaid Harchaoui,Dean P. Foster,Sham M. Kakade。12。用于多个F0估计的频域卷积。Mirex摘要(技术报告)2017。John Gongstun,Zaid Harchaoui,Dean P. Foster,Sham M. Kakade。13。音乐网:从头开始学习音乐的功能。在2017年国际学习表征会议(ICLR)。接受率:39.1%John Glongstun,Zaid Harchaoui,Sham M. Kakade。
我们从神经科学(“连接组学”)了解到,大脑总体上是一个非常稀疏的网络,具有相对较小的局部密集神经元簇。这些拓扑特性对于大脑高效、稳健地运行以及以分层模块化方式处理信息的能力至关重要。另一方面,我们今天使用的人工神经网络非常密集,甚至是完全连接的,至少在连续层之间是如此。此外,众所周知,深度神经网络高度参数化:修剪研究表明,通常可以消除 90% 的连接(权重)而不会显着降低性能。然而,修剪通常是在密集网络训练之后进行的,这只会提高推理过程的运行时效率。前面的观点表明,我们需要设计稀疏神经网络的方法,无需任何训练,在训练后其性能几乎与相应的密集网络一样好。本次演讲将首先介绍一些修剪文献的背景,无论是在训练之后还是在训练之前。然后,我们将介绍一种最近提出的(ICML 2021)方法,称为 PHEW(具有更高边权重的路径),该方法在训练之前创建稀疏神经网络,并且可以快速学习并很好地概括。此外,PHEW 不需要访问任何数据,因为它仅取决于给定网络架构的初始权重和拓扑。
2025使用结构化矩阵自定义了软磁性注意的电感偏差。Yilun Kuang,Noah Amsel,Sanae Lotfi,Shikai Qiu,Andres Potapczynski,Andrew Gordon Wilson。审查2024年,贝叶斯对抗体的优化是由不断发展的序列生成模型所告知的。Alan Nawzad Amin,Nate Gruver ∗,Yilun Kuang ∗(同等贡献),Yucen Lily Li ∗,Hunter Elliott,Aniruddh Raghu,Calvin McCarter,Peyton Greenside Greenside,Andrew Gordon Wilson。国际学习表征会议(ICLR),2025年,Spotlight 2024解锁令牌作为较大语言模型的泛化界限的数据点。sanae Lotfi ∗,Yilun Kuang ∗(同等贡献),Brandon Amos,Micah Goldblum,Marc Finzi,Andrew Gordon Wilson。神经信息处理系统(Neurips),2024年,Spotlight 2023大型语言模型的非呈现概括范围。sanae Lotfi ∗,Marc Finzi ∗,Yilun Kuang ∗(同等贡献),Tim G. J. Rudner,Micah Goldblum,Andrew Gordon Wilson。国际机器学习会议(ICML),2024 2023具有最大多种能力表示的自然图像的学习有效编码。Thomas Yerxa,Yilun Kuang,Eero Simoncelli,Sueyeon Chung。神经信息处理系统(神经),2023年研讨会论文
Schmidt Sciences AI2050 Early Career Fellow 2024 City & State Trailblazer in Higher Education 2024 Samsung AI Researcher of the Year (awarded to 5 early-career faculty worldwide) 2023 NSF CAREER Award 2022 Cornell Tech Faculty Teaching Award of the Year (awarded to one faculty member by students) 2022 CIFAR Azrieli Global Scholar 2022 Kavli Fellow 2022 LinkedIn Faculty Research Award 2022 MIT Technology Review 35 Innovators Under 35 2021 Best Paper Award in Applied Data Science Track, KDD 2021 Google Research Scholar 2021 Best On Theme paper award, NeurIPS ML4H Workshop 2020 Forbes 30 Under 30 in Science 2019 Most impactful to society poster award, University of Michigan AI Symposium 2019 EECS Rising Star 2018 Best paper award, AISTATS 2018 Top 10 2016-2017论文监管和系统基因组学(ROCOMB/ISCB)2017 2017年最佳海报奖,ICML计算生物学2016年最佳脱口秀奖,ISMB高吞吐量Sig 2015 Rhodes 2015 Rhodes Secorning 2015 Rhodes Scholar 2014 Hertz Hertz Hertz Hertz 2014 NDSEG Allt 2014 NDSEG ALLIG 2014 NDSEG ALLID 2014 DEANS奖学金,2014年DEANS COUMPL ANTANFORD COMPAL,NINTAN FAME 2013 NINATAR DRIVATE 2013 US,US DIMATICS US,US DIMATICS US,US dnd <
•伊曼纽尔·特沃尔德(Emanuel Tewolde),布莱恩·胡(Brian Hu Zhang),卡斯帕(Caspar Oesterheld),图马斯·桑德霍尔姆(Tuomas Sandholm)和文森特·科尼特(Vincent Conitzer)。尊重它们的计算游戏对称性和平衡。促进人工智能(AAAI)的协会,口语,2025年。•Ratip Emin Berker,Emanuel Tewolde,Ioannis Anagnostides,Tuomas Sandholm,Vincent Conitzer。在广泛的游戏中召回的价值。促进人工智能(AAAI)的协会,口语,2025年。•伊曼纽尔·特沃尔德(Emanuel Tewolde),布莱恩·胡(Brian Hu Zhang),卡斯帕(Caspar Oesterheld),马诺利斯·扎佩塔基斯(Manolis Zampetakis),Tuomas Sandholm,Paul W. Goldberg和Vincent Conitzer。不完美的回顾游戏:平衡概念及其复杂性。在国际艺术情报联合会议(IJCAI)中,2024年。•Emanuel Tewolde和Vincent Conitzer。可以保留NASH平衡或最佳响应集的游戏转换。在国际艺术情报联合会议(IJCAI)中,2024年。•(αβ)Vincent Conitzer,Rachel Freedman,Jobs Heitzig,Wesley H. Holliday,Bob M. Jacobs,Nathan Lambert,MilanMossé,Eric Pacuit,Stuart Russell,Hailey Schoelkopf,Hailey Schoelkopf,Emanuel Tewolde和William S. Zwicker。社会选择应指导AI的一致性来处理各种人类反馈。在国际机器学习会议(ICML)中 - 位置纸条曲目,2024。•Emanuel Tewolde,Caspar Oesterheld,Vincent Conitzer和Paul Goldberg。单人游戏不完美的回顾游戏的计算复杂性。在国际人工智能联合会议(IJCAI)中,2023年。
[1] Gagan Bansal、Besmira Nushi、Ece Kamar、Dan Weld、Walter Lasecki 和 Eric Horvitz。2019 年。人机协作团队向后兼容的案例。ICML 人机协作学习研讨会 (2019)。[2] Gagan Bansal、Tongshuang Wu、Joyce Zhou、Raymond Fok、Besmira Nushi、Ece Kamar、Marco Tulio Ribeiro 和 Daniel Weld。2021 年。整体是否超过部分?人工智能解释对互补团队绩效的影响。在 CHI 计算机系统人为因素会议论文集上。1-16。 [3] Umang Bhatt、Javier Antorán、Yunfeng Zhang、Q Vera Liao、Prasanna Sattigeri、Riccardo Fogliato、Gabrielle Gauthier Melançon、Ranganath Krishnan、Jason Stanley、Omesh Tickoo 等人。2020 年。不确定性作为透明度的一种形式:测量、传达和使用不确定性。arXiv 预印本 arXiv:2011.07586 (2020)。[4] Zana Buçinca、Maja Barbara Malaya 和 Krzysztof Z Gajos。2021 年。信任还是思考:认知强制函数可以减少人工智能辅助决策对人工智能的过度依赖。ACM 人机交互论文集 5,CSCW1 (2021),1-21。 [5] Rich Caruana、Yin Lou、Johannes Gehrke、Paul Koch、Marc Sturm 和 Noemie Elhadad。2015 年。医疗保健的可理解模型:预测肺炎风险和 30 天内住院率。第 21 届 ACM SIGKDD 国际知识发现和数据挖掘会议论文集。1721–1730。[6] R Dennis Cook。1986 年。局部影响力评估。皇家统计学会杂志:B 系列(方法论)48,2(1986 年),133–155。[7] Maria De-Arteaga、Artur Dubrawski 和 Alexandra Chouldechova。2021 年。利用专家一致性改进算法决策支持。arXiv 预印本 arXiv:2101.09648(2021 年)。 [8] Maria De-Arteaga、Riccardo Fogliato 和 Alexandra Chouldechova。2020 年。《人机交互案例:在存在错误算法评分的情况下做出决策》。2020 年 CHI 计算机系统人为因素会议论文集。1-12。[9] Berkeley J Dietvorst、Joseph P Simmons 和 Cade Massey。2015 年。《算法厌恶:人们在发现算法错误后会错误地避开算法》。《实验心理学杂志:综合》144, 1 (2015),114。[10] Kelwin Fernandes、Jaime S Cardoso 和 Jessica Fernandes。2017 年。《具有部分可观测性的迁移学习应用于宫颈癌筛查》。《伊比利亚模式识别与图像分析会议》。Springer,243-250。 [11] Yarin Gal 和 Zoubin Ghahramani。2016 年。Dropout 作为贝叶斯近似:表示深度学习中的模型不确定性。在国际机器学习会议 (ICML) 中。1050–1059。[12] Ruijiang Gao、Maytal Saar-Tsechansky、Maria De-Arteaga、Ligong Han、Min Kyung Lee 和 Matthew Lease。2021 年。通过 Bandit 反馈实现人机协作。IJCAI (2021)。[13] Pang Wei Koh 和 Percy Liang。2017 年。通过影响函数理解黑盒预测。在第 34 届国际机器学习会议论文集-第 70 卷中。JMLR。org,1885–1894 年。[14] Himabindu Lakkaraju、Jon Kleinberg、Jure Leskovec、Jens Ludwig 和 Sendhil Mullainathan。2017 年。选择性标签问题:在存在不可观测因素的情况下评估算法预测。第 23 届 ACM SIGKDD 国际知识发现与数据挖掘会议论文集。ACM,275–284。
1。(2023,Neurips Conference)Will,G。Behrens,J。Busecke,N。Lose,C。Stern,T。Beucler等。:攀登:用于混合物理机器学习气候仿真的大型多尺度数据集。神经信息处理系统的进步。“ Oustanding数据集和基准测试”奖。2。(2023年,Neurips Workshop)Lin,J.,M。A. Bhouri,T。Beucler,S。Yu&M。Pritchard:在看不见,温暖的气候下,应对混合物理学机器学习气候模拟的压力测试。2023神经信息处理系统会议。3。(2021,Neurips Workshop)Mangipudi,H.,G。Mooers,M。Pritchard,T。Beucler&S。Mandt:使用多通道VAE分析高分辨率云和对流。2021神经信息处理系统会议。4。(2020年,Igarss)Beucler,T.,M。Pritchard,P。Gentine&S。Rasp:迈向物理上一致的数据驱动的对流模型。IEEE国际地球科学和遥感研讨会2020年。5。(2020年,气候信息学)Mooers,G.,J。Tuyls,S.Mandt,M。Pritchard&T。Beucler:大气对流的生成建模。第十届国际气候信息学会议的会议记录,98-105。6。(2019年,ICML研讨会)Beucler,T.,S。Rasp,M。Pritchard&P。Gentine:在气候建模中实现神经网络模拟器中的能量保护。2019年国际机器学习会议。