1./ Kovacs GG,Kurucz I,Budka H,Adori C,MüllerF,ÁcsP,KlöppelS,Schatzl HM,Mayer RJ,LászlólCreutzfeldt-Jakakob病中Purkinje细胞的明显压力反应。疾病神经生物学8,881-889(2001)if:4.87 2./ Muller F,Adori C,Sass M.自噬和凋亡特征在烟草角脂质体内编程细胞死亡期间的自噬和凋亡特征(Manduca Sexta)。欧洲细胞生物学杂志83(2)67-78(2004)if:2.31 3./ vannay A,fekete A,Adori C,Toth T,Losonczy G,Laszlo L,Laszlo L,Laszarhelyi B,Tulassay T,Tulassay T,Szabo A.肾脏血管质量量和蛋白质含量MMR NICKERNNA和蛋白质的差异。实验生理学89(4)435-44(2004)if:1.83 4./ adori C,Kovacs GG,Low P,Molnar K,Gorbea C,Gorbea C,Fellinger E,Budka H,Mayer RJ,Laszlo L.组件与神经元脆弱性相关。疾病的神经生物学19(3)427-35(2005)if:4.04 5./ adori c,ando rd,kovacs gg,bagdy G.血清素能轴突的损害和Hsp27,Hsp27,Hsp72和Hsp90分子层次的HSP27,HSP27和HSP27的免疫定位后的损坏:模式。比较神经病学杂志497(2)251-69(2006)if:3.85 6./ Adori,c。,PéterLőW,P.,Moszkovkin,G.,G.,Bagdy,G.,László,L.,L.,Kovács,G.G。G.G.在未诊断的人和大鼠脑中泛素 - 蛋白酶体系的组成部分的亚细胞分布。组织化学与细胞化学杂志54(2)263-7(2006)if:2.20 7./ kovacs gg。,ando rd。,伴有快速轴突传输Nin Dark Agouti大鼠脑和脊髓神经病理学应用神经生理学应用神经生物学33 193-203(2007)If:2.86 If:2.86 A. Tóth,E。Sziksz,G.,Adori c。,GálA。,Tulassay T.,SzabóA。脱氢表雄酮预处理改善缺血/抑制诱导的VEGF,IL-1和IL-6基因在急性肾脏衰竭肾脏肾脏肾脏肾脏肾脏肾脏肾脏肾脏和血压研究中的基因表达(2009年)32(2009)32(32(3):175-4。IF: 1.09 9./ Sziksz E., Kozma Gt., E. Pállinger, Zi Komlósi, C. Adori, L. Kovács, B. Szebeni, K. Rosesi, G. Losonczy, A. Szabó, Vannay A. Galectin-9 in Allergic Airway Inflammation and Hyper Archives of Allergy and Immunology 2010; 151(4):308-17。 如果:2.542 10./ Kitka T.,Katai Z.,Pap D.,Molnar E.,Adori C.,Bagdy G.小型平台睡眠驱动选择性地增加了眼动28期间的平均值。 205(2):482-7。 if:3.22 11./ Adori C.,Zelena D.,TímárJ。,Gyarmati Z.,Domokos A.,Sobor M.,Fürst,Makara G.,Bagdy G.,Bagdy G.间歇性产前MDMA暴露会改变成年人老鼠后代的生理但情绪相关的与情绪相关的参数。IF: 1.09 9./ Sziksz E., Kozma Gt., E. Pállinger, Zi Komlósi, C. Adori, L. Kovács, B. Szebeni, K. Rosesi, G. Losonczy, A. Szabó, Vannay A. Galectin-9 in Allergic Airway Inflammation and Hyper Archives of Allergy and Immunology 2010; 151(4):308-17。如果:2.542 10./ Kitka T.,Katai Z.,Pap D.,Molnar E.,Adori C.,Bagdy G.小型平台睡眠驱动选择性地增加了眼动28期间的平均值。 205(2):482-7。if:3.22 11./ Adori C.,Zelena D.,TímárJ。,Gyarmati Z.,Domokos A.,Sobor M.,Fürst,Makara G.,Bagdy G.,Bagdy G.间歇性产前MDMA暴露会改变成年人老鼠后代的生理但情绪相关的与情绪相关的参数。
小组成员:Razan Al Mubarak(IUCN;联合国气候变化高级冠军);亚历山大·安东尼(Alexandre Antonelli)教授(皇家植物园,基德); Bai Yunwen(财政与可持续性研究所); Erin Billman(基于科学的目标网络);罗伯特·卡卡格诺(Robert Calcagno)(摩纳哥基金会的阿尔伯特亲王海洋研究所);戴维·克雷格(David Craig)(与自然有关的财务披露工作组;自然历史博物馆); Erick Decker(AXA); ulrike decoene(AXA);劳伦·菲斯塔迪格(Lauren Ferstandig)(自然保护协会); Alexis Gazzo(法国EY);马克·肯伯(VCMI); Akanksha Khatri(世界经济论坛);约翰·马里(Valuentation); Swapan Mehra(IORA生态解决方案); Hiromichi Mizuno(MSCI,Inc。;联合国秘书长的前特别使节);詹妮弗·莫尔纳(Jennifer Molnar)(自然保护协会);西蒙·摩根(Simon Morgan)博士(价值);詹妮弗·莫里斯(Jennifer Morris)(自然保护协会); Pauline Nantongo Kalunda(乌干达的环境保护信托基金);托尼·奥沙利文(授粉); Carlos ManuelRodríguez(全球环境设施); Mariana Sarmiento(Terrasos);首席Almir Narayamoga Surui(Paiter Surui人民的领导人); IlonaSzabódeCarvalho(Igarapé学院); Jennifer Tauli Corpuz(Nia Tero); Rhian -Mari Thomas OBE博士(绿色金融研究所); David Vaillant(BNP Paribas资产管理);西蒙·扎德克(Simon Zadek)博士(Nature Finance);和Philippe Zaouati(Mirova)。
感谢受访者付出的时间、宝贵的知识和专业知识(按字母顺序排列):Abhishek Gupta(蒙特利尔人工智能伦理研究所)、Agnieszka Leszczynski、Alexandra Ketchum(麦吉尔大学)、Ashley Casovan(AI Global)、Bianca Wylie、Daniel Schwartz(麦吉尔大学)、Danji Buck-More(麦吉尔大学)、Dmytro Ihnatov、Eli Fathi(MindbridgeAI)、Ellie Marshall、Erik McBain(MindbridgeAI)、Fenwick McKelvey(康考迪亚大学)、Guido Vieira、Gwen Phillips、Jaimie Boyd(不列颠哥伦比亚省政府)、Jason Edward Lewis(康考迪亚大学)、Jason Prince(康考迪亚大学)、Jean-Noé Landry(Open North)、Jess Reia(麦吉尔大学)、Joel Fairbairn(不列颠哥伦比亚省政府)、Katie Clancy(加拿大政府)、Laura Tribe(Open Media), Lex Gill、Lorna Roth、Luc Véronneau(Véronneau Techno Conseil)、Luke Stark、Manal Siddiqui(Vector Institute)、Matt Ross(伦敦市)、Melinda Jacobs、Michael Karlin(加拿大政府)、Michael Lenczner、Michèle Spieler(社区组织中心)、Mike Gifford(公民行动)、Narcis Micsoniu、Paola Andrea Díaz Vargas、Patrick White(蒙特利尔大学)、Petra Molnar(约克大学)、Philippe Beaudoin、Pierre-Antoine Ferron、Rob Davidson、Sarah Villeneuve、Shingai Manjengwa(Fireside Analytics)、Stéphane Guidoin(蒙特利尔市)、Teresa Scassa(渥太华大学)、Valentine Goddard(AI Impact Alliance)、Vasiliki (Vass) Bednar(麦克马斯特大学)、Yasmeen Hitti(Mila -感谢所有参与本次研讨会的专家:魁北克人工智能研究所 (Quebec AI Institute)、Yuan Stevens (数据与社会),以及希望保持匿名的受访者。
冈萨雷斯,安德鲁; Vihervaara,Petter;平衡,帕特里夏;贝茨,阿曼达E;伊丽莎·贝拉克塔罗夫(Bayractarov);贝灵汉,彼得·J;著名的安德里亚斯;坎贝尔,吉利安; Catchen,Michael D;珍妮(Jeanne)巴尔斯(Barres)孩子,乔纳森; Coops,尼古拉斯;马克·J·科斯特洛(Costello); Czçz,Ballin;声明,aurélie;玛丽亚的多纳拉斯;格雷戈尔的杜波依斯;达菲(Duffy),艾米特(Emmett J);希尔德(Eggermont);费尔南德,米格尔;内斯特·费尔南德斯(Fernandez); Ferrier,西蒙;加里(Gary),加里(Gary N);吉尔,迈克尔;砾石,多米尼克;战争,卡洛斯A; Gualnick,罗伯特;迈克尔·哈福特(Harfoot);赫希,蒂姆;霍班,肖恩;休斯,爱丽丝C;雨果,威姆;亨特,玛格丽特E;伊斯贝尔,森林; Jetz,Walter;青年,诺伯特;亲吻,丹尼尔;克鲁格,Cornelia B;彼得·库尔伯格(Kulberg);伟大的,伊万; Leung,Brian; Lando-Murdical,Mary Cecilia;主,让·米歇尔(Jean-Michel);米歇尔·洛雷(Loreau);路易斯,艾米;好吧,keping;麦克唐纳,安娜J;但是,约阿希姆; McGeoch,旋律; Mihoub,Jean Baptiste; Millette,Katie L;莫尔纳,灵魂;山,丰富;莫里亚(Akira); Muller-Karger,Frank E; Muraota,Hiroyuki; Nacaica,Masahiro;纳瓦尔(Laetitia)纳瓦拉(Navarre); Newbold,蒂姆; Nyimir,艾丁;奥布拉,大卫; O'RE Connor,玛丽; Paganin,马克;颗粒,多米尼克;佩里亚(Pereara),亨里克(Henrique);毒,提摩太; Pollock,Laur J; Purvis,Andy;阿德里亚娜(Adriana)Radulovici;罗奇尼(Rochini),荷兰人; Rooesli,Claudia;沙普曼,迈克尔; Gabriela的Stroub-Stroub; Schmeller,Dirk S; Schmiedel,Ute;施耐德(Fabian D); Shakya,Mangal Man;斯基德莫尔(Skidmore),安德鲁(Andrew); Skowno,Andrew L;拿,yeoi; Tuanmu,毛宁; Turach,Eren;特纳,伍迪; Urban,Mark C; Nicolos Urbin-Cardon; Valbuena,鲁本;普特的面包,安东尼;范·哈弗(Van Havre),罗勒; Wingate,弗拉基米尔·鲁斯兰(Vladimir Ruslan);赖特,
过去十年,全球对可解释人工智能 (XAI) 的研究不断增加,这导致了许多领域特定方法的开发,用于解释机器学习 (ML) 模型并生成人类可理解的解释 (Abusitta 等人,2024 年;Aria 等人,2021 年)。这种增长在很大程度上是由 ML(尤其是深度学习)在电子商务、医疗保健和金融等各个领域的广泛采用推动的,在这些领域,人工智能系统的透明度至关重要 (Adadi 和 Berrada,2018 年)。XAI 在医疗保健等关键领域尤为重要,它有助于解释 ML 模型以进行疾病预测和诊断,在金融领域,它有助于解释信用评分模型和欺诈检测系统,确保法规遵从性和客户信任 (Whig 等人,2023 年;Bussmann 等人,2021 年)。先前的研究强调了整理跨各个子领域的 AI 可解释性文献的必要性(Burkart 和 Huber,2021 年;Molnar 等人,2020 年;Guidotti 等人,2018 年)。大多数 XAI 方法侧重于解释整个 ML 过程,解释采用规则、数值数据或视觉效果等形式,使用通常从人机交互 (HCI) 中得出的指标进行评估(Aria 等人,2024 年)。在先前努力的基础上,本文对全球 XAI 研究进行了系统、透明且可重复的文献计量综述(Donthu 等人,2021 年)。通过对 Web of Science 数据库中 6,148 篇文献进行系统文献综述 (SLR),本研究使用 Bibliometrix R 软件包 (Aria 和 Cuccurullo,2017),对 XAI 研究的现状、历史演变和未来方向进行了深入分析,包括科学活动趋势、主要出版物、作者贡献和国际合作。
Justin Adams (Tropical Forest Alliance, World Economic Forum), Géraldine Ang (Organisation for Economic Cooperation and Development), Ulrich Apel (Global Environment Facility), Marco Arlaud (UNDP Biodiversity Finance Initiative), Mohamed Imam Bakarr (Global Environment Facility), Larry Band (Independent Consultant), Andrea Barrios (Rockefeller Foundation), Rafaello Cervigni (The世界银行),格蕾琴每日(斯坦福大学),尼克·迪克斯(生态系统投资伙伴),马法尔达·杜阿尔特(Mafalda Duarte)(气候投资基金,世界银行),Yasha Feferholtz(联合国生物多样性公约)(Monica Filkova公约),Charlotte Kaiser(Kaiser natural)(KEER),KATER,KATEN(KEREND) (彭博),肖恩·肾(Sean Newney)(气候债券倡议),琳达·克鲁格(Linda Krueger)(自然保护协会),吉玛·劳伦斯(Gemma Lawrence)(贷款市场协会),理查德·劳伦斯(Richard Lawrence),理查德·劳伦斯(Richard Lawrence),温索(Overlook Investments),温索·李(Winsor J.Matthews(英格兰养老院委员会),汤姆·米切尔(剑桥大学),詹·莫尔纳(Jen Molnar)(大自然保护协会),斯特凡诺·帕吉奥拉(Stefano Pagiola),爱德华·佩里(Edward Perry),经济合作与发展组织)(亚历山大·皮尔顿(Alexandra Pinzon),凯利·托尔斯(Alexandra Pinzon)(肯德拉·托尔斯(Alexandra Pinzon),凯利竞技场(伦敦国防部)基金),乔瓦尼·鲁塔(Giovanni Ruta)(世界银行),林恩·斯卡特(Lynn Scarlett)(自然保护协会),休·塞特(Hugh Searight)(世界银行),安德鲁·塞德尔(UNDP生物多样性财务倡议),普里亚·shyamsundar(自然保护协会),自然保护协会,克里斯塔·图基尼(Krista tukiainen) Mike Wironen(自然保护协会),Tracy Wolstencroft(国家地理)和Zhao Xiaolu(中国环境国防基金)
机器学习 (ML) 正在改变着工业、科学和社会。如今,ML 算法可以在理发店预约(Leviathan 和 Matias,2018 年)、根据蛋白质的氨基酸序列确定其 3D 形状(Senior 等人,2020 年),甚至可以撰写新闻文章(Brown 等人,2020 年)。仔细观察这些发展,我们发现模型越来越复杂。不同的 ML 模型以启发式方式堆叠在一起,但理论支持有限(Hutson,2018 年)。在某些应用中,只要算法在大多数情况下表现良好,复杂性可能就不是问题。然而,在社会、认识论或安全关键领域,复杂性可能会排除 ML 解决方案——例如自动驾驶、科学发现或刑事司法。高度复杂算法的两个主要缺点是模糊性问题(Lipton,2018 年)和对抗性攻击(Szegedy 等人,2014 年)。模糊性问题描述了人类对 ML 算法内部运作的有限认知访问,尤其是关于参数的语义解释、学习过程和 ML 决策的人为可预测性(Burrell,2016 年)。这种可解释性的缺乏最近引起了广泛关注,从而催生了可解释人工智能 (XAI) 领域的发展(Doshi-Velez 和 Kim,2017 年;Rudin,2019 年)。人们提出了许多技术来深入了解机器学习系统(Adadi 和 Berrada,2018 年;Doˇsilovi´c 等人,2018 年;Das 和 Rad,2020 年)。与模型无关的方法尤其受到关注,因为与特定于模型的方法不同,它们的应用不限于特定的模型类型(Molnar,2019 年)。全局与模型无关的解释技术(如置换特征重要性(Fisher 等人,2019 年)或部分依赖图(Friedman 等人,1991 年))旨在理解机器学习算法的一般属性。另一方面,局部模型无关解释方法(如 LIME(Ribeiro 等人,2016 年)或 Shapley 值(ˇ Strumbelj 和 Kononenko,2014 年))旨在理解算法在特定区域的行为。解释特定模型预测的一种方法是反事实解释 (CE)(Wachter 等人,2017 年)。CE 通过提供最接近的替代输入来解释预测,该输入将导致不同的(通常是期望的)预测。CE 是我们在本文中研究的第一类对象。对抗性攻击问题描述了这样一个事实:复杂的 ML 算法容易受到欺骗(Papernot 等人,2016a;Goodfellow 等人,2015;Szegedy 等人,2014)。攻击者可以利用此类故障来伤害模特雇主或危及最终用户(Song 等人,2018)。研究对抗性攻击的领域称为对抗性机器学习(Joseph 等人,2018)。如果攻击发生在训练过程中,通过插入错误标记的训练数据,这种攻击称为投毒。如果攻击发生在训练过程之后,通常称为对抗性示例 (AE)(Serban 等人,2020 年)。AE 是类似于真实数据但被训练过的 ML 模型错误分类的输入,例如,乌龟图像被归类为 rière(Athalye 等人,2018 年)。因此,错误分类在这里意味着算法与某些(通常是人类给出的)基本事实相比分配了错误的类别/值(Elsayed 等人,2018 年)。AE 是与我们的研究相关的第二类对象。尽管不透明度问题和对抗性攻击问题乍一看似乎毫无关联,但仍有充分的理由联合研究它们。 AE 显示了 ML 模型失败的地方,检查这些失败可以加深我们对模型的理解(Tomsett 等人,2018 年;Dong 等人,2017 年)。另一方面,解释可以阐明如何改进 ML 算法,使其对 AE 更具鲁棒性(Molnar,2019 年)。缺点是,解释可能包含有关模型的太多信息,从而允许构建 AE 并攻击模型(Ignatiev 等人,2019 年;Sokol 和 Flach,2019 年)。CE 与 AE 的联系比其他解释更强。CE 和 AE 可以通过解决相同的优化问题 1 来获得(Wachter 等人,2017 年;Szegedy 等人,2014 年):
Andrew Gonzalez 1*,Petteri Vihervaara 2,Patricia Balvanera 3,Amanda E. Bates 4,Elisa Bayraktarov 5,Peter J. Bellingham 6,Andreas Bruder 7,Andreas Bruder 7,Jillian Campbell 8,Jillian Campbell 8,Michael D. , Mark J. Costello 13, Maria Dornelas 14,15, Grégoire Dubois 16, Emmett J. Duffy 17, Hilde Eggermont 18, Nestor Fernandez 10.11, Simon Ferrier 19, Gary N. Geller 20, Mike Gill 21, Dominique Gravel 22, Carlos A. War 10.23, Robert Guralnick 24, Michael Harfoot 25 25 ,Tim Hirsch 26,Sean Hoban 27,Alice C. Hughes 28,Margaret E. Hunter 29,Forest Isbell 30,Walter Jetz 31,Norbert Juergens 32,W。Daniel Kissling 33,Cornelia B. Krug 34,Cornelia B. Krug 34,Yvan Le Bras 35 Jean-Michel Lord 37,Amy Luers 38,Keping,但39,Anna J. MacDonald 40,Melodie McGooch 41,Katie L. Millette 37,Zsolt Molnar 42,Akira S. Mori 43,Frank E. Muller-Karger 44,Hiroyuki Muraoki Muraoki Muraoka 45,Hiroyuki Muraoka 45,laetia navarrro 46,laetia navarro 46 Helen Newing 48, Aidin Niamir 49, David Obura 50, Mary O'Connor 51, Marc Paganini 52, Henrique Pereira 10.53, Timothée Poisot 54, Laura J. Pollock 1, Andy Purvis 55.56, Adriana Radulovici 37, Michael SchaePman 57, Gabriela SchaePman-Strub 58, Dirk 58, Dirk S. Schmeller 59,Ute Schmiedel 32,Fabian D. Schneider 20,Mangal Man Shakya 60,Andrew Skidmore 61,Andrew L.Skowno 62,Yayioi Takeuchi 63,Mao-con-ning Tuanmu 64,Eren Tuanmu 64,Eren Turak 65 Urbina-Cardona 68,Ruben Valbuena 69,Basile Van Havre 70,Elaine Wright 71