AI的最新进展开发了生物医学研究的新途径。AI,使用机器学习(ML)算法,可以分析广泛的生物数据集以增强早期检测,个性化治疗和疫苗开发(Wang等,2024; Hu等,2024; Yu等,2022; Holzinger等,Holzinger等,2019)。机器学习算法尤其在构建复杂的非线性模型中与大型数据集中的特征与疾病相关的危险因素联系起来,这表明效率和准确性都将其联系起来(Li等,2024)。作为AI的子场,ML包含各种算法类别,链接到不同的学习任务。这些包括监督的学习,无监督的学习和强化学习。其中,人工神经网络的家族具有灵活的结构,可以适应所有三种机器学习中的各种情况(Janiesch等,2021)。深度学习(DL)涉及具有多层计算神经元的神经网络,从而使其能够处理像图像这样的非结构化数据(Petersen等,2022)。单细胞技术的出现增加了全长配对B细胞受体(BCR)序列的可用性。因此,将免疫曲目测序与AI结合起来具有改善与免疫相关和传染病的诊断和治疗的重要潜力(Irvine and Reddy,2024;图1)。
在最初发表的文章的版本中,该文章中缺少以下文本,现在已添加到本文的HTML和PDF版本中:“我们向Dennis Zaller表示感谢,以拓展了依次的概念,以促进对自动免疫性和早期讨论的序列方法的概念。此外,我们要感谢Leon Carayannopoulos,Kofi Mensah,Nicholas Pullen,Mike Ellis,Peter Schafer,Dennis Grasela,Sharon Cload和Emily Holzinger的宝贵意见和建议。”
6 Tom Boellstorff,《从理论上制作大数据》(2013 年)18(10) First Monday。7 David Silver 和 Demis Hassabis,《AlphaGo:利用机器学习掌握古老的围棋游戏》[2016](2021 年 6 月 23 日访问)。8 Robert Prey,《Nothing Personal:音乐流媒体平台上的算法个性化》(2018 年)40(7) Media, Culture & Society 1087。9 Kristian Hammond,《人工智能入门指南》(Wiley 2015 年)。10 Frank Pasquale,《黑箱社会。控制金钱和信息的秘密算法》(哈佛大学出版社 2015 年)。11 Andreas Holzinger 等人,《人工智能在医学中的因果性和可解释性》(2019 年)9(4) WIREs 数据挖掘和知识
AI 被描述为“黑匣子”,这意味着得出其提供的结果的内部算法计算非常不透明 (Rai, 2020)。Doran、Schulz 和 Besold (2017) 对 xAI 给出了多方面的定义,即“不透明的技术,不解释其算法机制;可解释的系统,用户可以用数学方法分析其算法机制;可理解的系统,显示符号,向用户解释如何得出结论”(第 1 页)。现有研究 (例如Holzinger, 2018) 探讨了如何利用 AI 技术帮助企业做出更明智、更快的决策。然而,关于此类 AI 技术的“可解释性”因素的实证研究很少,而这些因素促使企业采用这些技术。这在撒哈拉以南非洲 (SSA) 尤其需要,因为那里人工智能的使用正在迅速增长,但监管仍不完善。
引言人工智能 (AI) 的发展已展现出令人瞩目的性能,特别是在图像处理或游戏等明确定义的领域。然而,所部署的技术对于人类用户来说可能是不透明的,这引发了一个问题:人工智能系统如何提供解释 (Neerincx 等人,2018 年;Rosenfeld 和 Richardson,2019 年),并且监管框架对可解释人工智能 (XAI) 的需求日益增长。话虽如此,2017 年,谷歌的研究主管 Peter Norvig 指出,在人类可能不擅长提供“解释”的情况下期望计算机提供“解释”是具有讽刺意味的。可解释人工智能 (XAI) 的大部分工作都严重依赖于以计算机为中心的视角 (Springer,2019 年)。例如,Holzinger 等人 (2020) 假设人类和人工智能系统可以平等地访问“基本事实”。由此可见,可解释性“……突出了机器表示中与决策相关的部分……,即有助于模型在训练中的准确性或特定预测的部分。”与许多 XAI 文献一样,这并没有为人类提供任何角色,只能作为被动接受者。这意味着人工智能系统能够反省自己的过程来生成解释。然后将得到的解释呈现给用户,并描述人工智能系统的流程或它使用过的特征(“决策相关部分”)。这样,解释就只是一个建议(来自人工智能系统)加上与此相关的特征。正如 Miller (2017) 所指出的那样,这种态度的一个问题在于,它是基于设计师对什么是“好的”解释的直觉,而不是基于对人类如何响应和利用解释的合理理解。这并不能说明为什么选择某些特征,也不能说明为什么建议适合用户的关注点。它也没有将解释置于更广泛的组织中;分析师的解释可能与数据收集管理人员或接受分析师简报的经理的解释不同。对于 Holzinger 等人 (2020) 来说,情况的各个方面(定义为基本事实)被组合成一个陈述;也就是说,解释只是这个陈述的一种表达。这意味着从特征到解释存在线性插值。这类似于 Hempel 和 Oppenheim (1948) 的“覆盖定律模型”,该模型关注的是历史学家如何根据先前的原因来解释事件。然而,“基本事实”(由 Holzinger 的过程模型和覆盖定律模型假设)很少得到完全定义(导致在选择相关特征时产生歧义)。这意味着,仅仅陈述情况方面而不说明为什么选择这些方面(而不是其他方面)可能不会产生有用或可用的解释。霍夫曼等人(2018)对与解释相关的文献进行了全面的回顾。从这篇评论来看,解释涉及人类的理解(将人工智能系统的输出置于特定情境中),我们同意,考虑这一点的适当框架是数据框架的理解模型(Klein 等人,2007)。此外,理解(及其与解释的关系)依赖于认识到过程(提供和接收解释)必须是相互的、迭代的和协商的。这个过程依赖于“解释者”和“被解释者”达成一致。换句话说,解释涉及“共同点”(Clark,1991),其中理解上有足够的一致性以使对话继续进行。对话的性质将取决于提供解释的情况和被解释者的目标。例如,被解释者可能是“受训者”,他试图理解解释以学习决策标准,也可能是“分析师”,使用人工智能系统的建议作为政策。
法院,找出缺陷,并将其提交给负责对案件作出判决的指定人员。 参考文献 [1] Jobin, A., Ienca, M. 和 Vayena, E.,2019 年。人工智能伦理指南的全球格局。《自然机器智能》,1(9),第 389-399 页。 [2] Dawson, D. 等人。《人工智能:澳大利亚的伦理框架》,2019 年。 [3] Maya Medeiros,《人工智能的法律框架》,《社交媒体法律公报》,2019 年。可在线获取:https://www.socialmedialawbulletin.com/2019/11/a-legal-framework-for-artificial-intelligence/?utm_source=Mondaq&utm_medium=syndication &utm _campaign=LinkedIn-integration [4] Doshi-Velez, F., Kortz, M., Budish, R., Bavitz, C., Gershman, S., O'Brien, D., Scott, K., Schieber, S., Waldo, J., Weinberger, D. and Weller, A., 2017. Accountability of AI under the law: The role of interpretation. arXiv preprint arXiv:1711.01134 . [5] Adadi, A. and Berrada, M., 2018. Peeking inside the black-box: A survey on Explainable Artificial Intelligence (XAI). IEEE Access,6,第 52138-52160 页。[6] Schneeberger, D.、Stöger, K. 和 Holzinger, A.,2020 年 8 月。欧洲医疗 AI 法律框架。在国际机器学习和知识提取跨领域会议上(第 209-226 页)。Springer,Cham。
然而,为智能系统配备解释能力的原因不仅限于用户权利和技术接受度问题。设计人员和开发人员还需要可解释性来增强系统稳健性并进行诊断以防止偏见、不公平和歧视,以及增加所有用户对决策原因和方式的信任。因此,能够解释为什么做出某个决定已成为智能系统的理想属性(Doran、Schulz 和 Besold,2017 年)。解释应帮助用户理解系统模型,以便维护和有效使用它;它们还应协助用户调试模型以防止和纠正错误的结论。此外,解释可以起到教育作用,并有助于人们发现和理解应用领域的新概念。最后,解释与用户的信任和说服有关,它们应该传达一种可操作性,并让用户相信系统的决策对他们来说是最方便的。尽管如此,对于什么是解释,以及一个好的解释包含什么,并没有明确的共识。它的表现形式已在不同的人工智能系统和学科中得到研究。在本文中,我们从传统方法以及目前正在开发的方法的历史角度来研究可解释人工智能 (XAI) 的文献。相关文献非常庞大,本文并非旨在对 XAI 文献进行完整概述。20 世纪 80 年代中期以后,人工智能中可解释性的概念与专家系统中的概念一起逐渐消退(Buchanan & Shortliffe,1984;Wick & Thompson,1992),而机器学习技术的最新成功(Guidotti et al.,2018)又将可解释性概念带回人们的视野,既适用于自主系统(Nunes & Jannach,2017),也适用于人机交互系统(Holzinger,2016;Holzinger,Plass,et al.,2019),还应用于推荐系统(Tintarev & Masthof,2015)以及神经符号学习和推理方法(Garcez et al.,2015)。对于每个观点,读者都可以找到机器学习和深度学习(Arrieta 等人,2020 年;Fernandez、Herrera、Cordon、Jose del Jesus 和 Marcelloni,2019 年;Guidotti 等人,2018 年;Mueller、Hoffman、Clancey、Emrey 和 Klein,2019 年)、推荐系统(Nunes 和 Jannach,2017 年;Tintarev 和 Masthof,2015 年)和神经符号方法(Garcez 等人,2015 年)方面更全面的文献综述。本文的目的是提供概述并讨论如何构想不同的可解释性概念(分别是解释格式),并提供几个示例。本文的主要贡献是:
大卫·埃格(David Egg) ,D Daniel Wolff,MD,E Satoshi Okada,医学博士,博士IO,医学博士,博士,M Kazuaki Matsumoto,医学博士,M Takeshi Mori,医学博士,博士,N Yuri Yoshimoto,MD,O Ingunn Divental,MD,PhD,P Maria Kanariou,医学博士,Q Zeynep Yesim Kucuk,MD,R Hugo Chapdelaine,MD,S Lenka Petruzelkova,医学博士X,Y Mike Recher,医学博士,Z Michael H. Albert,医学博士,AA Fabian Hauck,MD,PhD,AA Suranjith Seneviratne,医学博士FF Lisa Giulino-Roth,医学博士,GG Michael Svaton,医学博士,HH Craig D. Platt,医学博士,博士,II Sophie Hambleton,Frcpch,Frcpch, DPhil,jj Olaf Neth,医学博士,哲学博士,kk Geraldine Gosse,理学硕士,ll Steffen Reinsch,医学博士,mm Dirk Holzinger,医学博士,nn Yae-Jean Kim,医学博士,哲学博士,o.o Shahrzad Bakhtiar,医学博士,pp Faranaz Atschekzei,医学博士,哲学博士,qq Reinhold Schmidt,医学博士,qq Georgios Sogkas,医学博士,哲学博士,qq Shanmuganathan Chandrakasan,医学博士,rr William Rae,医学博士,ss,tt Beata Derfalvi,医学博士,哲学博士,uu,
(1) O. Saboe, P.;孔特,E.;法雷尔,M.; C.巴赞,G.; Kumar, M. 将酶连接到电极接口的仿生和仿生方法。能源与环境科学2017,10(1),14-42。 https://doi.org/10.1039/C6EE02801B。 (2) 鲁伊斯,议员;阿拉贡内斯,AC;卡马雷罗,N.;维赫纳,JG;奥尔特加,M.;佐蒂,洛杉矶;佩雷斯,R.;奎瓦斯,JC;戈罗斯蒂扎,P.; Díez-Pérez, I. 单蛋白连接的生物工程。 J. Am.化学。苏克。 2017,139(43),15337–15346。 https://doi.org/10.1021/jacs.7b06130。 (3) Fereiro, JA;Yu, X.;Pecht, I.;Sheves, M.;Cuevas, JC;Cahen, D. 隧穿解释通过蛋白质连接实现高效电子传输。PNAS 2018,115 (20),E4577–E4583。https://doi.org/10.1073/pnas.1719867115。 (4) Willner, B.;Katz, E.;Willner, I. 通过纳米技术手段实现氧化还原蛋白的电接触。Current Opinion in Biotechnology 2006,17 (6),589–596。https://doi.org/10.1016/j.copbio.2006.10.008。 (5) Heller, A. 氧化还原酶的电气布线。Acc. Chem. Res. 1990 ,23 (5),128–134。https://doi.org/10.1021/ar00173a002。(6) Boussema, F.;Gross, AJ;Hmida, F.;Ayed, B.;Majdoub, H.;Cosnier, S.;Maaref, A.;Holzinger, M. 限制在碳纳米管基质中的 Dawson 型多金属氧酸盐纳米簇可作为酶促葡萄糖生物燃料电池阳极和葡萄糖生物传感器的有效氧化还原介质。生物传感器和生物电子学 2018 ,109,20–26。 https://doi.org/10.1016/j.bios.2018.02.060。 (7) Algov, I.;Grushka, J.;Zarivach, R.;Alfonta, L. 高效黄素-腺嘌呤二核苷酸葡萄糖脱氢酶与最小细胞色素 C 结构域融合。J. Am. Chem. Soc. 2017 , 139 (48), 17217–17220。https://doi.org/10.1021/jacs.7b07011。 (8) Yan, Y.-M.;Baravik, I.;Yehezkeli, O.;Willner, I. 集成电接触葡萄糖氧化酶/碳纳米管电极用于生物电催化检测葡萄糖。J. Phys. Chem. C 2008 ,112 (46),17883–17888。https://doi.org/10.1021/jp805637e。(9) Riedel,M.;Parak,WJ;Ruff,A.;Schuhmann,W.;Lisdat,F。光作为生物催化的触发器:通过氧化还原聚合物将黄素腺嘌呤二核苷酸依赖性葡萄糖脱氢酶光子连接到量子点敏化的反蛋白石 TiO 2 结构。ACS Catal。2018 ,8 (6),5212–5220。https://doi.org/10.1021/acscatal.8b00951。(10) Zhao,F.;Conzuelo,F.;Hartmann,V.;Li,H.;Nowaczyk,MM; Plumeré,N.;Rögner,M.;
关于学习成果的研究。此外,发现CHATGPT有效地帮助学生理解和将复杂的编程概念应用于现实世界中的问题。学生报告了一些挑战,包括准确性和参与的问题,但这些挑战在统计上并不重要。该研究得出结论,Chatgpt是一种有价值的教育工具,具有改善编程教育的潜力,尽管建议适当的培训和道德准则来最大程度地提高其利益。关键字:chatgpt,生成-AI,编程,学生,挑战。简介计算领域具有不同的专业知识,多年来,计算机编程一直是前跑者,因为软件一直是推动各种已发达硬件的灵魂。计算机编程是当今现代经济中许多业务的必要技能(Yilmaz和Yilmaz,2023年),并且获取计算机编程技能可以使个人能够创造和建立可以推动创新和经济增长的新技术(Eteng,Akpotuzor,Akpotuzor,Akpotuzor,Akinolola和Agbonlahor,&Agbonlahor,20222)。在尝试学习计算机编程和使学习更轻松的同时,不同的学生面临着奇特的挑战,各个机构一直通过使用智能板,电子学习平台和一些交互式工具来提供不同的平台。作为计算是全球技术发展的基础,人工智能只是计算的一个方面,它对于最近的进步至关重要。,2022)。当前CHATGPT带有两个版本。人工智能(AI)逐渐促进了人们一生将使用的许多产品的创造(Lai等人人工智能(A.I)被用作几种相关技术的伞术语,包括但不限于经典的机器学习,深度学习,机器人和自然语言处理(O'Dea&O'Dea,2023年),并且已经存在了一项技术,将近70年(Crawford,Cowling&Allen,2023)。该领域随着技术的发展而不断增长,使计算机能够通过处理和分析大量数据来学习和执行类似人类的认知任务,例如预测和决策(Holzinger等,2019)。人工智能对教育过程非常重要,因为它能够产生更好的产出,而人工智能的影响扩展到整个教育过程的发展,致力于整合包括展示媒体和其他人的人工智能技术(Elbrashy and Khalil,2023)。生成人工智能(Genai)的出现已被公认为是一种创新力量,在这项技术革命的最前沿,聊天产生的预训练的变压器(CHATGPT)(Moreno-Guerrero等,2022)。3.5和版本4可以使用,尽管可以免费访问3.5版,但版本4需要费用。在学生中使用聊天gpt的使用创造了一种不同的氛围,它已成为一个交互平台,以完成给他们的作业和课堂作业。作为生成人工智能(AI)继续发展,它将驱动In late 2022, OpenAI released a new version of ChatGPT, a sophisticated natural language processing system capable of holding natural conversations while preserving and responding to the context of the discussion (Malinka, et al., 2023), based on deep learning algorithms that enable it to generate high-quality responses to a wide range of queries (Hassani and Silva, 2023) and have been shown to directly or indirectly affect教育环境和塑造教育环境(Ipek等,2023)。chatgpt-4(Guler等,2024),随着语言模型(例如ChatGpt)的出现,教育中使用AI的使用变得更加易于访问,因为这些工具提供了更类似人类的界面(Domenech,2023),因为CHAT GPT已成为E-Learning和Singh和Singh,2023年的E-Learning GPT最受欢迎的工具之一。具有提供特定答案的能力,它可用于代表学生完成考试,从而担心AI辅助作弊(LO,2023年)。
