XiaoMi-AI文件搜索系统
World File Search System可解
以人为本的可解释人工智能过程模型
引言人工智能 (AI) 的发展已展现出令人瞩目的性能，特别是在图像处理或游戏等明确定义的领域。然而，所部署的技术对于人类用户来说可能是不透明的，这引发了一个问题：人工智能系统如何提供解释 (Neerincx 等人，2018 年；Rosenfeld 和 Richardson，2019 年)，并且监管框架对可解释人工智能 (XAI) 的需求日益增长。话虽如此，2017 年，谷歌的研究主管 Peter Norvig 指出，在人类可能不擅长提供“解释”的情况下期望计算机提供“解释”是具有讽刺意味的。可解释人工智能 (XAI) 的大部分工作都严重依赖于以计算机为中心的视角 (Springer，2019 年)。例如，Holzinger 等人 (2020) 假设人类和人工智能系统可以平等地访问“基本事实”。由此可见，可解释性“……突出了机器表示中与决策相关的部分……，即有助于模型在训练中的准确性或特定预测的部分。”与许多 XAI 文献一样，这并没有为人类提供任何角色，只能作为被动接受者。这意味着人工智能系统能够反省自己的过程来生成解释。然后将得到的解释呈现给用户，并描述人工智能系统的流程或它使用过的特征（“决策相关部分”）。这样，解释就只是一个建议（来自人工智能系统）加上与此相关的特征。正如 Miller (2017) 所指出的那样，这种态度的一个问题在于，它是基于设计师对什么是“好的”解释的直觉，而不是基于对人类如何响应和利用解释的合理理解。这并不能说明为什么选择某些特征，也不能说明为什么建议适合用户的关注点。它也没有将解释置于更广泛的组织中；分析师的解释可能与数据收集管理人员或接受分析师简报的经理的解释不同。对于 Holzinger 等人 (2020) 来说，情况的各个方面（定义为基本事实）被组合成一个陈述；也就是说，解释只是这个陈述的一种表达。这意味着从特征到解释存在线性插值。这类似于 Hempel 和 Oppenheim (1948) 的“覆盖定律模型”，该模型关注的是历史学家如何根据先前的原因来解释事件。然而，“基本事实”（由 Holzinger 的过程模型和覆盖定律模型假设）很少得到完全定义（导致在选择相关特征时产生歧义）。这意味着，仅仅陈述情况方面而不说明为什么选择这些方面（而不是其他方面）可能不会产生有用或可用的解释。霍夫曼等人（2018）对与解释相关的文献进行了全面的回顾。从这篇评论来看，解释涉及人类的理解（将人工智能系统的输出置于特定情境中），我们同意，考虑这一点的适当框架是数据框架的理解模型（Klein 等人，2007）。此外，理解（及其与解释的关系）依赖于认识到过程（提供和接收解释）必须是相互的、迭代的和协商的。这个过程依赖于“解释者”和“被解释者”达成一致。换句话说，解释涉及“共同点”（Clark，1991），其中理解上有足够的一致性以使对话继续进行。对话的性质将取决于提供解释的情况和被解释者的目标。例如，被解释者可能是“受训者”，他试图理解解释以学习决策标准，也可能是“分析师”，使用人工智能系统的建议作为政策。
可解释的人工智能的法律框架
第二，我们讨论法律，技术和行为因素如何提供有关在哪种背景下使用我们的法律-XAI分类法的解释的指导。以信用评分为例，我们演示了法律如何规定可以将哪种类型的解释方法用于特定算法决策系统。我们展示了法律，计算机科学和行为原则的结合如何指导决策者，法律学者和计算机科学家为特定法律领域选择正确的解释方法。第三，我们证明了如何将我们的法律-XAI分类法应用于包括医疗补助，高等教育和自动决策在内的各个领域。我们认为，在创建解释权时，决策者应该更具体。自动化的决定通常可以用大量的解释方法来解释，决策者应指定哪些解释应必须提高决策者的政策目标。我们的法律-XAI分类法可以帮助决策者根据其政策目标确定正确的解释方法。
朝着光网络中的可解释的强化学习：RMSA用例
为了优化激光诱导的石墨烯（LIG）JANUS膜，本研究研究了膜孔结构，聚二甲基硅氧烷（PDMS）涂层序列以及银（AG）纳米颗粒对膜蒸馏（MD）性能的影响。这项研究旨在增强石墨烯的光热特性，同时使用固有的电导率进行同时照相和电热MD。在相同的照片和电热功率输入中操作，lig janus membrane用较小的毛孔（即闪亮的一面）处理膜面部的膜膜，可改善53.6％的透气性能，并降低特定能量的特定能量35.4％，而与膜相比，用较大的毛孔（i.e.e.e.e.e.e.e.e.e.e）来治疗膜面孔。PDMS涂层序列的效果也取决于孔结构。对于具有较小孔结构的面部，激光照射前的涂层PDM（PDMS-BLSS）与激光照射后的涂层PDMS相比，与涂层PDMS相比，磁通量的提高高达24.5％，特异性能量降低了19.7％（PDMS-ALS）。至于孔结构较大的面部，激光照射前的涂层PDM（PDMS-BLDS）导致与辐照后涂层PDMS相比，与涂层PDMS相比，通量降低高达20.8％，比能量增加了27.1％（PDMS-ALDS）。带有Ag纳米颗粒的LIG JANUS膜导致光热特性提高，将通量提高43.1 - 65.8％，并使特定能量降低15.2 - 30.5％，同时维持相似的电热热特性。进行同时进行照相和电热量MD表明，只有Ag掺杂的Janus Lig膜产生协同作用，从而使组合加热模式的通量高于在单个加热模式下运行时获得的通量的求和。
可解释的AI（XAI）和大型语言模型（LLM）
➢这是一个欺骗深神经网络（DNN）的实验：在第二和第四张图像中，工程师仅保留了系统用于识别吉他和企鹅的系统的元素，并更改了其余的所有内容，以使系统仍然像吉他和企鹅一样“看到”他们。➢Goodfellow等人的作品。（2014）从普遍的扰动开始打开了进一步发展的大门（Moosavi-Dezfooli等人。2017）最近的一个像素攻击，该攻击显示了如何通过在输入图像中更改一个像素来欺骗神经网络。笔记本在这里一张像素攻击原始纸
![[研究生]可解释的AI课程教学大纲2024 [草稿]](/simg/f/f00906b2f4dba7681514264c9db48b0f29ca86c2.webp)
[研究生]可解释的AI课程教学大纲2024 [草稿]
●……严格禁止。这包括使用AI来生成想法，概述方法，回答问题，解决问题或创建原始语言。本课程中的所有工作都必须是您自己的或在允许的小组工作中创建的。●…应在有限的基础上允许。您将被告知可以使用AI的作业。您也欢迎您在任何作业上使用AI写作工具的事先批准。在任何一种情况下，都应谨慎使用AI写作工具，因为应适当地使用AI的使用。未经我允许或授权使用AI写作工具，或者即使在允许的情况下也无法正确引用AI，构成了违反UT Austin关于学术完整性的机构规则的违反。●…适用于AI产生的内容，允许使用它们的学生。如果您考虑使用AI写作工具，但不确定是否允许或适当地使用它们的程度，请询问。”
可解释的人工智能和机器学习
摘要人工智能（AI）和机器学习（ML）正在彻底改变各个领域的人类活动，而医学和传染病并不能免除其快速和指数的增长。此外，可解释的AI和ML的领域已经获得了特别的相关性，并引起了人们的兴趣越来越大。传染病已经开始从可解释的AI/ML模型中受益。例如，在抗菌病毒预测和量子疫苗算法中，它们已被采用或提议更好地理解旨在改善2019年冠状病毒疾病诊断和管理的复杂模型。尽管有关解释性和可解释性之间二分法的某些问题仍然需要仔细关注，但对复杂的AI/ML模型如何得出其预测或建议的深入了解对于正确地面对本世纪传染病的日益严重的挑战变得越来越重要。
可解释的脑时代预测的原型学习
缺乏深度学习模型的解释性限制了在临床实践中采用此类模型。基于原型的模型可以提供固有的可解释预测，但是这些预测主要是为分类任务而设计的，尽管医学想象中有许多重要的任务是连续的回归问题。因此，在这项工作中，我们介绍了专家：专门为回归任务设计的可解释原型模型。使用原型标签的加权平均值，我们提出的模型从分离到潜在空间中的一组学习原型的样本预测。潜在空间中的距离正规化为相对于标签差异，并且可以将每个原型视为训练集中的样本。图像级距离是从斑块级距离构建的，其中两个图像的贴片使用最佳传输在结构上匹配。因此，这提供了一个基于示例的解释，并在推理时间提供了补丁级的细节。我们演示了我们提出的两个成像数据集上的脑年龄预测模型：成人MR和胎儿超声。我们的方法实现了最先进的预测性能，同时洞悉模型的推理过程。
