XiaoMi-AI文件搜索系统
World File Search SystemXAI
可解释 AI (XAI) 简介
链接 • 课程网站：https://hcixaitutorial.github.io/ • 课程幻灯片：http://qveraliao.com/xai_tutorial.pdf • 课前笔记：http://qveraliao.com/chi_course_notes.pdf • AIX360：http://aix360.mybluemix.net/ • 安装 AIX360：https://github.com/Trusted-AI/AIX360 • 代码演示：https://nbviewer.jupyter.org/github/IBM/AIX360/blob/master/examples/tutorials/HELOC.ipynb
机器人咨询：更少的 AI，更多的 XAI？
我们首先考虑学术界和业界对机器人顾问感兴趣的一些主要原因。我们讨论了机器人顾问如何解决投资者决策以及传统金融咨询中的一些基本问题。然后，我们讨论了一些有关机器人顾问未来的持续问题。首先，人工智能 (AI) 在机器人顾问中扮演的角色以及应该扮演的角色。其次，机器人顾问建议的个性化程度应该达到多高。第三，如何产生和维持对自动金融顾问的信任。第四，机器人是否被视为人类决策的补充或替代品。我们的结论概述了对下一代机器人顾问的一些想法。我们强调了可解释人工智能 (XAI) 的最新见解的重要性，以及应用于金融服务的新形式的人工智能将如何从引入经济学和心理学的见解中受益，以设计有效的人机交互。
关于 XAI 在税务审计流程中的潜力 - AIS eLibrary
摘要。人工智能 (AI) 可以为公共行政部门提供巨大潜力，而公共行政部门在未来几年可能会面临严重的技能短缺。人工智能系统尤其可以支持流程自动化，从而减轻行政人员的负担。由于透明度和公平性在行政流程中发挥着重要作用，可解释的人工智能 (XAI) 方法有望使人工智能在公共管理中得到适当使用。在本文中，我们研究了 XAI 在支持税务机关流程方面的潜力，特别是税务审计目标组织的选择。我们说明了相关的税务审计场景，并介绍了我们目前在这些场景中开发的不同 XAI 技术的潜力。这表明 XAI 可以显著支持税务审计准备，从而使流程更高效，税务机关在其主要职责方面的表现更好。本文的另一个贡献在于在公共管理环境中对 XAI 使用指南进行了示范性应用。
XAI-PT：可解释人工智能从实践到理论简评
摘要。在本文中，我们报告了一些基础文献中确定的可解释人工智能 (XAI) 的实践和理论方面。尽管有大量关于表示 XAI 背景的工作，但大多数语料库都指向一个离散的思想方向。同时提供对实践和理论文献的见解仍然是该领域的一个空白。这很重要，因为这种联系有助于早期 XAI 研究人员的学习过程，并为经验丰富的 XAI 学者提供光明的立场。我们首先分别关注黑箱解释的类别并给出一个实际的例子。然后，我们讨论了理论解释如何在多学科领域中扎根。最后，提出了未来工作的一些方向。
参考文献：Muddamsetty, SM、Jahromi, MNS 和 Moeslund, TB (2021)。对医学领域的解释性人工智能（XAI）方法的专家级评估。在 A. Del Bimbo、R. Cucchiara、S. Sclaroff、GM Farinella、T. Mei、M. Bertini、HJ Escalante 和 R. Vezzani (Eds.) 的《模式识别》中。 ICPR 国际研讨会和挑战（第 12663 卷，第 35-46 页）。施普林格出版公司。 https://doi.org/10.1007/978-3-030-68796-0_3
摘要。最近出现的可解释人工智能 (XAI) 领域试图以人类可以理解的术语阐明“黑箱”机器学习 (ML) 模型。随着多种解释方法的开发以及黑箱模型的不同应用，需要专家级评估来检查其有效性变得不可避免。这对于敏感领域（例如医疗应用）非常重要，因为专家的评估对于更好地了解复杂 ML 的结果的准确性以及在必要时调试模型至关重要。本研究的目的是通过实验展示如何利用医疗应用中的专家级 XAI 方法评估并将其与临床医生生成的实际解释保持一致。为此，我们从配备眼动仪的专家受试者那里收集注释，同时他们对医学图像进行分类，并设计一种方法将结果与从 XAI 方法获得的结果进行比较。我们通过多个实验证明了我们方法的有效性。
可解释人工智能 (XAI) 调查 - DR-NTU
摘要 — 最近，人工智能和机器学习在从图像处理到自然语言处理等许多任务中都表现出色，尤其是深度学习 (DL) 的出现。随着研究的进展，它们已经侵入许多不同的领域和学科。其中一些领域需要高度的责任感和透明度，例如医疗部门。因此需要对机器决策和预测进行解释以证明其可靠性。这需要更高的可解释性，这通常意味着我们需要了解算法背后的机制。不幸的是，DL 的黑箱性质仍未解决，许多机器决策仍然不太理解。我们回顾了不同研究工作提出的可解释性并对其进行了分类。不同的类别展示了可解释性研究的不同维度，从提供“明显”可解释信息的方法到复杂模式的研究。通过将相同的分类应用于医学研究中的可解释性，希望：1) 临床医生和从业者随后可以谨慎对待这些方法； 2）随着对医疗实践的更多考虑，对可解释性的洞察将随之产生；3）鼓励推动基于数据、数学和技术的医学教育。