XiaoMi-AI文件搜索系统
World File Search SystemExplain
3.13 可解释的游戏人工智能
首先，我们研究了生成超级马里奥关卡的不同可能性。TOAD-GAN [ 3 ] 仅使用一个示例即可进行训练。该方法还使用户能够通过更改代表生成器网络输入的噪声向量来控制生成过程的输出。由于设计师无法解释噪声向量，因此设计师仍然无法根据自己的需求设计内容。为了实现这一点，必须让设计师能够解释噪声向量，并将噪声向量的不同区域映射到噪声向量变化所产生的内容。生成超级马里奥关卡的另一种方法是使用带有图块集的进化算法 [ 4 ]。图块集强制输出的一致性，而 Kullback-Leiber 散度
以人为本的可解释人工智能过程模型
引言人工智能 (AI) 的发展已展现出令人瞩目的性能，特别是在图像处理或游戏等明确定义的领域。然而，所部署的技术对于人类用户来说可能是不透明的，这引发了一个问题：人工智能系统如何提供解释 (Neerincx 等人，2018 年；Rosenfeld 和 Richardson，2019 年)，并且监管框架对可解释人工智能 (XAI) 的需求日益增长。话虽如此，2017 年，谷歌的研究主管 Peter Norvig 指出，在人类可能不擅长提供“解释”的情况下期望计算机提供“解释”是具有讽刺意味的。可解释人工智能 (XAI) 的大部分工作都严重依赖于以计算机为中心的视角 (Springer，2019 年)。例如，Holzinger 等人 (2020) 假设人类和人工智能系统可以平等地访问“基本事实”。由此可见，可解释性“……突出了机器表示中与决策相关的部分……，即有助于模型在训练中的准确性或特定预测的部分。”与许多 XAI 文献一样，这并没有为人类提供任何角色，只能作为被动接受者。这意味着人工智能系统能够反省自己的过程来生成解释。然后将得到的解释呈现给用户，并描述人工智能系统的流程或它使用过的特征（“决策相关部分”）。这样，解释就只是一个建议（来自人工智能系统）加上与此相关的特征。正如 Miller (2017) 所指出的那样，这种态度的一个问题在于，它是基于设计师对什么是“好的”解释的直觉，而不是基于对人类如何响应和利用解释的合理理解。这并不能说明为什么选择某些特征，也不能说明为什么建议适合用户的关注点。它也没有将解释置于更广泛的组织中；分析师的解释可能与数据收集管理人员或接受分析师简报的经理的解释不同。对于 Holzinger 等人 (2020) 来说，情况的各个方面（定义为基本事实）被组合成一个陈述；也就是说，解释只是这个陈述的一种表达。这意味着从特征到解释存在线性插值。这类似于 Hempel 和 Oppenheim (1948) 的“覆盖定律模型”，该模型关注的是历史学家如何根据先前的原因来解释事件。然而，“基本事实”（由 Holzinger 的过程模型和覆盖定律模型假设）很少得到完全定义（导致在选择相关特征时产生歧义）。这意味着，仅仅陈述情况方面而不说明为什么选择这些方面（而不是其他方面）可能不会产生有用或可用的解释。霍夫曼等人（2018）对与解释相关的文献进行了全面的回顾。从这篇评论来看，解释涉及人类的理解（将人工智能系统的输出置于特定情境中），我们同意，考虑这一点的适当框架是数据框架的理解模型（Klein 等人，2007）。此外，理解（及其与解释的关系）依赖于认识到过程（提供和接收解释）必须是相互的、迭代的和协商的。这个过程依赖于“解释者”和“被解释者”达成一致。换句话说，解释涉及“共同点”（Clark，1991），其中理解上有足够的一致性以使对话继续进行。对话的性质将取决于提供解释的情况和被解释者的目标。例如，被解释者可能是“受训者”，他试图理解解释以学习决策标准，也可能是“分析师”，使用人工智能系统的建议作为政策。
生物识别与人工智能——详解
生物识别是指个人独特的身体和行为特征，例如指纹、面部特征、声音或打字模式。生物识别在用于安全和安保目的的人工智能应用中尤为重要，因为它们提供了一种可靠且方便的识别和验证个人的方法。人工智能技术具有快速处理和分析生物特征数据的强大能力。
AI 标签和水印 – 解释
在实践中，在训练 AI 模型时，训练数据的标记主要用于对图像进行分类（例如汽车或动物）。另一方面，文本的标记有助于识别情绪或特定关键词。对于旨在识别语音的 AI 系统的训练，标记还可以包括转录录音或识别音频输入文件中的特定噪音（例如背景中的交通或飞机）。
可解释的人工智能和机器学习
摘要 人工智能 (AI) 和机器学习 (ML) 正在彻底改变人类各个领域的活动，医学和传染病也未能幸免于其快速而指数级的增长。此外，可解释的 AI 和 ML 领域已变得尤为重要，并吸引了越来越多的关注。传染病已经开始受益于可解释的 AI/ML 模型。例如，它们已被用于或提议用于更好地理解旨在改善 2019 年冠状病毒病诊断和管理的复杂模型、抗菌素耐药性预测领域和量子疫苗算法中。尽管一些有关可解释性和可解释性二分法的问题仍需认真关注，但深入了解复杂的 AI/ML 模型如何得出预测或建议，对于正确应对本世纪传染病日益严峻的挑战变得越来越重要。
人工智能基础模型——解释
虽然基础模型有时被认为与“通用人工智能”（GPAI）完全相同，但实际上它们只是众多 GPAI 类型中的一种（尽管非常强大）。其他 GPAI 类型包括（通常非常基础的）用于一系列任务（例如模式检测或翻译）的 AI 系统。
迈向可解释人工智能的统一框架
可解释人工智能 (XAI) 领域已迅速成为一个蓬勃发展且成果丰硕的社区。然而，该领域一个不为人知、反复出现且公认的问题是缺乏对其术语的共识。特别是，每一项新贡献似乎都依赖于其自己的（通常是直观的）术语版本，例如“解释”和“阐释”。这种混乱阻碍了该领域进步的巩固，无法满足科学和监管要求，例如在比较方法或确定其对偏见和公平约束的遵从性时。我们提出了一个理论框架，它不仅为这些术语提供了具体的定义，而且还概述了产生解释和阐释所需的所有步骤。该框架还允许重新语境化现有贡献，以便可以衡量其范围，从而使它们与其他方法具有可比性。我们表明，该框架符合对解释、可解释性和评估指标的要求。我们提供了一个用例，展示了如何使用该框架来比较 LIME、SHAP 和 MDNet，确定它们的优点和缺点。最后，我们从我们的框架的角度讨论了 XAI 的相关趋势以及对未来工作的建议。