领域模型可以在辅导环境中融入丰富而真实的情境。可以对领域进行建模,以提供具有“真实世界”外观和感觉的环境,并通过一系列行为创建动态学习情境。“情境”的构造通常被视为客观的或完全物理的事物。建筑起重机模拟器的领域模型可以定义起重机的属性和行为,包括其起重能力和吊臂长度,并将定义作用于起重机的世界中的对象,反之亦然。然而,人类行为的情境也是概念性的和主观的。概念情境是关系性的,受感知影响,因此通常是动态的。领域模型应该捕捉在监控、移动和操纵世界的交互过程中,情境是如何在概念上构建的。
1 G Clancey、S Wang S 和 B Lin,《澳大利亚青少年司法:近期调查的主题》(2020 年)605 当前刑事司法问题 1、7 可在以下网址获取引用 E Baldry 等人,“残酷和不寻常的惩罚”:对有复杂支持需求的年轻人进行刑事化的跨司法管辖区研究”(2018)21(5) 青年研究杂志,636–652 和 C Cunneen、B Goldson 和 S Russell,“澳大利亚的少年司法、年轻人和人权”(2016)28(2) Current Issues in Criminal Justice,173–189。2 G Clancey、S Wang 和 B Lin,注 1、9 及其中引用的来源。3 《儿童权利公约》,1989 年 11 月 20 日开放签署,44 UNTS 25(1990 年 9 月 2 日)第 40(3)(b) 条。
儿童和年轻人的糖尿病团队医生多米尼克·史密斯博士秘书-01904 726447 Wendy Watts博士和Liz Baker博士Liz Baker秘书-01904 725519 Kyaw Linn秘书博士-01904 yhs-tr.ChildrensDiabetesTeam@nhs.net Katie Holmes mobile – 07957 591236/ katieholmes3@nhs.net Ella Watola mobile – 07912 775825/ e.watola@nhs.net Jo Ellis mobile – 07534 674869/ jo.ellis5@nhs.net Diane Mitchell mobile -07951 342001/diane.mitchell6@nhs.net Vik Clancey (young adult diabetes nurse) - 01904 725779 Children's ward (open 24hrs) 01904 726017 Sarah Jayes (Dietitian) 01904 725266 Emma Peakman (Psychologist) 01904 721317 Ali Harrison -Lee(Admin)01904 721317诊所儿童开发中心-01904 726539糖尿病中心(过渡诊所)-01904 726510 New Selby War Memorial Hospital -01904 724300 P ub Lis Hed:R E vi e vi e vi:r e vi e:
本小册子旨在帮助年轻人理解和控制其1型糖尿病。在管理状况时,您旨在让您阅读和参考。某些内容可能有点技术性,可能很难完全理解;不用担心。糖尿病团队总是在手边解释并为您提供帮助。,如果您与妈妈或爸爸一起阅读小册子,您可能会发现更容易理解这本小册子。儿童和年轻人糖尿病团队医生多米尼克·史密斯博士秘书:01904 726447 Wendy Watts博士和Liz Baker博士Liz Baker秘书:01904 725519 Kyaw Linn博士秘书:01904 yhs-tr.ChildrensDiabeteSeam@nhs.net Diane Mitchell移动:07951 342001电子邮件:diane.mitchell6@nhs.net Jo Ellis Mobile:07534 674869电子邮件: Holmes手机07957 591236电子邮件:Katieholmes3@nhs.net Vik Clancey 01904 725779儿童病房(开放24小时):01904 726017 Sarah Jayes(Dietitian)(Dietitian) (管理员):01904 721317诊所儿童发展中心:01904 726539糖尿病中心(过渡诊所):01904 726510新塞尔比战争纪念医院:01904 724300
● D. Gunning,可解释的人工智能(xAI),技术代表,国防高级研究计划局(DARPA)(2017)● AB Arrieta,等人。可解释的人工智能(XAI):概念、分类法、机遇和挑战,走向负责任的人工智能。信息融合 58(2020):82-115。● E. Tjoa、C. Guan,可解释的人工智能(XAI)调查:面向医学 XAI (2019)。arXiv:1907.07374。● LH Gilpin、D. Bau、BZ Yuan、A. Bajwa、M. Specter、L. Kagal,解释解释:机器学习可解释性概述 (2018)。 arXiv:1806.00069 ● FK Došilović、M. Brćić、N. Hlupić,可解释的人工智能:一项调查,载于:第 41 届信息和通信技术、电子和微电子国际会议 (MIPRO),2018 年,第 210-215 页。● A. Adadi、M. Berrada,窥视黑匣子内部:可解释的人工智能 (XAI) 调查,IEEE Access 6 (2018) 52138-52160。● O. Biran、C. Cotton,机器学习中的解释和论证:一项调查,载于:IJCAI-17 可解释人工智能 (XAI) 研讨会,第 8 卷,2017 年,第 1 页。● ST Shane、T. Mueller、RR Hoffman、W. Clancey、G. Klein,《人机交互系统中的解释:可解释人工智能的关键思想和出版物及参考书目的文献元评论概要》,国防高级研究计划局 (DARPA) XAI 计划技术代表 (2019)。● R. Guidotti、A. Monreale、S. Ruggieri、F. Turini、F. Giannotti、D. Pedreschi,《解释黑盒模型的方法调查》,ACM 计算调查 51 (5) (2018) 93:1–93:42。
然而,为智能系统配备解释能力的原因不仅限于用户权利和技术接受度问题。设计人员和开发人员还需要可解释性来增强系统稳健性并进行诊断以防止偏见、不公平和歧视,以及增加所有用户对决策原因和方式的信任。因此,能够解释为什么做出某个决定已成为智能系统的理想属性(Doran、Schulz 和 Besold,2017 年)。解释应帮助用户理解系统模型,以便维护和有效使用它;它们还应协助用户调试模型以防止和纠正错误的结论。此外,解释可以起到教育作用,并有助于人们发现和理解应用领域的新概念。最后,解释与用户的信任和说服有关,它们应该传达一种可操作性,并让用户相信系统的决策对他们来说是最方便的。尽管如此,对于什么是解释,以及一个好的解释包含什么,并没有明确的共识。它的表现形式已在不同的人工智能系统和学科中得到研究。在本文中,我们从传统方法以及目前正在开发的方法的历史角度来研究可解释人工智能 (XAI) 的文献。相关文献非常庞大,本文并非旨在对 XAI 文献进行完整概述。20 世纪 80 年代中期以后,人工智能中可解释性的概念与专家系统中的概念一起逐渐消退(Buchanan & Shortliffe,1984;Wick & Thompson,1992),而机器学习技术的最新成功(Guidotti et al.,2018)又将可解释性概念带回人们的视野,既适用于自主系统(Nunes & Jannach,2017),也适用于人机交互系统(Holzinger,2016;Holzinger,Plass,et al.,2019),还应用于推荐系统(Tintarev & Masthof,2015)以及神经符号学习和推理方法(Garcez et al.,2015)。对于每个观点,读者都可以找到机器学习和深度学习(Arrieta 等人,2020 年;Fernandez、Herrera、Cordon、Jose del Jesus 和 Marcelloni,2019 年;Guidotti 等人,2018 年;Mueller、Hoffman、Clancey、Emrey 和 Klein,2019 年)、推荐系统(Nunes 和 Jannach,2017 年;Tintarev 和 Masthof,2015 年)和神经符号方法(Garcez 等人,2015 年)方面更全面的文献综述。本文的目的是提供概述并讨论如何构想不同的可解释性概念(分别是解释格式),并提供几个示例。本文的主要贡献是:
设计空间的概念起源于问题空间的形成,并且在过去60年中一直是调查和辩论的主题。在信息处理理论的问题空间理论(Newell&Simon,1972)中,基于一般问题解决方案计算机程序(1957年),新约束,子目标和设计替代方案从问题空间中引起的新约束,子目标和设计替代方案会导致外部记忆表现形式的转变,例如模型和图纸,例如,会考虑到问题的变化。问题解决者检索系统,无论是人类还是计算能力系统,都会在搜索解决方案时不断修改和表征问题空间。那时,人们认为井和不确定的问题(Reitman 1964)或结构性不佳的问题(Newell 1969)被认为取决于问题解决者可用的问题解决方法和技术。对问题解决者容量的这种依赖性源于这样的观念,即没有结构性的问题,仅在有限的能力的范围内为解决问题的人(Simon 1973)正式形式化了结构性的问题,并且根据问题的目标,约束和生成的替代方案。一种认知设计理论的替代方法,后来成为反思实践(Schön1983; 1987)。在这种方法中,设计师通过思考和做事,因此知道行动(Argyris等人)(1985),将构建设计世界,并设定问题空间的维度以及他/她试图找到解决方案的举动(Schön,1992)。所处的认知研究方法(Clancey 1997)随后出现了许多与社会科学,行为和动态神经过程有关的学科和目标,以了解知识和行动的观点,并支持学习的想法,即学习发生在做某事时。所在的一词强调,感知机制因果关系将人类认知与环境和行动联系起来。位置涉及内部组织以及内部和外部组织之间发生的因果关系,改变了世界上的事物。新的观察方式和改变世界的改变方式随着时间的流逝而发展。作为一种研究方法,出现了适当的认知披露,以研究设计中的人类认知(Gero 1990)。设计是一种时间和多模式的活动,要求对位置的请求提供适当的解决方案,当这些请求打开时,请在解决问题的阶段发生在解决问题的阶段之前,要求发现问题和问题框架(Runco 1994; Runco和Nemiro,1994)。在过去的40年中,出现了解决问题的空间的替代视图,重点关注变化的最终目的,即解决方案空间。1.1设计空间在理解设计方面的一个有用的抽象是设计空间的概念,设计师探索了可能性的抽象空间(Amstel等人。2016; MacLean等。这两种观点都基于诸如协议分析等方法的设计认知研究(Goldschmidt,2014; Kan&Gero,2017)。虽然受约束的设计空间通常受到特定要求的限制,但开放的设计空间扩展2011)在问题空间内的探索开始,设计过程的问题解决观点(Goel&Pirolli,1992; Goel,1994; Goolschmidt,1997),而其他人则声称设计是通过产生解决方案空间的(Dorst,2019; Dorst&Cross 2001; Dorst&Cross 2001; Gero&Gero&cross&cross&verer&krer&krer&kumar; krer&kumar&kumar&kumar; 2009年;吉川,1981年)。另一种观点是,根据设计请求的限制水平和对创意探索的开放程度,设计空间可以受到限制或开放,这是本文报告的研究重点。