征文:教育和教育研究中的人工智能国际研讨会 (AIEER) AIEER 2024 教育和教育研究中的人工智能国际研讨会是第 27 届欧洲人工智能会议 ECAI 2024 [https://www.ecai2024.eu/] 的一部分。本次研讨会定于 2024 年 10 月 19 日至 20 日星期六和星期日举行。 研讨会范围 本次研讨会有两个不同的重点,旨在更广泛地面向教育人工智能领域。 第 1 部分。由社会科学主导的讨论,讨论人工智能应用可能有助于解决的教育中的实际问题。这包括教育和教学人工智能的研究,也包括社会科学、经济学和人文学科,包括所有学科,如教育和教学实际行动、以教育需求为重点的劳动力市场研究、教育史和相关教育文化遗产,以及决策和行为科学观点的信息预测。一方面,我们关注人工智能、教育和社会之间的联系。这包括定量和定性研究、分析教育和劳动力市场数据的数据科学方法、推荐系统的人工智能方法以及数字化学习。另一方面,我们关注如何使用人工智能来突破该领域的界限。这包括开发新方法(包括使用人工智能的方法)、寻找和提供可访问的新数据源、丰富数据等等。在这两种情况下,不同观点之间的沟通和相互理解至关重要,这也是本次研讨会的目标之一。更广泛地说,我们感兴趣的是人工智能方法如何影响教育的所有领域以及企业和劳动力市场。这包括从小学到高等教育的所有教育部门如何受到人工智能方法的影响和对其作出反应的方法。用人工智能方法设计数字化未来为教育提出了几个问题:在最广泛的层面上,立法和规范问题;在公司层面,关于投资决策以及如何保持生产力和劳动力的问题;在个人层面,关于资格以及哪些技能需要应用和可能重新学习的问题。因此,技能和资格是教育和教育研究中人工智能的核心。第 2 部分。关于可以开发哪些人工智能应用程序(以及如何开发)来解决第 1 部分提出的问题的(计算机科学主导)讨论。使用基于人工智能的系统来支持教学或学习已经发展了 40 多年,但近年来,由于 COVID-19 大流行期间电子学习工具的使用增加以及最近生成人工智能的爆炸式增长,其增长显着增加。我们正处于这一领域发展的关键时刻,人工智能专家和教育专家必须携手合作,以在教学过程中最佳地利用这项技术。本次研讨会旨在为展示新提案和反思这一具有如此社会意义的领域的最新技术创造空间。在第一部分中,我们特别关注人工智能的技术方面,重点关注用于内容创建(生成式人工智能)、学生分析(机器学习)、学习分析或教师可解释的人工智能方法的具体技术
基于深度学习的人工智能的最新进展要求对人工智能的运行进行更好的解释,以提高人工智能决策的透明度,特别是在自动驾驶汽车或医疗诊断应用等关键系统中,以确保安全、用户信任和用户满意度。然而,目前的可解释人工智能 (XAI) 解决方案专注于使用更多的人工智能来解释人工智能,而不考虑用户的心理过程。在这里,我们使用认知科学理论和方法来开发下一代 XAI 框架,以促进人机相互理解,并使用计算机视觉人工智能模型作为示例,因为它在关键系统中很重要。具体来说,我们建议为 XAI 配备人类社交互动中的重要认知能力:心智理论 (ToM),即通过将心理状态归因于他人来理解他人行为的能力。我们专注于两种 ToM 能力:(1)推断人类的策略和表现(即机器的 ToM),以及(2)推断人类对 AI 策略的理解和对 AI 的信任(即推断人类的 ToM)。人类认知的计算建模和实验心理学方法在 XAI 开发这两种 ToM 能力中发挥着重要作用,通过将用户的策略与 AI 的策略进行比较并估计用户当前对 AI 策略的理解来提供以用户为中心的解释,类似于现实生活中的老师。增强人机之间的相互理解反过来可以导致更好地采用和信任 AI 系统。因此,该框架强调了认知科学方法对 XAI 的重要性。
传统上,可解释的人工智能寻求提供高性能黑盒模型(例如深度神经网络)的解释和可解释性。由于此类模型的复杂性很高,因此对其进行解释仍然很困难。另一种方法是强制深度神经网络使用人类可理解的特征作为其决策的基础。我们使用岩石类型的自然类别域测试了这种方法。我们将使用 Resnet50 的迁移学习黑盒实现的性能与首先训练以预测专家识别的特征然后被迫使用这些特征对岩石图像进行分类的网络的性能进行了比较。这个特征约束网络的性能与无约束网络的性能几乎相同。此外,部分受限的网络被迫压缩为少数未使用专家特征进行训练的特征,这不会导致这些抽象特征变得可理解;尽管如此,可以发现这些特征的仿射变换与专家可理解的特征很好地一致。这些发现表明,让人工智能本质上可理解并不一定以牺牲性能为代价。© 2022 作者。由 ELSEVIER B.V. 出版。这是一篇根据 CC BY-NC-ND 许可开放获取的文章(https://creativecommons.org/licenses/by-nc-nd/4.0)由 KES International 科学委员会负责同行评审 关键词:不言自明的人工智能;深度神经网络;迁移学习;XAI;类别学习