AI = 人工智能 ML = 机器学习 IPC = 创新伙伴关系合同 CAT = 商业航空运输 SPO = 单飞行员操作 CDR = 冲突检测与解决
机器学习的最新进展导致人们对可解释人工智能(xAI)的兴趣日益浓厚,它使人类能够洞察机器学习模型的决策。尽管最近人们对 xAI 技术产生了浓厚的兴趣,但它在人机协作中的实用性尚未得到体现。重要的是,xAI 有望增强团队态势感知(SA)和共享心理模型开发,这是有效人机团队的关键特征。快速开发这种心理模型对于临时的人机协作尤为重要,因为在这种协作中,代理并不事先了解其他人的决策策略。在本文中,我们提出了两个新颖的以人为主体的实验,量化了在人机协作场景中部署 xAI 技术的好处。首先,我们表明 xAI 技术可以支持 SA(p < 0.05)。其次,我们研究通过协作 AI 策略抽象诱导的不同 SA 级别如何影响临时的人机协作性能。重要的是,我们发现 xAI 的好处并不是普遍的,因为它在很大程度上依赖于人机团队的组成。新手受益于 xAI 提供的更高 SA(p < 0.05),但容易受到认知开销的影响(p < 0.05)。另一方面,随着基于 xAI 的支持的增加,专家的表现会下降(p < 0.05),这表明关注 xAI 的成本超过了通过提供额外信息来增强 SA 所获得的好处。我们的结果表明,研究人员必须通过仔细考虑人机团队组成以及 xAI 方法如何增强 SA,在正确的场景中精心设计和部署正确的 xAI 技术。
评估框架 ................................................................................................................................................................ 1 下一步 ................................................................................................................................................................ 29 定义 ................................................................................................................................................................ 35 团队衡量标准定义 ...................................................................................................................................... 36 人力衡量标准定义 ...................................................................................................................................... 48 机器衡量标准定义 ...................................................................................................................................... 63 参考文献 ...................................................................................................................................................... 77 备份幻灯片 ...................................................................................................................................................... 95
作者地址:Jane Cleland-Huang,计算机科学与工程系,美国印第安纳州圣母大学,JaneHuang@nd.edu;Theodore Chambers,计算机科学与工程系,美国印第安纳州圣母大学,tchambe2@nd.edu;Sebastian Zudaire,阿根廷库约国立大学巴尔塞罗学院,sebastian.zudaire@ib.edu.ar;Muhammed Tawfiq Chowdhury,计算机科学与工程系,美国印第安纳州圣母大学,mchowdhu@nd.edu;Ankit Agrawal,计算机科学系,美国密苏里州圣路易斯大学,ankit.agrawal.1@slu.edu;Michael Vierhauser,LIT 安全与正确系统实验室,奥地利林茨约翰内斯开普勒大学,michael.vierhauser@jku.at。
这种协同空战对于 SEAD 任务尤其有效,并且可以在交战初期起到决定性作用,以迅速取得空中优势。这种混合系统将允许数百架无人机/弹药和数十个载人穿透平台使用快速精确的弹药真正“占领”接触区。由于具有诱骗、干扰、网络电子入侵、混淆和分散对手防空防御和瞄准系统的能力,迫使对手雷达沉默或采取“打了就跑”的行动模式,不再能够完全覆盖该区域。它将授权摧毁电信、机场能力等。除了高超音速武器的闪电打击和更先进的有人和无人平台的电子攻击造成的信息瘫痪之外,低成本自主系统(如巡飞弹药/自杀无人机)的饱和效应也将进一步加深。
这种协同空战对于 SEAD 任务特别有效,并且在交战初期可能起到决定性作用,从而迅速取得空中优势。这种混合系统将允许数百架无人机/弹药和数十个载人穿透平台使用快速精确的弹药真正“占领”接触区。由于具有诱骗、干扰、网络电子入侵、混淆和分散对手防空防御和瞄准系统的能力,迫使对手雷达沉默或采取“打了就跑”的行动模式,从而不再能够完全覆盖该区域。它将授权摧毁电信、机场能力等。除了高超音速武器的闪电打击和更先进的有人和无人平台的电子攻击造成的信息瘫痪之外,低成本自主系统(如巡飞弹/自杀无人机)的饱和效应也将进一步加深。
和材料科学美国高级研究计划局能源部(ARPA-E)正在考虑发布一项资助机会公告(FOA)来支持旨在加速能源创新的量子计算技术的开发。这个潜在的 FOA 将专注于量子计算在化学和材料领域的进步,这将大大解决 ARPA-E 的任务领域,例如提高能源效率和减少能源相关排放,包括温室气体排放。此公告的目的是促进新项目团队的组建,以响应潜在的未来 FOA。未来发布的任何 FOA 都将提供具体的计划目标、技术指标和选择标准。FOA 条款将具有控制性。该计划的预期目标包括开发用于化学和材料模拟的可扩展量子算法。该计划预计将在三年的绩效期内结束,从而产生变革性的量子应用,与传统计算相比,其在速度或准确性等指标上具有颠覆性的性能提升。预计 FOA 将要求在量子硬件上验证性能,要么超越经典的最先进技术,要么以可扩展的方式展示出实现这一目标的清晰途径。以下领域的专业知识可能有助于应对潜在的 FOA:
• 这项研究旨在将非侵入性生物力学和心理生理指标数据转化为我们的人工智能系统,该系统可以评估、建模和利用来预测和改善 ADHD/非 ADHD 建筑工人的安全行为,而不会培养对技术的过度依赖或对隐私的威胁。
随着人工智能软件系统在智能制造领域的普及,此类系统的角色从被动转变为主动,为制造运营商提供特定情境的支持。在欧盟资助的 Teaming.AI 项目的框架内,我们认为人机协作中的团队方面监控、运行时监控和道德政策验证以及对数据和机器学习算法实验的支持是智能制造中人机协作最相关的挑战。基于这些挑战,我们开发了一种基于知识图谱、跟踪和场景分析以及关系机器学习组件的参考软件架构,特别关注其可扩展性。我们的方法使用知识图谱来捕获制造过程中特定于产品和流程的知识,并将其用于关系机器学习。这允许针对制造过程中的行动提供特定情境的建议,以优化产品质量并防止物理伤害。该软件架构的实证验证将与汽车、能源系统和精密加工领域的三家大型公司合作进行。在本文中,我们讨论了这种参考软件架构所面临的挑战,介绍了它的初步状况,并勾勒出了我们在该项目中的进一步研究愿景。
摘要 人工智能的不断进步使得军事系统的自主性水平更高。随着机器智能作用的不断扩大,人类与自主系统之间的有效合作将成为未来军事行动中越来越重要的一个方面。成功的人机自主协作 (HAT) 需要在机器智能中建立适当的信任水平,而这种信任水平会根据 HAT 发生的环境而有所不同。有关信任和自动化的大量文献,加上较新的关于军事系统自主性的研究,构成了本研究的基础。本研究研究了三类机器智能应用中信任的各个方面。这些包括数据集成和分析、所有领域的自主系统以及决策支持应用。每个类别中与适当校准信任水平相关的问题各不相同,信任不协调的后果和潜在的缓解措施也各不相同。