从自动化到自主性的转变标志着人机关系的新篇章,尤其是在人工智能 (AI) 应用不断扩展和多样化的背景下。随着机器获得类似于自主代理的能力,人类和机器自主性之间的界限变得模糊,挑战了传统的代理、控制和独立性概念。本期特刊探讨了数字时代自主性的多学科视角,解决了将自主性归因于机器和人工智能系统的复杂性。哲学、社会学和技术方法汇聚在一起,探索新兴的机器自主性形式如何影响人类的代理、自由和决策,其应用范围从自动驾驶汽车到数字助理和军用无人机。这一论述的核心是将自主性视为积极属性与担心在日益独立的技术面前削弱人类权威之间的日益紧张的关系。通过将自主性定义为
摘要 人为因素在航空电子系统的开发和集成中发挥着重要作用,以确保它们值得信赖并能有效使用。随着无人驾驶飞行器 (UAV) 技术对航空领域变得越来越重要,这一点也确实如此。本研究旨在通过利用流行的航空访谈方法(图式世界行动研究方法)结合从文献中确定的关于信任的关键问题,了解无人机操作员在驾驶无人机时的信任要求。对六名拥有不同经验的无人机操作员进行了访谈。这确定了过去的经验对信任的重要性以及操作员的期望。除了可以帮助开发值得信赖的系统的设备、程序和组织标准之外,还提出了针对培训以积累经验的建议。所开发的方法有望在人机交互中获得信任。
聊天机器人可以为人类提供情感支持,这非常有帮助,尤其是在 COVID-19 疫情等危机时期(Jiang 等人,2022 年)。有时,陪伴感不一定涉及生物。例如,想象中的朋友是儿童时期的常见现象,可以为儿童提供表达感受和探索情绪的重要渠道。研究表明,这些想象中的伙伴可以帮助儿童发展社交技能、应对压力或孤独、练习解决问题的策略,甚至培养创造力(Davis 等人,2011 年;Gleason & Hohmann,2006 年;Hoff,2005 年;Taylor 等人,2010 年)。虽然想象中的朋友的确切作用尚未完全了解,但这种现象可能有益于儿童的心理发展。那么,人工智能——虚拟朋友呢?
行动 1. 你会依靠无人机执行哪些行动? 2. 你会不依靠无人机执行哪些行动? 3. 相信无人机完成任务有多容易? 4. 在行动过程中,你对无人机的信任会发生怎样的变化? 5. 会有什么负面结果吗?
人工智能及其配套技术机器人有望通过其分析、解释和执行人类行为的能力彻底改变人机关系(电气和电子工程师协会,2017 年)。这些能力在激发人们的兴奋和担忧的同时(Bostrom,2014 年),也引发了人们对指导技术发展的伦理和价值观的反思(Calo,2016 年)。因此,引发价值观演变的因素对于影响技术可能采用的形式至关重要。广义上讲,这些行为被视为在两个层面上运作:(1)通过认识论推断,通常通过神经科学观察——人类就像机器(McCulloch 和 Pitts,1943 年;Fodor,1975 年;Marr 和 Poggio,1976 年;Marr,1982 年;Piccinini,2004 年;Yuste,2010 年)和(2)通过本体论谓词,即作为人类元属性的推断类比——机器就像人类(Hornyak,2006 年;Kitano,2006 年;Sabanovic,2014 年)。由于人工智能设备的设计意图是减少人为干预的负担,它们越来越多地用于满足人类的一系列需求,从低阶运动辅助到高阶计算和社交功能,例如生活辅助伴侣和工作同事(Sabanovic,2014 年);因此,它们在多个层面上进行类比。尤其是高阶认知的模拟被视为价值归属的驱动因素——在此被理解为权利和道德权利的内在基础(Rothaar,2010),它源于关于技术操作类似于人类认知的本体论推论。也就是说,通过复制这些人类独有的能力,技术中本体论的入侵日益加深,以模拟本体论等价的名义推动价值进化。例如,Breazeale 的 Kismet 机器人不仅探索了促进人机交互所必需的社交手势,还探索了人类社交智能的构建,甚至探索了成为人类的意义(Breazeal,2002;Calo,2016)。因此,模拟挑战了传统的价值等级制度,将人类置于有机体生命的顶端,并为伦理、生物伦理和神经伦理实践奠定基础,这种优先顺序促进了人类的繁荣,同时也限制了对人类的有害干预。
社区对人工智能在人们日常任务中日益增加的存在以及它如何影响人们的生活表示担忧。有很多研究涉及可解释人工智能 (XAI) 的可解释性和透明度概念,这些概念通常与算法和机器学习 (ML) 模型有关。但在决策场景中,人们需要更多地了解人工智能的工作原理及其结果,以便与该系统建立关系。决策者通常需要向不同领域的其他人证明他们的决定是正确的。如果该决策以某种方式基于或受人工智能系统结果的影响,那么关于人工智能如何达到该结果的解释是建立人工智能与人类在决策场景中的信任的关键。在这篇立场文件中,我们讨论了 XAI 在决策场景中的作用,我们对人工智能系统参与决策的愿景,并从文献中探讨了一个关于 XAI 如何影响人们证明其决策的案例,考虑到在这些场景中建立人机关系的重要性。
摘要 人为因素在航空电子系统的开发和集成中发挥着重要作用,以确保它们值得信赖并能有效使用。随着无人驾驶飞行器 (UAV) 技术对航空领域变得越来越重要,这一点是正确的。本研究旨在通过利用流行的航空访谈方法(图式世界行动研究方法)结合从文献中确定的关于信任的关键问题,了解无人机操作员在驾驶无人机时的信任要求。采访了六名拥有不同经验的无人机操作员。这确定了过去的经验对信任的重要性以及操作员的期望。除了可以帮助开发值得信赖的系统的设备、程序和组织标准之外,还提出了针对培训以积累经验的建议。所开发的方法有望在人机交互中赢得信任。