自古以来,追求自主性一直是人类文化中一个普遍的主题。本文提出并讨论了自主系统的一般定义,这自然而然地导致了建立衡量系统自主性水平的指标。此定义基于系统在不确定情况下实现目标的能力,不涉及实现目标的手段,例如感知和反馈。本文认为任何自主系统都是一个控制系统,为了实现更高水平的自主性,可能需要添加传统上在运筹学和人工智能等领域开发的方法。本文介绍的工作基于作者早期关于自主航天器功能架构的工作。
在整个历史中,对自主性的追求一直是人类文化中一个普遍的主题。本文提出并讨论了自主系统的一般定义,这自然会引出衡量系统自主性水平的指标的建立。该定义基于系统在不确定情况下实现目标的能力,并不涉及实现目标的手段,如传感和反馈。本文认为任何自主系统都是一个控制系统,为了实现更高水平的自主性,可能需要添加传统上在运筹学和人工智能等领域开发的方法。本文介绍的工作基于作者早期关于自主航天器功能架构的研究。
摘要 社交机器人是可以与人类进行社交互动的机器人。随着社交机器人及其驱动的人工智能 (AI) 变得越来越先进,它们可能会承担更多的社交和工作角色。这具有许多重要的伦理含义。在本文中,我们重点关注其中最核心的一个,即社交机器人对人类自主性的影响。我们认为,由于社交机器人的物理存在和社交能力,它们很有可能增强人类的自主性,同时也有几种抑制和不尊重人类自主性的方式。我们认为,社交机器人可以通过帮助我们实现更有价值的目标、做出更真实的选择和提高我们的自主能力来提高人类的自主性。我们还认为,社交机器人有可能损害人类的自主权,因为它反而会让我们自己实现更少的有价值的目标,做出更少的真实选择,降低我们的自主能力,使我们的自主权更加脆弱,并且不尊重我们的自主权。社交机器人对人类自主权的影响总体上是积极的还是消极的,将取决于我们未来对社交机器人的设计、监管和使用。
加拿大安大略省渥太华,K1A 0R6 电话:+1 613-355-5099 电邮:Prakash.Patnaik@nrc-cnrc.gc.ca Allison NOLTING 博士 加拿大国防研究与发展局 大西洋研究中心 邮政信箱 99000 加拿大新斯科舍省达特茅斯驻地部队,B3K 5X5 电话:+1 902 407 0387 电邮:Allison.Nolting@forces.gc.ca 德国 Patrick GRUHN 博士 DLR 空气动力学和流动技术研究所,超音速和高超音速技术部 Linder Hoehe 51147 科隆 德国 电话:+49 17193069827 电邮:Patrick.Gruhn@dlr.de 技术评估员 Prof. Dr.-Ing. habil. Cord C. ROSSOW ret.德国航空航天中心 (DLR) 空气动力学与流动技术研究所所长 电子邮箱:cord.rossow@dlr.de AVT-Panel 小组导师 Christoph MÜLLER MBDA 导弹系统德国公司 Hagenauer Forst 27 86529 Schrobenhausen,德国 电话:+49 175 875 149 电子邮箱:Christoph.Mueller@mbda-systems.de
根据 CAST/ICAO 通用分类小组 (CICTT) 航空事故类别划分的死亡人数 致命事故 –全球商用喷气式飞机机队 –2001 年至 2010 年
当前的人工智能政策建议对人类自主性的风险各不相同。为了系统地应对自主性风险,我们需要面对概念本身的复杂性,并相应地调整治理解决方案。本文强调了自主性的两个不同维度——代理和真实性——并列出了人工智能部署可能影响每个维度的不同方式。最后但并非最不重要的是,本文讨论了一些政策挑战和影响。
– 自动化——是指根据预先定义的规定规则自动执行特定任务的系统。例如,当工艺参数超过某些规定的限值时,反应堆保护系统会自动启动。 – 自主性——一组基于智能的功能,使系统能够对部署前未预先编程或预期的情况(即基于决策的响应)做出响应。自主系统具有一定程度的自我管理和自我指导行为,从而能够在没有外部干预的情况下弥补系统故障。
摘要 机器学习的进步推动了人工智能决策算法在保释听证、医疗诊断和招聘等程序中的流行。学术文章、政策文本和普及书籍都警告说,这种算法往往不透明:它们没有为其结果提供解释。基于透明度和不透明度的因果关系以及最近关于因果解释价值的研究,我对不透明算法提出了道德担忧,但尚未在文献中得到系统的处理:当此类算法用于改变生活的决策时,它们会阻碍我们根据自己的目标和偏好有效地塑造我们的生活,从而破坏我们的自主权。我认为这种担忧值得更加密切的关注,因为它为算法决策的透明度呼吁提供了新的工具和新的挑战。