关于致命系统的自主性的定义。评估致命系统的“自主性”可能很难编纂或定义。此外,应该认识到自主性不是一种二元技术;许多现有系统包含不需要人机交互的功能 - 例如飞机上空气动力学控制面的操作。考虑致命武力应用中的关键功能及其如何应用于理论上的 LAWS 有助于取得进展,而不会因对自主性的不同解释而停滞不前。首先,英国认为有几个关键功能 - 其中最主要的是选择和打击目标。其次,英国认为,武器系统是否可以按照国际人道主义法 (IHL) 使用的关键考虑因素是人类对这些关键功能的控制水平、方法和性质。英国认为,只有人类才能评估和应用国际人道法原则以及评估打击隐含风险的要求。我们希望,对有效人类控制的关注能为思考哪些特征是可接受的,哪些是不可接受的提供机会。
CNA 为美国海军、国防部 (DOD) 和其他赞助商进行分析,涉及政策、战略、组织流程、军事系统的技术性能和当前行动。由于自主性和人工智能 (AI) 预计会对战争特征产生影响,CNA 成立了自主性和人工智能中心,专注于这些新兴技术及其在美国国防政策和所有军种中的重要作用。该中心结合了 CNA 在对美国军事行动进行客观分析方面的优势和经验以及在自主性和 AI 其他方面专长的专业知识。本报告是新中心创建的第一份报告,吸取了 CNA 为海军和联合部队所做的工作经验和见解,包括 CNA 在世界各地军事指挥部嵌入分析师的实地计划。虽然本报告中研究的许多新兴技术都是新技术,但将美国行动和机构流程中的经验教训应用于利用自主性和人工智能的关键挑战的方法延续了 CNA 的应用研究范式,即探索许多机会来解决或解决以前遇到的挑战。本报告的目的是根据过去的经验教训预测“第三次抵消”实施的挑战,然后为促进自主性、人工智能和相关技术在美国军事领域的有效结合提供具体建议
国防部采购、技术和后勤事务副部长备忘录 主题:国防科学委员会 (DSB) 特别工作组关于国防部 (DoD) 系统中自主性的作用的最终报告 我很高兴转发 DSB 特别工作组关于国防部系统中自主性的作用的最终报告。特别工作组被要求研究相关技术、正在进行的研究和军队当前与自主性相关的计划,以协助国防部发现在军事任务中更积极地使用自主性的新机会,预测弱点,并提出建议,以克服操作困难和系统性障碍,充分发挥自主系统的潜力。特别工作组的结论是,虽然目前部署的无人系统正在为国防部的各项行动做出积极贡献,但由于国防部内部的物质障碍阻碍了自主性的广泛接受及其更充分实现无人系统优势的能力,自主技术未得到充分利用。工作组发现,这些障碍中的关键因素包括设计不良、各军种研发工作缺乏有效协调,以及在缺乏足够资源或时间完善作战和训练概念的情况下紧急将无人系统部署到战区而造成的作战挑战。为了解决限制更多
尽管技术赋权对社会具有重要价值,但人们对于其对消费者决策的下游影响知之甚少。本研究借鉴了期望-确认理论和人工智能(AI)中的自主性,并研究了AI(与自主选择相比)如何对消费者结果产生不利影响,从而产生自主性与技术的紧张关系,即AI技术削弱消费者在选择中的自主性而引起的冲突。四项采用混合方法的研究表明,流媒体平台中AI推荐的使用会产生自主性与技术的紧张关系,从而降低消费者的表现预期,从而降低他们的满意度。然而,这种影响取决于AI推荐的性质。虽然AI推荐与消费者偏好不匹配可能会适得其反,但当选择符合消费者的偏好时,AI的负面影响会减轻。我们为消费者与AI互动时的自主感的实证研究做出了重大的理论和实践贡献。
人类与半自主机器之间的密切合作推动了数十年的太空探索。但为了进一步拓展我们的视野,我们的系统必须变得更加强大。提高自主性的性质和程度 - 允许我们的系统按照任务团队的指示做出自己的决定并采取行动 - 可以实现新的科学能力并提高科学回报。2011 年行星科学十年调查 (PSDS) 和正在进行的十年前任务研究已将增强自主性确定为未来任务所需的核心技术。然而,即使科学发现需要开发自主系统并且过去的飞行演示取得了成功,但制度障碍限制了其成熟和在现有行星任务中的应用。因此,本文的作者和支持者建议开发新的程序路径来注入自主性,投资支持自主系统的基础设施,采用新的实践,并研究自主性对运营的成本节约价值。
“在模拟飞机上整合能力并在演习中展示是一回事,而将成熟的技术交由专业开发测试社区进行测试则是另一回事。这还不是一个作战测试环境,但自主性和传感器集成方面的进步已经得到清晰展示,”前 JAIC 主任 Michael Groen 中将说道。“需要多层审查和批准,包括适航性、网络安全、安全性和测试评估。其中大部分都是新领域,验证平台自主性的概念,并构建评估平台自主性的测试结构。与美国空军的合作至关重要。这一系列试飞使团队成功完成了大部分技术目标。我们期待着继续取得进展,因为这个系统及其代表的更广泛能力正在加速项目向服务过渡。”
用于海军作战的无人水面和水下航行器的开发和生产取决于自主性以及人工智能、快速软件开发和人机协作领域的一系列相关技术的进步。认识到这一新兴作战领域的重要性,海军部最近成立了新的采购执行代理自主性部门。与行业合作伙伴合作,该部门还寻求利用快速采购流程来开发实现无人海事系统全部作战潜力所需的架构、软件和支持技术。该部门还打算向其他也采用自主系统的机构和组织学习,例如 NOAA。加入这个无人专家小组,讨论新 EA 自主性指令的使命和功能,如何将自主开发融入实验和基于舰队的演示,以及自主技术未来的实施路径。
系统是否结合了多项任务和动作(例如内容生成系统、自主系统、控制系统)?动作动作自主性系统动作的自主性如何以及人类扮演什么角色?应用领域核心应用领域系统是否属于核心应用领域,如人类语言技术、计算机视觉、自动化和/或优化或机器人技术?评估{评估方法}是否有可用于评估系统输出的标准或方法?
1 - 简介 1 1.1 团队介绍 1 1.2 为何使用系统工程 1 2 - 系统工程 1 2.1 - 阶段 A 前:概念研究 1 2.1.1 任务概述 1 2.1.2 任务声明 1 2.1.3 利益相关者 2 2.1.4 设计理念 2 2.1.5 设计优化标准 2 2.1.6 系统要求 2 2.1.7 概念研究 3 2.1.8 设计更新和新元素 3 2.1.9 任务概念评审 (MCR) 3 2.2 - 阶段 A:概念开发 3 2.2.1 系统层次结构 3 2.2.2 作战概念 3 2.2.3 系统要求和定义评审 (SRR 和 SDR) 4 2.2.3.1 系统定义评审 (SDR) 4 2.2.3.2 系统要求评审 (SRR) 4 2.3 - 阶段 B:初步设计 4 2.3.1 电气 4 2.3.2 机械 5 2.3.2.1 移动性 5 2.3.2.2 框架 5 2.3.2.3 挖掘 5 2.3.2.4 收集 6 2.3.3 软件与自主性 6 2.3.4.1 自主性 6 2.3.4.2 控制 6 2.3.4.3 控制中心 7 2.3.5 初步设计审查 (PDR) 7 2.4 - 阶段 C:最终设计和制造 7 2.4.1 电气 7 2.4.2 机械 8 2.4.2.1 移动性和框架 8 2.4.2.2 挖掘机 8 2.4.2.3 收集 8 2.4.3 软件与自主性 9 2.4.3.1 自主性9 2.4.3.2 控件 10 2.4.3.3 控制中心 10 2.4.4 接口 11 2.4.4.1 电气 11 2.4.4.2 机械 11 2.4.4.3 软件 11 2.4.5 关键设计评审 (CDR) 12 2.4.6 制造 12 2.5 - 阶段 D:系统组装、集成、测试 12 2.5.1 组装和集成 12 2.5.1.1 电气 12 2.5.1.2 机械 12 2.5.1.3 软件 12 2.5.2 测试 13 2.5.2.1 电气 13