摘要 人类如何才能继续控制基于人工智能 (AI) 的系统,这些系统旨在自主执行任务?这样的系统越来越普遍,既带来了好处,也带来了不良情况,即其行为的道德责任不能正确地归因于任何特定的人或团体。有意义的人类控制的概念已被提出来解决责任差距,并通过建立条件来缓解责任差距,使责任能够正确地归因于人类;然而,对研究人员、设计师和工程师的明确要求尚未存在,这使得开发仍然处于有意义的人类控制下的基于人工智能的系统具有挑战性。在本文中,我们通过迭代的溯因思维过程确定了有意义的人类控制下的基于人工智能系统的四个可操作属性,从而解决了哲学理论与工程实践之间的差距,我们将利用两个应用场景来讨论这些属性:自动驾驶汽车和基于人工智能的招聘。首先,人类和人工智能算法交互的系统应该有一个明确定义的道德负载场景领域,系统应该在其中运行。其次,系统内的人类和人工智能代理应该有适当且相互兼容的表示。第三,人类承担的责任应与人类控制系统的能力和权威相称。第四,人工智能代理的行为与意识到道德责任的人类行为之间应有明确的联系。我们认为,这四个特性将支持具有实践意识的专业人士采取具体步骤,设计和构建促进有意义的人类控制的人工智能系统。
从演示和成对偏好推断奖励函数是将强化学习 (RL) 代理与人类意图相结合的良好方法。然而,最先进的方法通常专注于学习单一奖励模型,因此很难权衡来自多位专家的不同奖励函数。我们提出了多目标强化主动学习 (MORAL),这是一种将社会规范的不同演示组合成帕累托最优策略的新方法。通过维持标量权重的分布,我们的方法能够以交互方式调整深度 RL 代理以适应各种偏好,同时无需计算多个策略。我们在两种场景中通过实证证明了 MORAL 的有效性,这两种场景模拟了交付和紧急任务,需要代理在存在规范冲突的情况下采取行动。总的来说,我们认为我们的研究是朝着具有学习奖励的多目标 RL 迈出的一步,弥合了当前奖励学习和机器伦理文献之间的差距。
火山和火山喷发的全球视角 Richard Wunderman、Lee Siebert、James Luhr、Tom Simkin、Ed Venzke,史密森学会,华盛顿特区 20560 美国地质学家已经确定全球大约有 1500 座火山在过去 10,000 年内可能处于活跃状态。许多火山形成了显眼的高耸锥体;其他火山则包括洼地、裂缝和遍布喷口的区域。这些火山大多数位于陆地上或突出于水面。另外,还有更多火山在深海中无人观察,但它们的喷发很少冲出海面。在冰岛等地的两极,厚厚的冰川下的火山喷发会融化一个开口,使能量直接排放到大气中。火山通常以线性带或链状出现;环太平洋地区的火山往往会爆发性喷发。许多亚洲航线经过印度尼西亚、菲律宾和日本的部分地区,这些国家拥有超过三分之一的已知活火山。地球上的活火山包括约 10-15 座几乎连续喷发(排出固体物质)的火山。在任何时候,这些火山都会与其他几座火山汇合,通常是最近喷发过的火山。在 20 世纪 90 年代的每一年,约有 50-60 座火山喷发。在爆发性喷发的范围内,小型喷发占主导地位。许多值得注意的喷发都是突然开始的(超过三分之一的火山在第一天达到高潮;五分之一的火山在第一个小时内达到高潮);然而,在值得注意的案例中,在一次高潮喷发之前,有数年的温和喷发。喷发物质的体积、排放速率、粘度和挥发性物质含量等因素都会影响喷发的大小、特征和灰柱高度。没有一种现象会产生大的火山灰云。通常很难在喷发开始时判断最终的喷发规模。虽然希望不断增长的火山灰柱能够立即向火山灰监测中心报告,但某些因素可能会阻碍这一努力(例如恶劣天气、黑暗、基础设施有限、损坏、缺乏诊断卫星覆盖),从而无法及时做出明确评估。世界上 1500 座活火山中有一半位于发展中国家;世界上许多火山缺乏专门的监测仪器。
火山和火山喷发的全球视角 Richard Wunderman、Lee Siebert、James Luhr、Tom Simkin、Ed Venzke,史密森学会,华盛顿特区 20560 美国地质学家已经确定全球大约有 1500 座火山在过去 10,000 年内可能处于活跃状态。许多火山形成了显眼的高耸锥体;其他火山则包括洼地、裂缝和遍布喷口的区域。这些火山大多数位于陆地上或突出于水面。另外,还有更多火山在深海中无人观察,但它们的喷发很少冲出海面。在冰岛等地的两极,厚厚的冰川下的火山喷发会融化一个开口,使能量直接排放到大气中。火山通常以线性带或链状出现;环太平洋地区的火山往往会爆发性喷发。许多亚洲航线经过印度尼西亚、菲律宾和日本的部分地区,这些国家拥有超过三分之一的已知活火山。地球上的活火山包括约 10-15 座几乎连续喷发(排出固体物质)的火山。在任何时候,这些火山都会与其他几座火山汇合,通常是最近喷发过的火山。在 20 世纪 90 年代的每一年,约有 50-60 座火山喷发。在爆发性喷发的范围内,小型喷发占主导地位。许多值得注意的喷发都是突然开始的(超过三分之一的火山在第一天达到高潮;五分之一的火山在第一个小时内达到高潮);然而,在值得注意的案例中,在一次高潮喷发之前,有数年的温和喷发。喷发物质的体积、排放速率、粘度和挥发性物质含量等因素都会影响喷发的大小、特征和灰柱高度。没有一种现象会产生大的火山灰云。通常很难在喷发开始时判断最终的喷发规模。虽然希望不断增长的火山灰柱能够立即向火山灰监测中心报告,但某些因素可能会阻碍这一努力(例如恶劣天气、黑暗、基础设施有限、损坏、缺乏诊断卫星覆盖),从而无法及时做出明确评估。世界上 1500 座活火山中有一半位于发展中国家;世界上许多火山缺乏专门的监测仪器。