详细内容或原文请订阅后点击阅览
可以选择杀死谁的人工智能武器已经在这里。联合国警告世界正在跨越危险线
当人工智能决定武器应该杀死哪个人类时会发生什么？
来源:ZME科学根据联合国 (UN) 和红十字国际委员会 (ICRC) 的说法，人工智能武器目前正在开发中，能够识别目标，并在某些情况下无需等待人类命令即可做出最终攻击决定。
联合国和红十字国际委员会代表在一份联合声明中表示：“自主武器系统并非遥不可及的未来——一场争取武器系统更大自主权的竞赛已经开始。”
战场让争论不再那么假设
使人工智能增强武器（例如装有炸药的四轴飞行器无人机）在没有任何人类监督的情况下瞄准人类的技术尚未广泛部署，但根据一些报道，它已经在战场上使用。
据报道，7 月，一架俄罗斯 Molniya 无人机在乌克兰扎波罗热市向加油站附近地区发射后造成三名平民死亡。法医调查显示，这架无人机似乎使用机载人工智能来选择最终目标，而不是依赖人类操作员。
虽然造成平民死亡的具体无人机尚未找到，但调查人员在检查类似无人机时发现了 Nvidia Jetson Orin 计算机、没有明显的人类控制天线以及包含预定义目标类别的软件。
“这些武器没有供人类驾驶的天线，并且有一个功能强大的机载计算机，具有预先训练的目标类别，”计算机科学专家、国际安全与道德人工智能协会主席斯图尔特·拉塞尔告诉《洛杉矶时报》。
需要明确的是，军事自动化已经存在了几十年。正在发生的变化是将人类完全从“杀伤链”的最后一部分中剔除的可能性。
真正的争论在于人类控制的含义
我们赋予人工智能自己做出决策的自由越多，了解人类参与的必要性就越重要，特别是在非战斗人员面临的风险非常真实的战场环境中。
国际上长期讨论的一种方法是“有意义的人类控制”——即人们应该保留有意义地参与使用致命武力的决策。然而，政府和行业专家一直难以就实际需求达成一致。
“有意义的人类控制 (MHC) 的概念在过去十年里一直被人们嘲笑，而在此过程中，它从根本上被误解和歪曲，主要是由同一组参与者（学者、政治领导人和民间社会）出于各种原因而误解和歪曲，”人工智能和自主武器系统专家、海军分析中心高级研究科学家希瑟 M. 罗夫 (Heather M. Roff) 说。
美国政府越来越多地使用“适当的人类判断”一词，指的是对武器设计、测试、部署和交战规则的人类监督，而不是要求每个人都批准单独的攻击。
×
谢谢！还有一件事...
请检查您的收件箱并确认您的订阅。
在这种方法下，只要人类在其他阶段进行了判断，例如决定在何处、何时以及在什么条件下可以使用该系统，武器就有可能自行做出瞄准决定。
这就是争论变得复杂的地方：如果机器最终选择目标，人类在过程早期的监督是否有效？
为什么联合国和红十字会现在正在推动
而且，问题变得越来越难以控制。人工智能驱动的武器系统功能越来越强大，价格也越来越便宜，这使得它们对战争越来越有吸引力。一旦武器展现出战场优势，放弃它在政治和军事上就变得更加困难。
三年前，联合国和红十字国际委员会首次呼吁对自主武器进行具体限制。他们现在更加紧迫地再次发出呼吁，警告说武器技术的发展速度快于国际规则的发展速度。
他们的立场不仅仅是呼吁禁止所有自主武器。他们希望有明确的禁止和限制，特别是针对能够自动瞄准人类和影响无法可靠预测的系统的武器。
这非常重要，因为攻击来袭导弹的自主系统与决定杀死哪个人的系统有着根本的不同。
联合国秘书长兼红十字国际委员会负责人表示：“我们现在正危险地接近跨越道德红线：机器自动瞄准人类。”
这些组织还对问责制提出警告。如果机器独立选择目标，那么当平民被杀时，责任就会变得更难追查。这取决于程序员、制造商、指挥官、操作员还是国家？
与此同时，在乌克兰、中东、苏丹和其他地方的战争背景下，自主武器正在研发。研究军事人工智能的科学家和工程师也对该技术的发展方向表示担忧。
联合国和红十字国际委员会认为，等到此类武器变得普遍之后，有意义的限制可能无法实施。