详细内容或原文请订阅后点击阅览
综合指挥与控制：人类选择指导人工智能作战的新方式
两位人工智能专家提出了一种为战士训练人工智能的新方法。
来源:美国防务快讯网随着美国军队竞相适应越来越多、日益先进、迭代自主的人工智能，人类如何保持控制？标准答案是，未经人类批准，任何机器都无法行使致命武力——但这个解决方案显然是错误的。
当人工智能要求其人类监督者批准或否决特定攻击时，在人机团队交互动态的流程和节奏中已经太晚了。让人类只做出最终决定可以让算法早在这之前就做出具有重大影响的决策，从部署力量到优先考虑目标，以不可接受的方式限制人类的选择。
然而，每个中间步骤都需要人类的批准，这显然牺牲了人工智能最初如此有吸引力的速度和能力范围。那么我们如何协调人类控制和机器速度呢？
我们认为，答案需要将人类偏好嵌入到软件本身中。不需要自动化过程在某个关键点停止以请求人类输入（减慢人工智能的速度，同时只为人类提供一组狭窄的选择），而是需要系统地、故意地和先发制人地将诸如指挥官的行动意图之类的想法集成到算法中。
尽早制定本指南将代表一种范例方法，确保每个自动化决策都受到人类选择的限制和指导，而不是人类决策受到自动化决策的限制和引导。
呼吁清晰
重要的是要尽早注意到，人们并不普遍希望创造由终结者或天网等虚构帐户所流行的场景。事实上，人工智能爱好者和怀疑论者都同意人类需要控制无人驾驶武器和军事指挥系统。但对于如何实施这种控制，共识甚少，甚至不清楚。
综合命令和控制
图 1.