详细内容或原文请订阅后点击阅览
军事AI的第二阶段到达
上周，我与两名美国海军陆战队进行了交谈，他们去年大部分时间都在太平洋部署，从韩国到菲律宾进行了训练演习。两者都负责分析监视，以警告他们的上司可能对该部门造成的威胁。但是这种部署是独一无二的：他们第一次使用…
来源:MIT Technology Review _人工智能正如我在故事中也写的那样，这次推动引起了一些AI安全专家的警报，内容涉及大型语言模型是否适合分析高地缘政治风险的情况下的微妙智能。它还加速了美国，而AI不仅在分析军事数据，而且还提出行动，例如产生目标列表。支持者说，这有望更高的准确性和更少的平民死亡，但许多人权团体认为相反。
目标列表 更大考虑到这一点，这里有三个开放的问题，可以关注美国军方，以及世界各地的其他人，将生成的AI带到所谓的“杀戮链”的更多部分。
杀死链“循环中的人类”的限制是什么？
与我的国防技术公司交谈，您会听到一个短语经常重复：“循环中的人。”这意味着AI负责特定任务，并且人类在那里检查其工作。这本来是对最令人沮丧的场景的保障，例如错误地命令致命罢工 - 但也反对更琐碎的不幸事件。在这个想法中隐含的是，AI会犯错，并承诺人类会抓住他们。
但是，AI系统的复杂性是从数千个数据中汲取的，这是对人类的艰巨任务。
““循环中的人”并不总是有意义的缓解措施，”她说。当AI模型依靠数千个数据点得出结论时，“人类真的不可能通过此信息来确定AI输出是否错误。”随着AI系统依靠越来越多的数据，此问题会扩大。