技术进步带来了机器的出现,它们有能力在不受人类控制的情况下夺走人类的生命。这些对人类构成了前所未有的威胁。本文以《日内瓦议定书》现已禁止的全球化学武器为例,说明最初旨在造福人类的技术发展最终如何产生了现在所谓的“人工智能武器化”。自主武器系统 (AWS) 不符合所谓的歧视原则,但广大公众对此问题基本上一无所知。鉴于军事部门正在进行的 AWS 科学研究通常不向公众开放,因此不同媒体上表达的许多关于这一主题的观点都基于常识,而不是科学证据。然而,我们作为科学家的工作可能被武器化,尤其是在人工智能领域,其影响比一些人想象的要深远。对于公民利益相关者来说,部署 AWS 的潜在后果是无法估量的,现在是时候提高公众对已识别的潜在威胁的认识,并鼓励制定法律政策,确保这些威胁不会成为现实。