技术进步带来了机器的出现,它们能够在不受人类控制的情况下夺走人类的生命。这对人类构成了前所未有的威胁。本文以《日内瓦议定书》现已禁止在世界范围内使用的化学武器为例,说明最初旨在造福人类的技术发展最终如何产生了现在所谓的“人工智能武器化”。自主武器系统 (AWS) 不符合所谓的歧视原则,但广大公众在很大程度上并未意识到这个问题。鉴于军事部门正在进行的 AWS 科学研究通常不向公众开放,因此不同媒体上表达的关于这一主题的许多观点都基于常识,而不是科学证据。然而,我们作为科学家的工作,尤其是在人工智能领域,可能被武器化的影响比一些人想象的要深远。对于公民利益相关者来说,部署 AWS 的潜在后果是无法估量的,现在是时候提高公众对已识别的潜在威胁类型的认识,并鼓励制定法律政策确保这些威胁不会成为现实。
* 香港中文大学法律学院教授,香港新界。非常感谢 Laurence Boisson de Chazournes、Benoit Mayer、Bryan Mercurio、Bryan Druzin、Qian Wang 和 Ryan Mitchell 对早期草案的评论。1 欧洲理事会结论(2022 年 3 月 24 日至 25 日),网址为 https://data.consilium.europa.eu/doc/docu- ment/ST-1-2022-INIT/en/pdf。2 关于对俄罗斯第六套制裁措施的问题和答案(2022 年 6 月 3 日),网址为 https://ec.europa. eu/commission/presscorner/detail/en/QANDA_22_2823。 3 委员会致欧洲议会、欧洲理事会、欧洲理事会、欧洲经济委员会和地区委员会的通报:REPowerEU 计划,第 20 页,COM/2022/230 final (2022 年 5 月 18 日),网址为 https://eur-lex.europa.eu/legal-content/EN/TXT/?uri¼COM:2022:230:FIN。4 例如,请参阅 David Sheppard、Tom Wilson、Guy Chazan 和 Roman Olearchyk 的《俄罗斯减少对德国和意大利的天然气出口以“政治”举措》,FIN.T IMES (2022 年 6 月 15 日),网址为 https://www.ft.com/content/1e972cf5-f42b-4ed8-b81b-6969dd91ccfd; Marek Strzelecki、Tsvetelia Tsolova 和 Pavel Polityuk,《俄罗斯暂停向波兰和保加利亚供应天然气》,《欧盟通讯社》(2022 年 4 月 28 日),网址:https://www.reuters.com/world/poland-bulgaria-
文中表达或暗示的观点、结论和建议仅代表投稿人的观点,并不一定代表国务院、国防部或联邦政府任何其他机构的观点。已获准公开发布;分发不受限制。
SAFE 政策论文代表作者的个人观点,并不一定反映莱布尼茨金融研究所 SAFE 或其工作人员的观点。本白皮书引用了 Nölke (2022) 的部分内容。德国研究委员会 DFG 已资助相关研究,资助编号为 NO 855/855/7-1 (https://statecapfinance.com/)。1 通讯作者:a.noelke@soz.uni-frankfurt.de
作者:MM Yamin · 2021 · 被引用 142 次 — 基于人工智能 (AI) 的技术被积极用于网络防御目的。随着时间的推移和复杂性的降低...
重要的是,欧安组织关于人类控制和武器化人工智能的政治宣言或指南不会破坏或否定《特定常规武器公约》的努力,而会在此基础上进一步发展。将讨论转向武器化人工智能的当前影响而不是“杀手机器人”未来的潜在影响将有助于减轻这些技术固有的风险。这将表明,特别是在政治不信任的氛围中,达成共识是可能的。虽然《特定常规武器公约》的辩论仍在继续,但欧安组织参与国武装部队进一步自主的作战趋势已成为现实。与使用武器化人工智能相关的实践有可能影响战争规范。然而,这种轨迹并非不可避免,只要采取正确的方法,一项包含人类控制共同定义的政治宣言将是一个现实的成就。
短暂而强烈的射频 (RF) 能量脉冲在被人体头部吸收后可引发听觉,这种效应被称为微波听觉或“弗雷效应”,以第一位研究这种现象的研究人员命名 ( 1 )。已知这种效应由头部热声 (TA) 诱发的声波引起 ( 2 )。Lin 提出,弗雷效应可能与驻古巴等地的美国军官报告的无法解释的健康问题有关,即所谓的哈瓦那综合症 ( 3 )。未能检测到受影响人员的微波暴露不支持这一假设,我们也不推测这些症状的原因。问题是:这种听觉效应是否可以“武器化”,即用来骚扰或伤害个人。由于影响大小和实用性的原因,这种情况似乎不太可能发生,但由于缺乏有关现有高功率射频技术的公开信息以及对不利影响阈值的不确定性,因此无法完全解决此问题。
1 https://www.britannica.com/technology/artificial-intelligence 2 http://sitn.hms.harvard.edu/flash/2017/history-artificial-intelligence/ 3 同上 4 https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-artificial-intelligence 5 https://www.lawfareblog.com/lethal-autonomous-weaponssystems-recent-developments。
高超音速武器主要有两种类型:高超音速巡航导弹 (HCM) 和高超音速滑翔飞行器 (HGV)。北约科学技术组织等一些机构还将高超音速“后隐形”攻击和侦察机列入其中,预计到 2030 年代问世。HCM 是现有巡航导弹的加速版,飞行高度为 20-30 千米。它们由称为超音速燃烧冲压发动机的吸气式喷气发动机推进。这些“超燃冲压发动机”在燃烧阶段之前将进入的空气压缩在一个短漏斗中,使发动机在高速下极其高效地运转。由于超燃冲压导弹直接从大气中获取必要的氧气,因此体积更小、机动性更强。相比之下,HGV 则是无推进式,依靠火箭助推滑翔技术升入高层大气。在 40-100 公里的高度释放后,它们以高超音速飞行,无需关闭动力即可打击目标。它们能够机动并在不同高度释放,这使得它们的轨迹难以预测和计算。