人类正处于人工智能 (AI) 加速发展的轨道上。2019 年,最先进的模型是 GPT-2,该模型无法可靠地数到十。仅仅四年后,同样基于深度学习的类似但更大的人工智能系统可以编写软件并就智力主题提供建议。科技公司现在正竞相创造通用人工智能 (AGI):在大多数或所有知识工作中匹敌或超越人类能力的通才和自主系统。2018 年深度学习图灵奖的三位获奖者(Geoffrey Hinton、Yann LeCun 和我)将 AGI 的时间线定在几年到几十年的区间内。在本文中,我研究了这其中涉及的一些更大规模的风险,并提出了减轻灾难性后果风险的方法。
自第二次世界大战结束以来,美国在军事研发上的投入比日本多出数十亿美元。 19即使在今天,尽管美国经济衰退,日本军费开支持续增加,但日本每年的国防研发支出(不到 1000 亿日元)与美国超过 5 万亿日元的支出相比还是相形见绌。在日本,官方国防研发仅占政府研发总额的 5%,而在美国,政府支出占 60% 以上。 2但是,尽管战后美国为发展国防技术付出了巨大的努力,名义支出存在巨大差异,而且日本不设计或制造用于出口的军事装备,但日本商业制造商现在在许多领域展现出的军民两用生产能力已匹敌甚至超过美国的能力。 3
国防部的作战和实弹测试与评估足以向部门和国会山的决策者以及用户(美国作战人员,我们的国宝)提供准确的信息。然而,随着全球威胁的增加,近乎匹敌的对手的能力差距正在缩小,潜在攻击媒介的数量和严重性迅速扩大,必须检查作战和实弹测试与评估的基本原理:国防部是否拥有合适的工具、基础设施、流程和人员来正确评估我们计划在明年和 10 多年后部署的非凡技术?我们是否在测试系统的正确方面,并充分关注对手最有可能利用的现实威胁和漏洞类型?测试与评估是否准备好实时适应全球条件?测试如何简化采购流程?
分心。事实上,奥巴马政府此前“转向”或“重新平衡”亚洲的努力因美国对中东的关注而偏离轨道,尽管中国正在把南海的珊瑚环礁变成坚固的军事基地 2 并建立了一支比美国规模更大的海军。3 此外,尽管 2022 年国防战略中提出了优先事项,但拜登政府迄今为止的行动并未表明建立对华威慑确实是国家安全的首要任务。最近提交的美国海军 30 年造船计划未能在必要的时间内建造足够的海军舰队 4 ,目前美国军用飞机舰队的战备率低得惊人 5 ,空军的飞行小时计划未达到保持与近乎匹敌的竞争对手的熟练程度的最低标准。6
自第二次世界大战结束以来,美国在军事研发上花费的资金比日本多出数十亿美元。’即使在今天,尽管美国经济衰退,日本军费开支持续增加,但日本每年的国防研发支出(不到 1000 亿日元)与美国超过 5 万亿日元的支出相比相形见绌。在日本,官方国防研发仅占政府研发总额的 5%,而在美国,政府支出占 60% 以上。2 但是,尽管战后美国为发展国防技术付出了巨大的努力,名义支出存在巨大差异,而且日本不设计或制造用于出口的军事装备,但日本商业制造商现在在许多领域展现出的军民两用生产能力已匹敌或超过美国的能力3
在此阶段,由于进行 LSCO 的复杂性,联合部队指挥官不太可能专注于 COIN 行动。一项将贯穿第三阶段的 COIN 任务是收集武器技术情报 (WTI)(参谋长联席会议,2021 年)。WTI 是一项重要的 COIN 任务,可分析敌方武器,使联合部队指挥官能够充分了解其能力和弱点(参谋长联席会议,2021 年)。即使拥有广泛的情报收集能力,美国军方也无法完全了解敌人战争工具的各个方面;然而,这些 COIN 行动将证明是无价的,为美国军方领导人提供宝贵的情报,因为他们面临着拥有先进战争武器的近乎匹敌的威胁。一旦主要作战行动停止,美国军方必须设定条件
北约盟国正在转变国防战略,以应对近乎匹敌的威胁。这要求以更一体化、更高效的方式在空中、陆地、海上、太空和网络这五个领域开展行动。为了模拟全方位的军事资产(以及对平民和基础设施的潜在影响),未来的 SE 必须处理数百万个动态实体。这不仅能实现更真实、更准确的基于模拟的训练,而且也是为军事领导人创建新的决策支持工具的基础。这可以通过对不同的决策进行多次模拟并评估结果以及它们如何与任务成功标准保持一致来实现。此类功能可以嵌入到未来的指挥和控制系统中,使指挥官能够评估行动方案分析。
国防部的作战和实弹测试与评估足以向部门和国会山的决策者以及用户(美国作战人员,我们的国宝)提供准确的信息。然而,随着全球威胁的增加,近乎匹敌的对手的能力差距正在缩小,潜在攻击媒介的数量和严重性迅速扩大,必须检查作战和实弹测试与评估的基本原理:国防部是否拥有合适的工具、基础设施、流程和人员来正确评估我们计划在明年和 10 多年后部署的非凡技术?我们是否在测试系统的正确方面,并充分关注对手最有可能利用的现实威胁和漏洞类型?测试与评估是否准备好实时适应全球条件?测试如何简化采购流程?
情景规划是一种极好的方法,适用于像人工智能这样的主题,因为未来几年人工智能的发展存在巨大的不确定性。目前,生成式人工智能正受到广泛关注和关注,而机器学习和预测方法在过去十年中也得到了广泛应用。人工智能技术经常嵌入具有更广泛功能的系统中,例如聊天机器人或推荐系统。为了确保充分解决未来的可能性,我们设计了各种情景,涵盖了各种可能的未来,包括人工智能应用失败和对社会造成的危险后果,人工智能导致超人能力的未来,一直到目前尚处于概念阶段的通用人工智能 (AGI),其目的是在广泛领域匹敌或大大超越人类的分析、推理、规划和创造能力,有些人认为这对人类的生存构成了威胁。
CNA 的自主和人工智能中心支持美国将自主、人工智能和相关技术有效纳入军事能力的目标。纵观历史,将技术进步应用于作战的能力已经导致战争方式和作战工具发生根本性变化。自主和人工智能代表了战争中的革命性技术,为美国提供了对抗和遏制新兴威胁、应对安全挑战和推进美国国家利益的机会。但这种机会绝非板上钉钉,因为自主也为近乎匹敌的竞争对手提供了潜在的不对称优势,其中一些竞争对手一直在积极追求这些能力。同样,私营部门和商业研发部门的快速创新远远超过美国军方,这也给美国带来了新的挑战,美国需要在这种迅速变化的环境中迅速识别和整合尖端技术发展。