研究诚信 我们的使命是通过研究和分析帮助改善政策和决策,这得益于我们的核心价值观:质量和客观性,以及我们对最高诚信和道德行为的坚定承诺。为确保我们的研究和分析严谨、客观、不偏不倚,我们对研究出版物进行了严格而严格的质量保证流程;通过员工培训、项目筛选和强制披露政策,避免出现和实际出现财务和其他利益冲突;并通过承诺公开发表我们的研究结果和建议、披露已发表研究的资金来源以及确保知识独立的政策,追求研究工作的透明度。有关更多信息,请访问 www.rand.org/about/principles。
越来越多地提议在涉及潜在致命武力的军事技术和军事规划中使用人工智能 (AI) 软件来取代人类。军事冲突是危险的,而且有很大的动机将其参与者自动化。例如,韩国使用简单人工智能的自动炮塔在国际上很受欢迎(Parkin,2015),尽管其伦理原则尚未得到仔细评估。军事人工智能最明显的伦理问题出现在瞄准方面,其他问题出现在作战规划和后勤支持方面。然而,建立人工智能系统来做出潜在的致命判断是困难的,目前的人工智能方法在许多任务上仍然不如人类准确(Emery,2021)。使用它们施加致命武力可能是不道德的,就像今天在军事冲突中使用霰弹枪等不精确的武器一样。此外,武装冲突法中,使用致命武力的一个主要理由是自卫,这与软件和机器人关系不大,因为它们可以廉价地重新制造,尽管有限的自卫对于它们在持续冲突中保持其能力仍然是适当的。因此,评估每种人工智能方法的工作原理以了解其对致命武力的贡献有多合理非常重要,而且这些方法在准确性和可解释性方面存在很大差异,因此其可能的合理性也不同。
人工智能的最新进步,尤其是在深度学习技术中,加速了不同应用领域的创新和开发。深度学习技术的发展对军事发展趋势产生了深远的影响,从而导致战争形式和模式发生了重大变化。在本文中,我们概述了深度学习的历史和建筑。然后,我们审查相关工作,并在两个主要军事应用中广泛描述深度学习:情报操作和自主平台。最后,我们讨论相关威胁,机遇,技术和实际困难。主要发现是,人工智能技术不是万能的,需要仔细地应用其局限性,网络安全威胁以及在OODA决策循环中对人类监督的强烈需求。在战略决策水平上需要某些保障机制。在这种情况下,最重要的方面之一与军官人员的教育,培训和选择有关。
在第一章中,我们将重点介绍法国核能的早期发展。我们将展示法国科学家团队如何从一开始就走在国际核物理的前沿。在不到五十年的时间里,他们取得了一系列重大突破。法国科学家在世纪之交发现了天然放射性现象,随后在 20 世纪 30 年代中期发现了人工放射性,然后在第二次世界大战爆发前注册了秘密专利。其中一项专利已经预见到了制造原子武器的可能性。
研究诚信 我们的使命是通过研究和分析帮助改善政策和决策,这得益于我们的核心价值观:质量和客观性,以及我们对最高诚信和道德行为的坚定承诺。为确保我们的研究和分析严谨、客观、不偏不倚,我们对研究出版物进行了严格而严格的质量保证流程;通过员工培训、项目筛选和强制披露政策,避免出现财务和其他利益冲突的表象和现实;并通过承诺公开发表我们的研究结果和建议、披露已发表研究的资金来源以及确保知识独立的政策,追求研究工作的透明度。有关更多信息,请访问 www.rand.org/about/principles。
在战略竞争和日益严峻的地缘政治挑战中,焦点将集中在美国、欧盟和志同道合的国家以及中国和俄罗斯,这两个国家既是创新先驱,也是地缘政治参与者。国防、技术和政治领域的专家讨论了人工智能对全球安全战略、网络战和国际稳定的影响:人工智能如何影响国家间的力量平衡?人工智能的军事应用会带来哪些风险?国际合作能否减轻人工智能带来的安全威胁?人工智能对西方军队有什么好处?研究机构在全球军事应用人工智能方面发挥了什么作用?
越来越多的国家正在开发军事人工智能能力,其中可能包括使用人工智能实现自主功能和系统。人工智能的军事应用可以而且应该合乎道德、负责任,并加强国际安全。人工智能的军事应用必须遵守适用的国际法。特别是,在武装冲突中使用人工智能必须符合各国在国际人道主义法下的义务,包括其基本原则。人工智能能力的军事应用需要负责任,包括在军事行动期间在负责任的人为指挥和控制系统内使用人工智能。人工智能军事应用的原则性方法应包括仔细考虑风险和利益,还应尽量减少意外偏见和事故。各国应采取适当措施,确保负责任地开发、部署和使用其军事人工智能能力,包括实现自主功能和系统的能力。这些措施应在军事人工智能能力的整个生命周期的相关阶段实施。支持国认为,在开发、部署或使用军事人工智能能力(包括实现自主功能和系统的能力)时,应实施以下措施:
摘要:本文概述了人工智能算法的发展现状和预期前景,特别是在军事应用方面,并开展了民用领域应用研究。主要关注人工智能算法在网络安全、物体检测、军事后勤和机器人领域的应用。讨论了与当前解决方案相关的问题以及人工智能如何帮助解决这些问题。还简要介绍了用于解决所讨论问题的 ART、CNN 和 SVM 网络以及期望最大化和高斯混合模型算法的数学结构和描述。第三章讨论了社会对神经网络算法在军事应用中使用的态度。讨论了人工智能应用中与伦理相关的基本问题以及自主系统错误的责任问题。