美国国防部 (DOD) 计划花费约 1.66 万亿美元来开发其现有的武器系统组合。1 这些武器对于维持我国的军事优势和威慑力至关重要。它们在需要时发挥作用很重要,但网络攻击可能会阻止它们发挥作用。网络攻击可以针对任何依赖软件的武器子系统,可能导致无法完成军事任务甚至造成生命损失。由软件启用的功能示例(可能容易受到攻击)包括打开和关闭系统、瞄准导弹、维持飞行员的氧气水平以及驾驶飞机。攻击者可能会操纵这些系统中的数据,阻止组件或系统运行,或导致它们以不良方式运行。
美国国防部 (DOD) 计划花费约 1.66 万亿美元来开发其现有的武器系统组合。1 这些武器对于维持我国的军事优势和威慑力至关重要。它们在需要时发挥作用很重要,但网络攻击可能会阻止它们发挥作用。网络攻击可以针对任何依赖软件的武器子系统,可能导致无法完成军事任务甚至造成生命损失。由软件启用的功能示例(可能容易受到攻击)包括打开和关闭系统、瞄准导弹、维持飞行员的氧气水平以及驾驶飞机。攻击者可能会操纵这些系统中的数据,阻止组件或系统运行,或导致它们以不良方式运行。
在这篇文章中,具有AI伦理,风险分析和国际安全研究背景的Matthias Klaus探讨了与军事AI应用相关的伦理挑战,通常被对自主武器系统(AWS)的主要主导所在的担忧所掩盖。他强调了与DSS专门相关的许多道德挑战,这些挑战通常被描绘成为军事决策带来更多的客观性,有效性和效率。但是,他们可能会促进偏见,侵犯人类的自主权和尊严,并通过导致同伴压力和咨询行动,从而有效地破坏军事道德责任。
摘要摘要为军事使用而发展或适应的AI技术的流行率提高了有关这项新技术与一般国际法的兼容性,特别是国际人权法(IHRL)的困难问题。人权委员会是委托监督国际公民对民权和政治权利的应用的专家机构,他在2018年就新军事AI的出现与尊重生命权之间的关系表示了观点。文章回顾了IHRL辩论的条款,该辩论围绕着AI技术介绍军事环境及其与生命权的关系。第一部分简要审查了AI在军事环境中的一些实际和潜在应用。第二部分涉及将军事AI引入战场的三个主要异议:自主或半自治的AI系统适当应用国际人道主义法(IHL)的能力,事实上,人们对人类保护的阶级降低了人性保护的范围,以及在某些人类的生活和某些生活中的含义,以使某些人类的生活与人类的含义,以使人类的含义是人类的制造者。根据这三个原则上的反对意见,第三部分是ICRC限制AI在军事环境中使用的具体建议(限制了自主武器系统的范围和使用方式,并排除了不可预测和致命的系统)。第四节审查了本文中从IHRL遵守生命权的有利地点讨论的主要问题,如一般评论中的详细说明36。
________________ * 参考架构将随着时间的推移而发展,因为使用过程中积累的经验会被重新融入其中 ** 实施设计的选择将基于价格/性能交易、SWaP、
洛克希德·马丁公司先进产品解决方案副总裁 Rick Cordaro 表示:“洛克希德·马丁公司和美国海军在开发和提供颠覆性激光武器系统方面有着共同的愿景和热情。HELIOS 提高了舰船的整体作战系统效能,以遏制未来的威胁并为水兵提供额外的保护,我们明白,我们必须提供根据海军优先事项定制的可扩展解决方案。HELIOS 为逐步交付强大而强大的激光武器系统能力奠定了坚实的基础。”
本论文展示了机器学习的一种应用,它为在复杂战术情况下操作激光武器系统的战士提供自动决策支持。该论文使用 NPS 建模虚拟环境与仿真 (MOVES) 研究所的 Swarm Commander 建模和仿真软件环境来开发模拟数据集,模拟涉及舰载激光武器系统防御无人机群威胁的战争游戏场景。模拟数据集用于训练机器学习算法,以预测复杂战场中异构无人机群的最佳交战策略。评估了多种机器学习技术,并选择分类树技术作为首选方法。最终算法在根据无人机威胁类型、数量和激光武器系统攻击策略正确预测交战结果方面总体准确率为 96%。研究结果表明:(1)建模和仿真对于支持战术机器学习应用开发的实用性;(2)机器学习对支持未来战术行动的潜力;(3)机器学习和自动化总体上可以减轻未来作战人员在复杂威胁环境中做出关键决策时的认知负荷。
在阐明具有法律标准的AWS的遵守方面,在翻译武装冲突中合法使用致命武力所需的主观和客观法律测试方面仍然存在挑战 - 这是一个本质上是一个复杂,不可预测且令人困扰的环境。但是,这种练习也许是确保在未来冲突中合法使用这些系统的唯一方法。分享从进行这些评论中学到的经验教训将增强CCW的原则;以及在调试合并自主权的新技术时,还指出了对这些系统局限性的理解和更广泛的合规性要求。各国分享他们在克服这些挑战方面的实践 - 正如GGE的11个指导原则所设想的那样,将进一步对国家正在设计和发展的技术能力的合规性,或者表明他们打算将来获得;但是,在塑造IHL的国际实践中,将对新兴技术和新兴技术产生更广泛的合规效果。
美国政府问责署评估了国防部最昂贵的武器项目报告的与国防工业基础相关的风险。在 GAO 审查的 59 个项目中,超过一半报告跟踪了工业基础风险。但是,跟踪工业基础风险的项目中近一半报告称,他们没有计划针对其项目进行工业基础评估(GAO 将其定义为对与国防部产品相关的某些领域存在已知问题的行业的评估)。GAO 发现,国防部的指示没有定义与项目应进行工业基础评估的情况相关的某些关键短语。国防部希望这些评估有助于确保所需的工业能力满足当前和未来的国家安全要求,并且是可用且负担得起的。因此,国防部对该部门面临的工业基础风险的洞察可能会受到阻碍。
在运营计划阶段,使用自主系统的决定必须牢记其工作环境的决定,因为在城市环境中这样做并不相同,在城市环境中,战斗人员和非战斗人员之间的区别是一个挑战和巨大的复杂性,而不是在开放环境中的运营,因为它在开放式环境中的运作似乎是宽阔的野生或广泛的平面土地,似乎是偏见的。 div>在计划中必须考虑的另一种类型的人类决定,即自主系统的运营就业,是与控制和领导风格有关的人类决定,这可能会影响更大或更少的风险假设,从而为自己的部队造成友好的火灾。 div>