机构名称：
¥ 1.0
在科幻电视剧《星际迷航：原初系列》的“末日决战”一集中，企业号的船员们访问了一对行星，这两颗行星已经进行了 500 多年的计算机模拟战争。为了防止他们的社会被毁灭，这两个星球签署了一项条约，战争将以计算机生成的虚拟结果进行，但伤亡人数将是真实的，名单上的受害者自愿报告被杀。柯克船长摧毁了战争模拟计算机，并受到谴责，因为如果没有计算机来打仗，真正的战争将不可避免。然而，战争持续这么久的原因正是因为模拟使两个社会免受战争的恐怖，因此，他们几乎没有理由结束战争。虽然基于科幻小说，但未来人工智能战场的威胁引发了人们对战争恐怖的道德和实际担忧。驱使各国采用致命自主武器系统 (LAWS) 的逻辑确实很诱人。人类是会犯错的、情绪化的、非理性的；我们可以通过 LAWS 保护我们的士兵和平民。因此，这种推理将 LAWS 构建为本质上理性的、可预测的，甚至是合乎道德的。杀手机器人，尽管名为杀手机器人，实际上会拯救生命。然而，这种逻辑是愚蠢的。如果人工智能战争专注于完善战争手段，而忽视战争的目的，那么它就会存在许多潜在的陷阱。就像在《星际迷航》中一样，无风险战争的诱惑力很强，但它会给那些最终不可避免地被杀死、致残和流离失所的人带来真正的后果。接下来，我认为 LAWS 的前景存在严重的道德问题，而这些问题是先进技术无法解决的。道德不能预先编程以适用于各种情况或冲突，而有意义的人为控制忽视了自动化偏见如何影响决策中的人机交互。军事实体和非政府组织都提出了有意义的人类控制的概念，特别是在致命决策中
算法、人工智能和战争伦理
主要关键词
相关文件推荐
