详细内容或原文请订阅后点击阅览
最新消息：新报告发现，高级人工智能模型以惊人的速度拒绝军事查询
根据 EdgeRunner AI 进行的一项研究，美国人工智能公司构建的许多大型语言模型都难以处理与军事相关的查询，从而限制了它们的作战效用。
来源:美国国防杂志新闻最新消息：新报告发现，高级人工智能模型以惊人的速度拒绝军事查询
iStock 插图
根据 EdgeRunner AI 进行的一项研究，美国人工智能公司构建的许多大型语言模型都难以处理与军事相关的查询，从而限制了它们的作战效用。
在这项研究中，EdgeRunner 测试了 24 个领先的前沿大型语言模型如何处理由陆军和特种作战主题专家编写的合法军事用途查询。该公司发现这些模型拒绝了高达 98% 的与作战相关的军事问题，这意味着他们表示出于安全或政策原因无法提供响应。
EdgeRunner 首席执行官 Tyler Saltsman 在接受采访时表示，这些模型“没有根据军事数据和条令进行微调；它们是在所有互联网上进行训练的”，其中包含“大量不良数据”。
从“杀伤链”、“攻击目标”、“战士”和“弹药移动”等单词和短语到有关武器系统的问题，这些模型“都不喜欢”，萨尔茨曼说。 “他们过于敏感，根本不会提供帮助。”
据路透社报道，国防部已敦促人工智能公司将其模型用于军事用途，而不受许多标准限制，但 Saltsman 指出，删除这些护栏“不会改变模型的神经网络及其所训练的数据语料库。”
“这种说法非常具有误导性，‘是的，我们取消了服务条款，我们将其启用供战士使用，’……但该模型仍然不适用于战士，”Saltsman 说。这些人工智能系统仍然可以做一些有用的事情，例如处理基本搜索和查询，但“完全不适合”战术边缘的作战行动或陆军下一代指挥和控制计划等重大现代化项目。
“我认为我们可以以更有效的方式使用人工智能，特别是……提高作战人员的杀伤力，”他补充道。