详细内容或原文请订阅后点击阅览
认识一下尝试构建军事专用人工智能的初创公司
人类与五角大楼的不和揭示了巨型边境模型的作用与部队实际需要之间的巨大差距。
来源:美国防务一号网AI 模型构建者 Anthropic 与五角大楼之间的斗争暴露了军方想要的 AI 工具与 Anthropic、xAI 和 OpenAI 等公司实际制造的产品之间的巨大差距：AI 工具是供所有人使用的，而不是专门为军方使用的。少数由资深人士经营或资助的初创公司旨在填补这一空白。他们的主张是：战争人工智能除了阅读《汤姆克兰西》同人小说之外，还应该对战争有一些基本的了解。它不应该仅仅为了安抚用户而自信地提供低可信度的答案。即使高科技对手切断了与云的连接，它也应该能够正常工作。
需求差距
Anthropic 与国防部之间的斗争揭示了一个令人不安的事实，即五角大楼对语言模型本身、它们产生幻觉的可能性以及它们可能“不遵循指示”持深深的保留态度。
但五角大楼无论如何都允许广泛部署 Anthropic 的模型，渴望至少将一些生成式人工智能工具交到操作员手中。据报道，它在逮捕委内瑞拉总统尼古拉斯·马杜罗的“午夜之锤”行动中发挥了作用，尽管五角大楼官员拒绝证实这一点。
美国国防部负责研究和工程的副部长埃米尔·迈克尔 (Emil Michael) 周五表示，袭击发生后，Anthropic 官员致电 Palantir，询问他们的人工智能模型是否在此次行动中使用。迈克尔表示，“对于五角大楼的整个领导层来说，这是一个令人惊叹的时刻，我们可能如此依赖软件提供商，而没有其他选择。”他说这引起了一些担忧，包括 Anthropic 可能会在这种情况下关闭对模型的访问。
据一位公司官员称，Anthropic 本身也有类似的担忧：该公司认为军队在战斗情况下依赖他们的模型是不安全的。
前进的道路
他称委内瑞拉袭击事件是人工智能可以在与更先进的对手的冲突中帮助扩大规模的行动的一个很好的例子。