随着关于军队使用人工智能的争论加剧,Hegseth 和 Anthropic 首席执行官即将会面

关于人工智能在国家安全中的作用以及如何在高风险情况下使用该技术的担忧仍在继续。

来源:美国国防新闻网__五角大楼

国防部长皮特·赫格斯 (Pete Hegseth) 计划周二与 Anthropic 首席执行官会面,这家人工智能公司是同行中唯一一家不向新的美国军事内部网络提供技术的公司。

聊天机器人 Claude 的制造商 Anthropic 拒绝对此次会议发表评论,但首席执行官 Dario Amodei 明确表示了他对政府不受限制地使用人工智能的道德担忧,包括完全自主的武装无人机和可以跟踪异议的人工智能辅助大规模监控的危险。

赫格斯和阿莫代之间的会面得到了一名未获授权公开发表评论且不愿透露姓名的国防官员的证实。

它强调了关于人工智能在国家安全中的作用的争论,以及如何在涉及致命武力、敏感信息或政府监视的高风险情况下使用该技术的担忧。与此同时,赫格斯发誓要根除武装部队中他所谓的“觉醒文化”。

“一个强大的人工智能可以查看数百万人的数十亿次对话,可以衡量公众情绪,发现不忠行为的形成,并在它们扩大之前将其消灭,”阿莫迪在上个月的一篇文章中写道。

Anthropic 是唯一一家获准用于机密军事网络的人工智能公司

去年夏天,五角大楼宣布将国防合同授予四家人工智能公司——Anthropic、谷歌、OpenAI 和埃隆·马斯克的 xAI。每份合同价值高达2亿美元。

Anthropic 是第一家获得批准用于机密军事网络的人工智能公司,它与 Palantir 等合作伙伴合作。目前,其他三家公司仅在非保密环境中运营。

到今年年初,Hegseth 只强调了其中两个:xAI 和 Google。

这位国防部长在一月份在马斯克位于德克萨斯州南部的太空飞行公司 SpaceX 的一次演讲中表示,他对任何“不允许你打仗”的人工智能模型不屑一顾。

Anthropic 称自己更加注重安全