算法战争:政府、行业辩论 AI 护栏

对于军事和政府任务中人工智能护栏的使用和拆除存在相当大的分歧。

来源:美国国防杂志新闻

政府、行业辩论人工智能护栏

国防部照片,iStock 插图

华盛顿特区——1 月 9 日,战争部长皮特·赫格斯 (Pete Hegseth) 向五角大楼高级领导层发布了一份备忘录,阐述了他为国防部制定的人工智能战略。

备忘录指出,国防部应使用“不受可能限制合法军事应用的使用政策限制”的人工智能模型,指示负责采购和维护的战争部副部长将标准的“任何合法使用”语言纳入任何在 180 天内采购人工智能服务的军事合同中。

几个月和一场重大诉讼之后,对于军事和政府任务中人工智能护栏的使用和拆除存在相当大的分歧。

人工智能能力发展如此之快,以至于“我们基本上都有拥有可以闯入美国国家安全局的技术的私营公司,”埃森哲联邦服务公司首席人工智能官 Garrett Berntsen 说。

Berntsen 在 4 月份的特别竞争研究项目 AI+ 情报峰会的小组讨论中表示,拥有这种实力的行业就像 20 世纪 40 年代在没有政府参与的情况下制造核武器的公司一样。

“老实说,我认为,对于像我这样在政府任职的人来说,这有点令人震惊,他们会想,‘哦,我在这里有控制权。我可以买我想要的东西,’”他说。虽然创新的步伐“令人恐惧”,但美国公司希望帮助构建满足政府需求的解决方案,但“我认为,我们需要深入研究如何获得支持的具体细节。”

中央情报局副局长迈克尔·埃利斯 (Michael Ellis) 在峰会的主题演讲中表示,虽然私营公司是开发这些强大人工智能能力的公司,但政府如何利用其创新来执行“不失败”的任务并不是由它们决定的。

主题:新兴技术、产业基础