在监管机构猛烈抨击人手不足后,人工智能将审查五角大楼支持的教授与中国的关系

专家警告说,如果人类不是外国影响力的最终评判者,人工智能对国防部研究伙伴关系性质的困惑可能会掩盖真正的间谍活动。

来源:美国国防新闻网__工业

在联邦监管机构发现两名监督人员的工作人员不足以审查与对手(即中国)有联系的 27,000 项研究奖项后,五角大楼表示,计算机现在将筛选军方资助的学者,包括人工智能专家。

此举促使利益相关者敦促不要过于依赖算法来区分,例如,与中国分享秘密纳米能源计划的科学家间谍和发表人工智能安全研究的中国教授。资深情报官员和学者表示,悬而未决的是部队的技术优势。

他们警告说,如果人类不是外国影响力的最终评判者,人工智能对研究伙伴关系的时间和性质的困惑可能会掩盖真正的间谍活动,一些学者担心人工智能工作会重演“中国计划”,即第一届特朗普政府指控数十名华裔科学家从事间谍活动,但后来又撤销了几乎所有指控。

“自动审查工具对于审查大型数据集和识别关注模式非常有用。但这些工具用于决策支持,帮助人们、人类分析师评估背景和意图,”大卫·卡特勒 (David Cattler) 说,他在 9 月之前一直领导国防反情报和安全局,负责筛选寻求安全许可的人员。

学术研究安全重新受到关注之际,中美之间在人工智能方面的紧张关系加剧,中国加大了低成本人工智能模型的开发力度,并涉嫌利用美国模型。

美国情报界的年度威胁评估报告称,中国“旨在到 2030 年取代美国成为全球人工智能领导者”,部分原因是“利用其庞大的人才库、广泛的数据集、政府资助和新兴的全球合作伙伴关系”。

伙伴关系是军事“基础研究”中的一个复杂术语,即可发表的研究,而不是专有或机密的、具有潜在国防应用的研究。

机器也会犯同样的错误