详细内容或原文请订阅后点击阅览
确保 AI 侧翼安全，提供可信的决策能力
[赞助] 人工智能工具是现代战争的关键组成部分，但必须受到保护以确保其可靠性。
来源:美国防务快讯网由于人工智能 (AI) 工具为部队和指挥官提供了更多更好的战场决策能力，因此必须保证它们的安全，以确保它们提供尽可能最佳的信息。
Breaking Defense 与埃森哲联邦服务公司董事总经理兼网络主管 Mandy Satterwhite 进行了交谈，探讨了可操作的网络弹性和值得信赖的人工智能如何在对抗压力下保护作战人员和国家安全企业。
突破防御：人工智能有望加快整个战场的决策速度，但在后果严重的军事行动中，如果没有信任，速度就毫无用处。当前线分秒必争时，“值得信赖的人工智能”是什么样子？
Satterwhite：信任不是一场抽象的道德辩论——而是一项不可协商的运营要求。在激烈的战斗中，如果人工智能系统依赖有毒数据，产生无法解释的结果，或者在幕后悄然失败，它不会给你带来优势；它会造成不可接受的操作风险。
为了为作战人员服务，人工智能系统必须是可预测的、可验证的、可解释的，并且在对抗性攻击下具有弹性。当指挥和控制系统为决策者综合选项时，领导者必须绝对确定地知道这些建议是建立在我们控制下的权威、未经篡改的数据的基础上的。 如果你无法追踪数据来源或解释结论是如何得出的，你就无法在战斗中采取行动，因为生命危在旦夕。
您提到了数据来源。人工智能安全有多少是供应链问题，特别是当国防领导人希望使用商业基础模型时？
有非常现实的供应链挑战需要考虑。当您从现成的商业前沿模型中取出并对其进行微调时，您将继承其中的数据和潜在的漏洞。如果基础模型受到损害或使用有毒数据进行训练，您就会将该风险直接导入到您的安全环境中。