详细内容或原文请订阅后点击阅览
新报告：监控已部署人工智能系统面临的挑战
NIST AI 800-4 组织了从业人员研讨会和系统文献综述的主要发现，以确定人工智能系统部署后监控的当前实践和挑战。本报告将这些信息分为监测类别和挑战（差距、障碍和悬而未决的问题），以供进一步调查和创新，包括反复呼吁对部署后人工智能系统监测方法（如现场研究和事件监测）提供进一步指导。
来源:美国国家标准与技术研究院__标准品信息图片来源：NicoElNino/Shutterstock
随着人工智能 (AI) 系统越来越多地集成到商业和政府应用中，在现实环境中监控这些系统的需求也不断增长。虽然监控数字系统以保证质量的概念并不新鲜，特别是在网络安全和软件持续监控的情况下，但在人工智能领域，它是一个巨大且分散的空间。鉴于人工智能系统具有引入可变性并以不可预测的方式表现出来的新颖特性，部署后监控（从事件监控到现场研究）是自信、广泛采用人工智能的关键实践。
为了满足这一迫切需求，人工智能标准与创新中心 (CAISI) 于 2025 年举办了三场从业者研讨会，并进行了深入的文献回顾以绘制前景图，重点关注当前对人工智能系统进行稳健、有效的部署后监控所面临的挑战。
我们的研究结果在新报告《NIST AI 800-4：监控已部署的人工智能系统面临的挑战》中进行了概述，其中我们确定了监控类别并详细说明了挑战（差距、障碍和悬而未决的问题），以便为该领域的未来研究提供信息和促进。本报告的主要贡献是识别、组织和记录监测挑战，并报告该领域专家表达的观点。
下表列出了通过主题编码开发的六种常见监控类别。有关完整方法，请参阅报告附录 B，有关相关密码本，请参阅附录 C。
监控类别
定义
功能监控系统是否继续按预期工作？
测量系统功能、能力和特性，以确保系统按预期工作
运营监控系统是否在其基础设施中保持一致的服务？
测量系统基础设施组件，例如确保系统保持一致的服务水平
间隙：