详细内容或原文请订阅后点击阅览
Gartner：专用人工智能可观测性正在成为企业的必备工具
到 2028 年，40% 的实施人工智能的组织将使用专门的监控工具。
来源:OSP网站大数据新闻Gartner 专家表示，到 2028 年，40% 实施人工智能的组织将使用专门的人工智能监控工具来监控模型性能和结果中的“偏差”。
Gartner 将可观察性定义为软件和系统的一种特征，允许根据工作结果分析其行为并找出其原因。 AI 可观察性需要使用专门的管理工具来评估行为、决策和 AI 相关风险，例如模型漂移、偏差和 LLM 逻辑。 AI可观察性还包括监控AI平台的可用性、性能和准确性的能力，随着企业人员越来越依赖AI输出来做出决策，这一点变得尤为重要。
与传统软件不同，人工智能的决策过程往往是隐藏的，导致结果难以解释且可信度较低。错误可能会导致重大的财务损失、声誉受损和监管审查。因此，Gartner分析师强调实施专门的人工智能监控系统来跟踪和缓解算法风险的重要性，这构成了增强企业对人工智能及其实施的信心的技术基础。如果没有清晰且标准化的人工智能模型遥测，IT 团队将面临较长的事件解决时间和复杂的手动步骤来监控和调试不透明的深度学习模型的行为。
在制定人工智能平台使用策略时，Gartner 强烈建议 IT 基础设施管理者：