摘要:人工智能 (AI) 的大规模应用将要求 AI 工程师和开发人员能够向用户群保证算法将按预期执行且不会出现故障。保证是可靠、可解释和公平的智能系统的安全阀。AI 保证提供了必要的工具,使 AI 能够应用于应用程序、软件、硬件和复杂系统。AI 保证涉及量化能力和关联部署风险,包括:数据质量(包括固有偏差)、算法性能、统计错误以及算法的可信度和安全性。数据、算法和上下文/领域特定因素可能会随时间而变化,并影响 AI 系统提供准确结果的能力。在本文中,我们讨论了 AI 保证的重要性和不同角度,并提出了一个应对其挑战的总体框架。
主要关键词