机构名称：
¥ 3.0
这项工作介绍了可信和安全的人工智能系统 (TAIS) 的生命周期。我们考虑在 TAI 生命周期中应用风险管理框架 (RMF)，以及这如何影响在 AI 系统开发的各个阶段所做的选择。AI 系统的新兴要求超越了传统的软件工程 (SE) 开发周期的设计、开发和部署 (DDD)，其中测试、评估、验证和确认 (TEVV) 起着至关重要的作用。特别是，SE 中的额外挑战是 AI 系统通常是：(i) 数据驱动的，(ii) 可以学习和 (iii) 具有自适应性。此外，考虑 AI 系统对用户和更广泛社会的影响对于其可信和安全的部署至关重要。为了实现 TAIS，我们还考虑了测量方面，这体现在可量化指标的规范中，这些指标既能捕捉 TAI 的技术原则，又能捕捉社会技术原则，使我们能够评估 AI 系统的可信度。TAI 生命周期是一个迭代和连续的过程，因此正在开发的 AI 系统正在不断发展，并且可以采取纠正措施来处理生命周期任何阶段出现的问题。
值得信赖和安全的人工智能系统的生命周期
主要关键词
相关文件推荐
