人工智能技术在部署后会通过离线培训或持续的在线学习不断发展。这些技术所处的社会技术环境也会发生变化。随着人类用户对这些技术的实际性能、稳健性和“智能”能力的了解越来越多,他们将动态地调整自己的行为,组织也会调整自己的政策和流程。这通常会改变分配给人工智能功能的信任、责任和自主权级别(例如,从人工监督到完全自动驾驶功能)。随着部署人工智能自主系统 (AI-AS) 的领域显著增加,需要的专业人员不仅要了解如何安全地设计这些系统,还要了解如何在高度动态的物理、社会和监管环境中确保关键人工智能功能在其生命周期内保持安全。