自主系统的设计在具有挑战性,并确保其信任性具有不同的含义,例如I)通过正确的启发和形式化过程确保要求的一致性和完整性; ii)确保正确映射到系统的要求,以使任何系统行为永远不会违反其要求; iii)最大化可用组件和子系统的重复使用,以应对设计复杂性;和iv)确保系统与其环境的正确协调。多年来,已经提出了几种技术来应对特定问题。然而,一个整体设计框架,利用现有工具和方法,实际上仍缺少自主系统的分析和设计。本文探讨了从不同角度构建可信赖的自主系统的问题。我们已经分析了当前正式验证的方法如何提供保证:1)通过使用假定/担保合同进行正式要求来检测信息和冲突的要求; 2)使用用于训练系统的奖励功能,以免误解要求; 3)通过运行时监视和执行某些不变性来执行系统; 4)通过自动综合正确的策略,在系统方案系统中与其他外部实体的协调和系统行为。
主要关键词