摘要 - 我们介绍了DeepDecs,这是一种用于合成校准系统正确构造软件控制器的新方法,这些系统使用深神经网络(DNN)分类器,用于他们决策过程的感知步骤。尽管近年来在深度学习方面取得了重大进展,但为这些系统提供安全保证仍然非常具有挑战性。我们的控制者合成方法通过将DNN验证与验证的Markov模型的合成来解决这一挑战。综合模型对应于确保满足自主系统的安全性,可靠性和性能要求的离散事件软件控制器,并且相对于一系列优化目标,帕累托是最佳的。我们通过使用该方法来评估模拟方法的方法来合成移动机器人碰撞限制的控制器,并在共享控制自动驾驶中保持驾驶员的专注。
主要关键词