机器学习 (ML) 技术是需要大量传感的全自动系统的关键部分。深度学习已被证明在自动驾驶汽车的图像处理中非常有效 [13, 22]。花费大量精力和时间开发合适的 ML 模型可能永远无法提供完美的解决方案,无法避免所有关键场景(例如碰撞、事故)并遵守所有道路规则。总会有一些情况,模型训练不足或预测准确度不够,这会导致即使是最好的模型也会失败 [16]。重新训练模型可能不是一个有效的选择,因为为这些关键情况准备训练环境需要大量时间和困难,特别是如果这种情况发生在现实世界的部署期间,可能会对人类造成伤害。对于这种复杂的系统,验证和确认通常是一项要求。然而,由于大多数深度学习技术的黑箱性质,形式化验证要么不切实际,要么不可行 [17]。即使可以验证系统的关键部分,形式验证也无助于改善自动驾驶行为。尽管如此,验证和确认仍应是整个系统流程的一部分,但本文的其余部分将重点介绍如何改善车辆的自动驾驶行为。提高自动驾驶汽车自主性的另一种选择是结合符号人工智能的基于规则的技术
主要关键词