详细内容或原文请订阅后点击阅览
系统帮助人类预测自动驾驶汽车何时会犯错误
一种名为 CW-Net 的新方法将自动驾驶汽车人工智能系统的推理过程转化为可理解的概念来解释其行为。
来源:MIT新闻 - 人工智能自动驾驶汽车通常由深度学习模型控制，有时会在意外情况下失败。例如，汽车可能会莫名其妙地刹车并挡住迎面而来的紧急车辆的路径。人类驾驶员或乘客可能需要快速反应以防止碰撞。
为了帮助人类更好地预测车辆的错误，麻省理工学院和自动驾驶汽车技术公司 Motional 的研究人员开发了一种新方法，可以为底层模型的决策提供清晰的解释。
通常，深度学习模型的内部推理过程是不透明且难以理解的。但这种称为概念包装网络（CW-Net）的新方法将推理过程转化为概念，忠实地描述自动驾驶汽车的决策，而不改变其驾驶性能。
CW-Net 使用可理解的概念解释基于机器学习的规划者的决策，例如“接近停止的车辆”或“靠近骑自行车的人”。这些解释可以纠正驾驶员和乘客对车辆行为的误解并提高他们的态势感知能力。
在私人赛道的道路测试中，CW-Net 解释帮助安全驾驶员更准确地预测车辆行为；对非专家用户进行的更大规模的模拟研究也得出了类似的结果。这些实验展示了 CW-Net 如何在工程师对车载人工智能系统进行故障排除时提供重要的反馈。从长远来看，这项技术可以提高自动驾驶汽车的安全性和透明度，同时建立对驾驶员和乘客的适当信任。
忠实的解释
基于机器学习的规划器充当自动驾驶汽车的“大脑”。这些强大的深度学习架构处理来自车辆摄像头和激光雷达传感器的数据，生成车辆环境的高级摘要，决定汽车下一步应该做什么，并输出它要遵循的轨迹。
提高态势感知