详细内容或原文请订阅后点击阅览
为什么自动驾驶汽车突然停下来
当自动驾驶汽车意外刹车时，乘客和安全驾驶员可能不知道原因。麻省理工学院的研究人员和自动驾驶汽车公司 Motional 开发的一种新的人工智能系统可以提供实时解释。自动驾驶汽车通常依靠深度学习模型来做出决策。这些强大的系统处理收集到的信息[…]《为什么自动驾驶汽车突然停下来》一文首先出现在 Knowridge Science Report 上。
来源:Knowridge科学报告当自动驾驶汽车意外刹车时，乘客和安全驾驶员可能不知道原因。
麻省理工学院的研究人员和自动驾驶汽车公司 Motional 开发的新型人工智能系统可以提供实时解释。
自动驾驶车辆通常依靠深度学习模型来做出决策。这些强大的系统处理摄像头和激光雷达传感器收集的信息，构建周围环境的图片并决定车辆下一步应该去哪里。
然而，深度学习模型通常被描述为“黑匣子”，因为其内部推理极难让人理解。
如果机器人出租车突然停止、转向或阻挡紧急车辆，即使是其工程师也可能很难确定是什么原因导致了这一决定。
这个新系统称为概念包装网络（Concept-Wrapper Network）或 CW-Net，将这种复杂的推理转化为人们可以理解的简单描述。它的解释可能会说车辆正在“接近一辆停下来的车辆”或“靠近骑自行车的人”。
这项发表在《自然》杂志上的研究表明，这些解释可以帮助安全驾驶员和乘客预测自动驾驶汽车可能会做什么。
它们还可以帮助工程师识别并纠正驱动软件中的危险弱点。
CW-Net 被插入自动驾驶汽车现有的人工智能规划器的中间，充当汽车的大脑。
系统检查规划者的内部信息并将其转换为有意义的概念。
然后，它要求规划器的最后部分在选择车辆的下一个运动时使用这些概念。
这种设计很重要，因为仅仅听起来合理的解释可能无法揭示决策的真正原因。通过使驾驶模型的最终动作基于已识别的概念，CW-Net 确保其解释密切反映实际影响车辆的因素。
研究人员使用 1.3 亿个驾驶场景示例来训练系统。每个示例都包含描述重要特征的标签，例如附近的车辆、骑自行车的人或其他道路状况。 CW-Net的设计还复制了原始规划者的驾驶行为，这样添加解释系统就不会降低车辆的性能。
该团队在私人赛道上的 Motional 机器人出租车上测试了 CW-Net，并配备了安全驾驶员。在一个暴露的情况中，车辆在接近骑自行车的人时反复停下来。安全驾驶员认为汽车已正确检测到骑车人并故意停车。
CW-Net 表明这个假设是错误的。规划器没有正确设置来识别骑自行车的人，并且实际上选择了一条可能导致碰撞的路径。车辆停下来只是因为距离太近时紧急制动系统启动了。
了解这一点将使安全驾驶员在类似情况下能够减速或更早地控制车辆。它还将为工程师提供宝贵的信息来纠正根本问题。
研究人员利用拉斯维加斯道路上记录的真实驾驶情况进行了更大规模的在线实验。接受 CW-Net 解释的参与者在预测车辆行为方面明显更好。
该团队计划扩大 CW-Net 可以识别的概念范围并提高其准确性。除了机器人出租车之外，同样的方法还可以帮助人们理解其他安全关键技术中的人工智能决策，在这些技术中，意外错误可能会造成严重后果。