自动驾驶汽车安全评估的形式验证:Abdelrahman Sayed Sayed 访谈

在本访谈系列中,我们将与 AAAI/SIGAI 博士联盟的一些参与者会面,以了解有关他们研究的更多信息。我们与 Abdelrahman Sayed Sayed 坐下来讨论了他在自动驾驶汽车形式验证方面的工作。您能否告诉我们一些关于您在哪里学习以及您的 [...]

来源:ΑΙhub

在本访谈系列中,我们将与 AAAI/SIGAI 博士联盟的一些参与者会面,以了解有关他们研究的更多信息。我们与 Abdelrahman Sayed Sayed 坐下来讨论了他在自动驾驶汽车形式验证方面的工作。

您能告诉我们一些您在哪里学习以及您研究的广泛主题吗?

我是法国古斯塔夫埃菲尔大学的 Marie Skłodowska-Curie 博士研究员。我的博士课题是用于自动驾驶车辆安全评估的神经 ODE(常微分方程)的形式验证。标题有点长啊!它是连续人工智能模型、形式方法和自治系统交叉点的跨学科博士学位。

在法国,我主要从事理论工作,目前还在挪威特隆赫姆海洋技术系进行研究,在那里我反思了博士前两年的理论研究结果,并将其应用于海洋和海事领域的自动驾驶车辆。

您能谈谈形式验证吗?为什么它是一个如此重要的主题?

事实上,我从事博士研究和神经常微分方程形式化验证的主要动机是因为我个人不信任人工智能感知模型或人工智能控制的应用程序。然而,如果我们正式保证我们的模型将以特定方式或在特定控制值内运行,我们就可以有一定的信任。从我与工业合作伙伴以及在安全关键应用中操作机器人的人员的互动来看,他们都不愿意实现哪怕是很小的人工智能功能,因为他们的应用程序与人类或关键基础设施交互。因此,对此类基于人工智能的组件引入形式化验证可以给它们带来一些保证。它还可以帮助他们遵守欧盟(或其他)关于此类模型如何与人类互动等的法规。

那么第三个也是最新的研究方向是什么?

参考文献

标签: