详细内容或原文请订阅后点击阅览
谁看管人工智能守望者？
滑铁卢大学团队使用应用数学和机器学习来验证自动驾驶汽车等人工智能驱动系统的安全性。帖子 谁在监视人工智能看守人？首次出现在《科学询问报》上。
来源:Scientific Inquirer随着人工智能 (AI) 发挥着越来越重要的作用（从管理电网到驾驶自动驾驶汽车），确保这些系统的安全变得前所未有的重要。但我们如何确定控制它们的人工智能是可信的呢？
滑铁卢大学的一个研究团队正在使用应用数学和机器学习等工具来解决这个问题，以严格检查和验证人工智能驱动系统的安全性。
应用数学教授兼加拿大混合系统与控制研究主席 Jun Liu 博士表示：“任何时候，当你处理一个动态系统时——随着时间的推移而变化的系统，例如自动驾驶汽车或电网——你都可以使用微分方程对其进行数学建模。”
刘军为了预测这些系统的长期行为，科学家和工程师依靠一种称为“李雅普诺夫函数”的数学工具。直观地说，该工具显示系统是否会自然地进入稳定和安全的状态，就像一个球滚到碗底并停留在那里。 “然而，找到这样的函数通常是一项非常困难的任务，”刘说。
为了应对这一挑战，刘和他的团队转向了机器学习。 他们建立了一个神经网络，学习满足决定系统是否保持稳定和安全的数学规则——工程师们依靠同样的规则来控制电网和自动驾驶汽车。
研究人员随后使用基于严格计算和数学逻辑的单独推理系统来验证这些神经网络确实满足安全保证所需的条件。 这些工具共同提供了一种方法来确认人工智能控制器可以安全可靠地管理复杂系统。