打开人工智能黑匣子：科学家利用数学窥视人工智能如何做出决策
研究人员找到了理解人工智能如何做出决策的数学钥匙。
来源:ZME科学人工智能无处不在，从口袋里的个人助理到在繁忙街道上行驶的自动驾驶汽车。然而，尽管这些技术表面上看起来很智能，但驱动它们的神经网络长期以来一直是个谜。人工智能开发人员不会为这些系统编写明确的规则。相反，他们将大量数据输入这些系统，然后它们自己学习来发现模式。由于它们没有提供指向其决策过程的见解，因此人工智能通常被称为“黑匣子”。
西方大学的一组研究人员现在朝着打开这些人工智能黑匣子迈出了重要一步。通过应用高等数学，他们开发了一种方法，可以窥视这些算法的逐步输出并了解它们的决策过程。
他们的工作标志着所谓的可解释人工智能探索的一个里程碑。
“我们创建了可以执行特定任务的神经网络，同时还允许我们解决控制网络活动的方程式，”西方网络科学菲尔兹实验室主任 Lyle Muller 说。“这种数学解决方案让我们‘打开黑匣子’，准确了解网络是如何工作的。”
一种新的观察方式
一种新的观察方式研究人员通过解决图像分割（计算机视觉中的一个关键过程）展示了他们的方法。图像分割使系统能够将图像划分为不同的部分，例如将北极熊与雪景背景分开。但计算机如何确定一个物体在哪里结束，另一个物体在哪里开始？
从正方形和三角形等基本形状开始，该团队创建了一个能够识别这些组件的循环神经网络 (RNN)。使用为研究其他类型网络而开发的数学方法，他们绘制了神经网络如何逐步处理每张图像。