详细内容或原文请订阅后点击阅览
如何了解神经网络内部
麻省理工学院 (MIT) 的计算机科学与人工智能实验室 (CSAIL) 开发了一种方法来观察神经网络内部并揭示其决策过程。
来源:Robogeek新闻频道（关于机器人技术的俄罗斯与世界新闻）麻省理工学院 (MIT) 的计算机科学与人工智能实验室 (CSAIL) 开发了一种方法来观察神经网络内部并揭示其决策过程。
这个新流程是一个研究团队两年前推出的系统的全自动版本，该系统使用人类作为审阅者来实现相同的目标。
找到一种无需人类即可实现类似结果的方法可能是帮助我们理解神经网络为何如此有效的重要一步。当今的深度学习技术留下了许多关于系统如何实际实现结果的问题。网络使用连续的信号处理层来对对象进行分类、翻译文本和执行其他功能，但我们对网络的每一层实际上如何做出决策的信息知之甚少。
CSAIL 系统使用先进的神经网络来报告每个节点响应给定输入图像的活动，然后分析生成最大响应的模式。这种分析最初是由人类对图像中发现的每个视觉概念进行分类进行的，但这项工作现在已经自动化，因此分类是由机器生成的。
该研究已经提供了有关神经网络如何工作的有趣信息。例如，它表明网络经过训练可以从黑白图像中生成彩色图像，将其节点的很大一部分集中在检测照片中的纹理上。研究还发现，经过训练来识别视频中对象的网络会引导许多节点来识别场景，而经过训练来识别场景的网络则恰恰相反，分配许多节点来识别对象。