俄罗斯科学家创建了一种改进的 Google 神经网络加速器类似物

俄罗斯人工智能公司 Smart Engines 的科学家在美国提出了一种全新的神经网络模型——双极形态网络,并获得了专利。他们将使创建神经网络模型加速器成为可能,该加速器可以将硬件特性提高 30-40%,而性能质量几乎不会降低。 BM网络有能力取代经典神经网络,并在不久的将来对人工智能技术的发展产生重大影响。

来源:Robogeek新闻频道(关于机器人技术的俄罗斯与世界新闻)

俄罗斯人工智能公司 Smart Engines 的科学家在美国提出了一种全新的神经网络模型——双极形态网络,并获得了专利。他们将使创建神经网络模型加速器成为可能,该加速器可以将硬件特性提高 30-40%,而性能质量几乎不会降低。 BM网络有能力取代经典神经网络,并在不久的将来对人工智能技术的发展产生重大影响。

BM 网络(双极形态网络)是一种新范式,科学家们在神经元内部的计算中消除了乘法,代之以加法并取最大值。因此,神经元在计算上将变得更简单,因为乘法运算的硬件实现比加法或取最大值的实现需要更多的晶体管,也就是说,这样的设备运行速度要慢得多。

Smart Engines 的科学家开发了基于迭代逐层转换和知识蒸馏的特殊方法来训练 BM 网络。它们使得在解决应用计算机视觉问题(对象搜索和文本识别)时实现高质量识别成为可能。

本发明的 BM 神经元的行为让人想起生物学中双极神经元的行为,因为它允许人们明确地模拟兴奋和抑制的过程。真正的双极神经元负责感知,例如存在于眼睛的视网膜中。

虽然这个决定看似出人意料,但其实已经酝酿已久。 Smart Engines 的科学家们从 20 世纪 80 年代苏联科学家 V. Maslov 的研究以及 I. Shimon 领导的巴西数学家的后期工作中获得了双极网络的想法,I. Shimon 致力于热带或幂等半环的数学装置。