下一代神经网络可能存在于硬件中
直接编程到计算机芯片硬件中的网络可以比支撑大多数现代 AI 系统的传统神经网络更快地识别图像,并且消耗更少的能量。这是根据上周在温哥华举行的一次领先的机器学习会议上发表的研究成果得出的结论。从 GPT-4 到稳定扩散,神经网络都是通过将感知器连接在一起而构建的……
来源:MIT Technology Review _人工智能但一旦网络训练完成,事情就会变得便宜得多。彼得森将他的逻辑门网络与其他一组超高效网络进行了比较,例如二元神经网络,后者使用只能处理二进制值的简化感知器。在对 CIFAR-10 数据集中的图像进行分类时,逻辑门网络的表现与其他高效方法一样好,该数据集包括 10 个不同类别的低分辨率图片,从“青蛙”到“卡车”。它所需的逻辑门不到其他方法的十分之一,时间不到千分之一。彼得森使用可编程计算机芯片 FPGA 测试了他的网络,FPGA 可用于模拟许多不同的逻辑门潜在模式;在非可编程 ASIC 芯片中实现网络将进一步降低成本,因为可编程芯片需要使用更多组件才能实现其灵活性。
加州大学圣地亚哥分校电气与计算机工程教授 Farinaz Koushanfar 表示,她不相信逻辑门网络在面对更现实的问题时能够发挥作用。“这是一个不错的想法,但我不确定它的扩展性如何,”她说。她指出,逻辑门网络只能通过松弛策略进行近似训练,近似可能会失败。这还没有造成问题,但 Koushanfar 表示,随着网络的发展,这可能会带来更多问题。
Petersen 承认,逻辑门网络在性能上永远不会与传统神经网络竞争,但这不是他的目标。制造出有效且尽可能高效的东西就足够了。“这不会是最好的模型,”他说。“但它应该是最便宜的。”