详细内容或原文请订阅后点击阅览
无线电波可在边缘设备上实现节能 AI,无需重型硬件
随着无人机勘察森林、机器人导航仓库以及传感器监控城市街道,世界上更多的决策正在边缘自动进行——在大型网络末端收集信息的小型设备上。
来源:英国物理学家网首页随着无人机勘察森林、机器人导航仓库以及传感器监控城市街道,世界上更多的决策正在边缘自动进行——在大型网络末端收集信息的小型设备上。
但向边缘计算的转变比看起来更困难。尽管人工智能 (AI) 模型不断变得更大、更智能,但这些设备内部的硬件仍然很小。
工程师通常有两种选择,但都不是理想的选择。在设备上存储整个人工智能模型需要大量内存、数据移动和计算能力,这会消耗电池。将模型卸载到云端可以避免这些硬件限制,但来回会带来延迟、消耗能源并带来安全风险。
杜克大学的研究人员正在探索第三种选择,称为无线智能边缘网络 (WISE),它绕过了这两种方法的局限性。他们证明,大型人工智能模型权重可以以无线电波的形式巧妙地嵌入设备和附近基站之间的无线电波中,从而开辟一条通向节能边缘人工智能的道路,而无需通常的能源、速度或尺寸成本。
这项工作于 1 月 9 日在线发表在《Science Advances》杂志上,由北电网络电气和计算机工程助理教授 Tingjun Chen 以及麻省理工学院电子研究实验室 (RLE) 的 Dirk Englund 团队领导。
该方法的核心是一个称为物理模拟计算的概念。
传统的数字计算是通过二进制代码进行的。设备将数据转换为 1 和 0,将这些位移入数字处理器并计算长序列的数学运算。即使是像使用生物识别技术解锁手机这样的简单任务也会触发一系列快速计算。对于小型电池供电设备来说,它可靠但效率不高。
由于该设备不存储整个模型或以数字方式运行它,因此它克服了当今限制边缘人工智能的大内存和能源成本。
