详细内容或原文请订阅后点击阅览
科学家创造新技术可以解决人工智能日益严重的“记忆墙”问题
人工智能每年都变得越来越强大，但有一个重大问题阻碍了它的进步：内存限制。电子与电信研究所（ETRI）的研究人员表示，他们开发了一种新技术，可以帮助解决这个问题，并使未来的人工智能系统更快、更大、更高效。该技术[…]科学家创造的新技术可以解决人工智能日益严重的“记忆墙”问题，该技术首先出现在《Knowridge Science Report》上。
来源:Knowridge科学报告人工智能每年都变得越来越强大，但有一个重大问题阻碍了它的进步：内存限制。
电子与电信研究所（ETRI）的研究人员表示，他们开发了一项新技术，可以帮助解决这个问题，并使未来的人工智能系统更快、更大、更高效。
该技术称为“OmniXtend”，旨在克服计算机工程师通常所说的“内存墙”。
当 GPU 等处理器变得非常快，但为其提供数据的内存系统无法跟上时，就会出现此问题。因此，昂贵的人工智能硬件花费太多时间等待数据而不是处理数据。
随着现代人工智能模型规模的不断扩大，这一挑战变得尤为严峻。大型语言模型和先进的人工智能系统在训练和操作过程中需要大量的内存。在许多情况下，仅添加更多 GPU 已经不够了。
传统上，服务器内部的内存与各个机器紧密连接。这意味着每台计算机只能使用物理安装在其内部的内存。扩展容量通常需要更换或升级整个系统，这可能非常昂贵。
ETRI 的新方法彻底改变了这一想法。
OmniXtend 没有将内存隔离在各个服务器内，而是使用标准以太网将多台机器上的内存资源连接在一起。这创建了研究人员所描述的巨大的共享“内存池”。
简单来说，服务器和人工智能加速器可以通过网络访问其他系统的内存，就好像它是自己硬件的一部分一样。这使得内存容量可以更加灵活地增长，而无需不断更换设备。
研究人员表示，该系统还减少了设备之间移动数据造成的延迟，帮助人工智能训练运行得更快。