详细内容或原文请订阅后点击阅览
为什么高带宽内存是AI芯片的瓶颈
高带宽内存为强大的人工智能芯片提供数据，对其的需求帮助总部位于博伊西的美光科技短暂突破 1 万亿美元
来源:科学美国人人工智能热潮存在内存问题
高带宽内存为强大的人工智能芯片提供数据，对其的需求帮助总部位于博伊西的美光科技短暂突破 1 万亿美元
作者：Ramin Skibba，编辑：Eric Sullivan
Micron Technology 工厂内的设备。该公司的存储芯片对于人工智能硬件的繁荣变得越来越重要。
凯尔·格林/彭博社，盖蒂图片社
几十年来，美光科技制造了一种不太引人注目的计算必需品：内存芯片。随后，人工智能的蓬勃发展使该硬件成为业界最受欢迎的组件之一。科技公司现在正在争夺高带宽内存（HBM）；美光科技专门从事这方面的工作。本周，这家总部位于博伊西的公司成为第一家市值短暂突破 1 万亿美元的美国存储芯片公司，这一里程碑标志着人工智能供应链发生了更大的转变。
人工智能系统依赖于快速处理器，但也依赖于数据到达它们并保持可访问性的速度。 HBM 正是为此而设计的。哥伦比亚大学电气工程教授 Keren Bergman 表示：“HBM 需求如此之高的原因是它们具有相当好的存储能力，而且速度非常非常快。”
HBM 芯片的构建方式与笔记本电脑或手机内的内存不同。 HBM 不是将内存芯片分布在整个板上，而是垂直堆叠内存层并将它们放置在靠近处理器的位置。这种安排为人工智能加速器提供了更广泛的获取所需数据的途径。美光表示，其 HBM4 芯片每秒可以达到超过 2.8 TB 的带宽，专为 Nvidia 的下一代 Vera Rubin GPU 设计。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过订阅来支持我们屡获殊荣的新闻事业。通过购买订阅，您将有助于确保有关塑造当今世界的发现和想法的影响力故事的未来。