详细内容或原文请订阅后点击阅览
设计 AI 芯片的竞争
摘自《经济学人》，Nvidia 能被赶下王座吗？看看那些争夺王冠的初创公司Nvidia 的市值超过 2 万亿美元，年收入增长超过 200%。这是它成功的原因：...GPU 负责训练和操作大型人工智能模型所需的计算重担。然而，奇怪的是，这并不是它们的设计目的。这个首字母缩略词代表“图形处理单元”，因为这种芯片最初是为处理视频游戏图形而设计的。事实证明，对于 Nvidia 来说，这些芯片可以重新用于处理 AI 工作负载，这真是幸运。但现在有几家初创公司正在设计专门为 AI 设计的芯片：Cerebras 的应对措施是将 900,000 个内核和大量内存放到一个巨大的芯片上，这样……内核之间的片上连接比独立 GPU 之间的连接快数百倍……[并且] 可将能耗降低一半以上……Groq 的 [芯片] 包含自己的内存，[并且] 充当路由器，在互连的 LPU（语言处理单元）之间传递数据。智能路由软件……大大提高了效率，从而提高了速度：Groq 表示，其 LPU 可以比现有系统快十倍的速度运行大型 LLM（大型语言模型）。MatX 也位于加利福尼亚州。 GPU 包含为图形提供灵活性的功能和电路，但 LLM 不需要它，...[它们的] 类似 gpu 的芯片摆脱了这些不必要的垃圾 [设计不良、不必要的复杂或不需要的代码]，通过做更少的事情来提高性能
来源:Managerial Econ来自《经济学人》，Nvidia 能被赶下王座吗？来看看那些争夺王冠的初创公司
《经济学人》Nvidia 的市值超过 2 万亿美元，年收入增长超过 200%。以下是它成功的原因：
...GPU 负责训练和操作大型人工智能模型所需的计算重担。然而，奇怪的是，这并不是它们的设计目的。这个首字母缩略词代表“图形处理单元”，因为这种芯片最初是为处理视频游戏图形而设计的。事实证明，对于 Nvidia 来说，幸运的是，它们可以重新用于人工智能工作负载。
但现在有几家初创公司正在设计专门为人工智能设计的芯片：
Cerebras 的回应是将 900,000 个内核和大量内存放在一个巨大的芯片上，这……内核之间的片上连接比单独 GPU 之间的连接快数百倍，……[并且] 将能耗降低了一半以上……
Groq 的 [芯片] 包含自己的内存，[并且] 充当路由器，在互连的 LPU（语言处理单元）之间传递数据。智能路由软件……大大提高了效率，从而提高了速度：Groq 表示，其 LPU 可以比现有系统快十倍地运行大型 LLM（大型语言模型）。
MatX，总部位于加利福尼亚州。 GPU 包含为图形提供灵活性的功能和电路，但 LLM 不需要这些功能和电路，...[它们的] 类似 gpu 的芯片摆脱了这些不必要的垃圾 [设计不良、不必要的复杂或不需要的代码]，通过做更少的事情来提高性能。
底线：换一个灯泡需要多少经济学家？ 不需要，市场会来做。