微软称其最新的人工智能芯片Maia 200比谷歌的TPU和亚马逊的Trainium处理器强大3倍

Maia 200 AI 芯片被描述为推理引擎,这意味着它可以引导 AI 模型更快、更有效地将其知识应用于现实世界。

来源:LiveScience

微软公司代表称,该公司推出了全新的 Maia 200 人工智能 (AI) 加速器芯片,其性能比谷歌和亚马逊等竞争对手的硬件强大三倍。

这款最新芯片将用于人工智能推理而不是训练,为用于预测、提供查询答案并根据输入的新数据生成输出的系统和代理提供动力。

Maia 200 已部署在微软的美国中央数据中心区域,该公司将使用该芯片生成合成数据并进行强化训练,以改进下一代大型语言模型 (LLM)。 AI加速器还将用于为Microsoft Foundry和365 Copilot AI提供支持,并成为该公司通过其Azure云平台提供的基础设施的一部分。

微软云和人工智能执行副总裁 Scott Guthrie 在博客文章中表示,新芯片的性能超过 10 petaflops(每秒 10 次浮点运算)。这是衡量超级计算性能的指标,世界上最强大的超级计算机可以达到 1,000 petaflops 的计算能力。

新芯片在称为“4 位精度 (FP4)”的数据表示类别中实现了这一性能水平,这是一种旨在加速 AI 性能的高度压缩模型。 Maia 200 还在 8 位精度 (FP8) 下提供 5 PFLOPS 的性能。两者之间的区别在于 FP4 的能源效率更高,但精度较低。

“实际上,一个 Maia 200 节点可以毫不费力地运行当今最大的模型,并为未来更大的模型提供足够的空间,”Guthrie 在博客文章中说道。 “这意味着 Maia 200 的 FP4 性能是第三代 Amazon Trainium 的 3 倍,而 FP8 性能则高于 Google 第七代 TPU。”

芯片啊嘿

将世界上最迷人的发现直接发送到您的收件箱。