详细内容或原文请订阅后点击阅览
韩国AI-Startap的筹码领先于最好的图形处理器 div>
FurioSaai已签署了一份主要的LG电子能源和固定器的主要合同。
来源:OSP网站大数据新闻韩国人工智能初创公司 FuriosaAI 签署了一份重要合同,向 LG 电子供应其自己的节能 RNGD 人工智能加速器。
FuriosaAI 报道称,RNGD 芯片成功通过了 LG AI Research 使用 LG 开发的 EXAONE 模型进行的性能测试。
LG AI Research 是 LG 集团内的一个研究部门,在韩国和美国设有办事处,致力于开发尖端人工智能技术并解决 LG 各部门和更广泛行业背景下的复杂问题。
RNGD 芯片基于 FuriosaAI 开发的张量收缩处理器 (TCP) 处理器架构。其性能在 8 位 FP8 格式下达到 512 TFLOPS,热设计功耗 (TDP) 为 180 W,使得 RNGD 加速器比 GPU 更加节能。
在测试中,与 GPU 相比,RNGD 芯片为大型语言模型提供的每瓦性能提高了 2.25 倍。在相同功耗下,一个机架的 RNGD 芯片由于其高计算密度,可以为 EXAONE 模型生成比机架的 GPU 多 3.75 倍的代币。
LG 强调,根据测试结果,他们认为 RNGD 是支持 EXAONE 模型部署的高效芯片,因为它们具有许多优势,包括在实际条件下的高性能、解决方案总拥有成本的显着降低以及非常简单的集成。
现在 LG 将向使用大型语言模型的企业客户提供名为 RNGD Server 的综合体。它由 FuriosaAI 开发,由 8 个 RNGD 加速器组成,安装在一个 4U 风冷机箱中。 LG 是一家向最终用户提供 RNGD Server 的解决方案提供商。
注释