亚马逊推出 Trainium 2 AI 芯片,加剧与 Nvidia 的竞争。亚马逊将于下个月推出由 Annapurna Labs 开发的最新 AI 芯片 Trainium 2。此举是其减少对 Nvidia 的依赖和优化 AI 基础设施战略的一部分。 亚马逊还宣布将为希望使用其定制 Trainium 芯片而非 Nvidia GPU 的 AI 研究人员提供 1.1 亿美元的免费计算积分,这进一步提高了赌注。该公司计划为该计划提供 40,000 个第一代 Trainium 芯片
• 向 AI 基础模型提供商 Anthropic 投资高达 40 亿美元 • 将在 AWS Trainium 和 AWS Interfentia 芯片上训练未来的基础模型 • 还通过 Amazon Bedrock 为全球 AWS 客户提供访问其基础模型的权限 • 作为领先的 IaaS 提供商,AWS 在 AI 即服务市场中占据独特地位
仅针对大型语言模型(LLM)推断的筹码越来越多,例如Groq,Sambanova,Amazon Web Services(AWS)推论(他们还开发了Trainium Chip Specialized用于培训)。每个主要玩家都试图开发自己的硬件加速器,由Google凭借其张量处理单元(TPU)(现在是Trillium,第六代Google Cloud TPU)率先开发,例如。aws,Meta及其下一个Genmtia [meta-mtia]等。拥有一个专门的推理芯片不仅允许提高效率(在为训练大型型号的一项大型任务中提供了不同的要求,以提供大量的用户的推理),而且还会降低延迟,这对聊天机器人来说不是一个真正的问题(用户不能更快地写或读取),但对于代理商AI非常有用,而对于代理AI非常有用。
“这Q4是一个创纪录的假期购物季节,并为亚马逊结束了2023年的强大2023年,”亚马逊首席执行官安迪·贾西(Andy Jassy)说。“当我们获得有意义的收入,营业收入和自由现金流进度时,我们最满意的是持续的发明和客户体验改进我们的业务。我们美国履行网络的区域化导致了我们有史以来最快的主要成员的交付速度,同时也降低了我们的服务成本; AWS持续着眼于客户和功能交付,再加上Bedrock,Q和Trainium等新的Genai功能,引起了客户的共鸣,并开始反映在我们的整体结果中;我们的广告服务继续改善并取得积极的成果;我们的较新业务发展良好,并与我们较成熟的业务一起,使客户的生活更轻松,每天更美好。当我们进入2024年时,我们的团队正在快速剪辑,我们在我们面前很兴奋。”