详细内容或原文请订阅后点击阅览
Kimi K3 – 全球最大的开放权重人工智能模型
中国Moonshot AI推出全球最大的开放权重人工智能模型Kimi K3，拥有2.8万亿个参数和100万个token上下文窗口。此次发布标志着开放人工智能领域的又一个重要里程碑，凸显了中国在人工智能前沿发展方面的快速进步，并加剧了与美国领先人工智能公司的全球竞争。
来源:QudataKimi K3 – 全球最大的开放权重人工智能模型
中国初创公司 Moonshot AI 推出了 Kimi K3，这是一种功能强大的新型开放权重大型语言模型，已经与业界领先的专有系统进行了比较。 Kimi K3 拥有 2.8 万亿个总参数、100 万个令牌上下文窗口以及针对长上下文效率而优化的新颖注意力架构，成为 2026 年最重要的开放 AI 版本之一。
此次发布正值中美人工智能公司之间的竞争加剧之际。尽管 OpenAI、Anthropic 和 Google 继续主导商业 AI 领域，但 Kimi K3 展示了中国开发者缩小性能差距的速度，尤其是在开放权重模型方面。
Kimi K3 基于混合专家 (MoE) 架构构建，总参数达 2.8 万亿个，但在推理过程中仅激活一小部分专家。这种方法显着降低了计算成本，同时保持高性能。该模型还引入了 Kimi Delta Attention (KDA)，这是一种新的注意力机制，可以提高极长上下文的记忆效率。与注意力残差技术相结合，KDA 使 Kimi K3 能够处理更大的输入，而不会显着增加通常与百万令牌上下文窗口相关的内存需求。
主要功能包括：
Moonshot 计划在 2026 年 7 月 27 日之前发布完整的模型权重，以及有关架构和训练过程的详细技术报告。