中国AI企业月之暗面近日推出新一代开源大模型Kimi K3,其参数规模突破2.8万亿,成为当前全球参数规模最大的开源模型。该模型在技术架构上实现多项创新,包括原生支持图像输入与百万级Token上下文处理能力,采用Kimi Delta Attention机制、注意力残差设计以及高度稀疏的混合专家架构。在算力优化方面,模型处理每个Token时仅从896个专家模块中激活16个,显著提升计算资源利用率。
据企业披露的技术报告显示,Kimi K3通过架构革新与数据训练方法优化,整体扩展效率较前代Kimi K2提升约2.5倍。在内部评估体系中,该模型端到端知识处理能力已超越GPT-5.5与Claude Opus 4.8等国际主流模型。值得关注的是,模型在长文本处理、多模态理解等关键领域展现出显著优势,为复杂知识工作场景提供了新的技术解决方案。
国际科技界对该成果给予高度关注。特斯拉创始人马斯克在相关评测报道下留言称"令人印象深刻",这已是其今年第二次公开认可该团队技术实力——今年3月他曾点赞过Kimi底层架构的技术报告。然而就在Kimi K3发布两天后,马斯克在社交平台透露,其团队研发的2万亿参数模型将于下周完成初始训练,并宣称新版本在各项指标上全面优于1.5万亿参数版本,甚至存在"超越Kimi"的可能性。
面对这场突如其来的技术竞赛宣言,Kimi官方以幽默方式回应:"欢迎马斯克加入'2万亿+俱乐部'"。这场跨越太平洋的技术对话,既展现了全球顶尖AI团队在参数规模竞赛中的激烈角逐,也反映出开源生态与闭源研发两种技术路线的碰撞。随着2万亿参数成为新的技术门槛,大模型领域的军备竞赛正进入白热化阶段。












