月之暗面全面开源Kimi K3：发布2.8万亿参数MoE权重及Infra三件套

2026-07-28 14:15:27

7月27日晚11点，月之暗面正式全面开源旗下迄今性能最强的大模型Kimi K3，并同步公开2.8万亿参数MoE（每token激活104B参数、从896个路由专家中激活16个）的模型权重、47页技术报告，以及支撑模型训练的Infra三件套，包括MoonEP高性能专家并行通信库、FlashKDA注意力算子（在H20平台上可实现prefill阶段1.72—2.22倍提速）和AgentEnv高保真沙箱。Kimi K3原生支持视觉能力，具备100万token上下文窗口，并集成KDA+注意力残差、Stable LatentMoE等关键技术。后训练阶段覆盖通用推理、Agent和编程三大能力领域。