当开源大模型的参数规模还被普遍压在 1T(万亿)以下时,月之暗面直接把 Kimi K3 的参数干到了 2.8T——而且承诺开放权重,正式日期定在 2026 年 7 月 27 日。这是第一个公开的 3T 级模型,光这一个数字就足以重新定义“开源前沿模型”的上限。
一个 3T 级模型,到底开放了什么
Kimi K3 不仅参数规模大,结构上也做了一次显式升级。它的基础由两条新的信息流路径支撑:Kimi Delta Attention (KDA) 和 Attention Residuals (AttnRes)。前者负责改善序列长度方向的注意力传递,后者在模型深度方向上让信息流动更稳定。目的很明确——当上下文窗口拉到 100 万 token 时,不能让早期信息被淹没。
MoE 的稀疏度也被进一步放大:总共 896 个专家,每个 token 激活其中 16 个,配合 Stable LatentMoE 框架来稳定路由。按照官方给出的数据,与上一代 Kimi K2 相比,这些结构性变化将整体 scaling 效率提升了约 2.5 倍。换句话说,同样的算力投入能换来更高的智能密度。
原生视觉能力被打包进模型里,而不是外挂一个视觉编码器。这意味着 K3 在处理截图、UI、3D 场景等工作时,能够直接把像素级信息接入推理链路,这点在后面的案例里会反复体现。
性能定位:追不上最顶的那两个,但稳稳站在第二梯队的最前排
官方评测说得很克制——K3 的整体性能仍然落后于 Claude Fable 5 和 GPT‑5.6 Sol,这两个闭源最强。但是在他们内部的评测套件里,K3 一致性地把其他所有已测模型甩在了后面。这是一种很现实的定位:不做全能冠军,但要做开源里唯一一个能跟闭源天花板认真掰手腕的选手。
更有意思的是,这次模型上线时默认使用“最大思考努力度”(max thinking effort),后续更新才会引入低努力度和高努力度模式。这意味着首发给大家用的,就是 K3 最用力思考的那个版本,不做保留。
长程编程:不写单文件,而是搭系统
K3 的编程能力被刻意往“长时程、低人工干预”方向压。官方放出的几个案例并不只是刷榜,而是试图证明一件事:这个模型可以在数小时甚至数十小时的时间窗口里,持续维护一个工程上下文,自主完成工具调用和决策。
内核优化这个案例就很说明问题。在相同的沙盒环境里,给每个模型最多 24 小时,对 AttnRes、KDA 和一个 512 头维度的 MLA 内核进行性能调优,跨 NVIDIA H200 和某款 GPGPU 两种硬件。K3 的成绩和 Fable 5(可能包含 fallback 行为)接近,且显著高于 Opus 4.8、GPT‑5.6 Sol 和 GPT‑5.5。这意味着 K3 已经能在对精度容忍度控制得比较严格的情况下,自动写出具有竞争力的底层算子——并且在 K3 开发后期,团队自己的内核优化工作就已经大量交给它去完成了。
更极端的是 MiniTriton 这个实验。K3 从零构建了一个类 Triton 的 GPU 编译器,包含自己设计的一层 tile‑level IR、优化 pass,以及直出 PTX 的代码生成管线。在一些 roofline benchmark 上,MiniTriton 跑出来的性能和 Triton、torch.compile 持平甚至更高。更关键的是,它能端到端训练 nanoGPT 且 loss 曲线与参考实现几乎重合,说明这不是一个玩具编译器,而是一条经过完整验证的流水线——模型自己搭了一套编译器,再用它成功训练了一个小模型。
这些案例共同指向一个能力转变:不是“写一个能跑的 kernel”,而是“在真实工程环境下搭建并维护一套可工作的软件系统”。
视觉在回路里的创造
多数编程辅助工具还是把代码和视觉分开处理。K3 明显在尝试走“视觉在回路”(vision in the loop)这条路:模型先写代码,然后直接读实时截图,根据画面反馈再调整代码,循环迭代。
其中一个案例是用 Three.js WebGPU 和 GPU compute 搭建的浏览器端 3D 开放世界。K3 程序化生成了地形、森林、木屋村落、雪山和天气变化,再用 3D 资产生成工具补上骑手和马匹模型。整个过程不是生成死代码,而是让模型看到渲染出来的样子,再自己调整效果。这种“写—看—改”的闭环,对前端、游戏开发和 CAD 这类强视觉反馈的工作来说,可能比单纯的代码补全更有实际价值。
一个模型为另一个模型设计芯片
K3 的另一个边界探索是芯片设计。在单次 48 小时的自主运行中,K3 用开源 EDA 工具链,在 Nangate 45nm 工艺库上完成了一款芯片的构建、优化和仿真验证。芯片面积不到 4 平方毫米,100 MHz 下时序收敛,模拟解码吞吐超过 8,700 tokens/s,包含 146 万标准单元、0.277 MB SRAM 和一个带融合反量化的 INT4 MAC 阵列。
这款芯片的目标就是运行一个基于 K3 自身架构的 nano 模型。让模型设计出能支持自己架构的芯片,哪怕只是概念验证,也把“长程智能体到底能做什么”这个问题往前推了一步。
怎么用,什么时候能拿到权重
现在就可以在 Kimi.com、Kimi Work、Kimi Code 和 Kimi API 直接用上 K3,默认最大思考努力度。想在自己的环境里部署的话,需要等到 2026 年 7 月 27 日完整权重发布,团队说正在和推理合作方、开源社区对齐技术细节。
不要只盯着跑分
K3 交出来的东西,已经不限于几个 benchmark 的分数了。它在尝试回答一个更大的问题:当模型不仅能写代码,还能在长时间窗口里自己规划、编译、调试、看画面、调整,甚至设计硬件来伺候自己——我们讨论的不再是“它会不会写”,而是“它能搭出什么”。K3 把这条线往前挪了一截,而真正的考验,是在用户手里能不能稳定复现这些能力,以及开源之后生态能长成什么样。

评论列表 (0条):
加载更多评论 Loading...