Kimi K3 是月之暗面发布的2.8万亿参数开源大模型，采用MoE架构896专家仅激活16个，推理成本可控。前端编程能力在Fronted Code Arena排名第一，超第二名48分。适合开发者用于长程编程、代码库分析和Agent任务。开放平台输入每百万Token 3美元，缓存命中0.3美元，输出15美元。本文盘点18个外网爆火开发案例，展示其游戏复刻、3D交互、网页生成等惊艳效果。
Tags:
这个周末可太热闹了。
因为 Kimi K3 的发布，外网对这个模型的讨论非常热烈。总结来讲：
① 总参数达到 2.8 万亿，目前最大的开源模型，100 万上下文，原生支持视觉理解。
② 采用 MoE 混合专家架构，共 896 个专家，每次只激活 16 个。推理成本不高，Sonnet 的价格完成 Opus 级的任务
③ 前端编程能力拉满，效果惊艳，应该是目前最强模型
④ 除了最强的闭源模型 Claude Fable 5 和 GPT-5.6 Sol，在他们的整套评测中稳定超过了其他所有模型。
⑤ 是一个长程编程模型，在很少人工监督的情况下持续完成工程任务，浏览大型代码库，协调终端工具，并根据测试结果反复迭代。
它前端效果太惊艳了，在评估前端编程能力的 Fronted Code Arena 榜单上排名第一。
比第二名 Fable 5 直接搞了 48 分。
因为 K3 的前端编程能力拉满，导致目前 X 上全是分享 Kimi K3 惊艳效果的。
可以先看下面这个合集，这都是基于 Kimi K3 完成开发的案例。
目前 Kimi K3 火爆出圈，用户量持续激增，算力资源一度告急。目前 Kimi 会员已开启限购。我就从 X 上找了 18 个爆火案例，分享给大家。
01
外网 Kimi K3 效果盘点
① Kimi K3 vs Fable 5 在同一个提示词上的对比：地址：x.com/shiri_shh/status/2078213686481895812
② Kimi K3 复刻 CS GO 游戏：
地址：x.com/ChrisGPT/status/2077852656182129078
③ Kimi K3 开发的小游戏 demo：
⑥ 鹈鹕骑自行车插画短片，头戴绿色头盔、嘴衔装鱼篮子穿行乡间公路：
⑧ 前端作品 Flesh Rewritten 展示，黑绿科幻生物科技网站与触觉记忆神经界面：
⑨ 沙漠集市经营游戏演示，俯视角绿洲小镇昼夜变化与摊位建造：
⑩ 卡通赛车游戏演示，彩虹赛道多人竞速、名次变化与低多边形场景：
该视频被以下两条 X 帖子重复引用：
⑮ 用代码克隆参考视频，屏幕中的极简白色画布、几何节点与黑色粒子波纹动画：
地址：x.com/aimi_sh/status/2078329139359072601
02
其它能力情况
还有一点是，2.8 万亿参数听起来很猛，推理成本不会高得离谱吗？
K3 没有让全部参数同时参与每一次计算。
它采用 MoE 混合专家架构，一共有 896 个专家，每次只激活其中 16 个。
模型保留了很大的能力容量，实际处理一个 Token 时只调用少部分专家。
目前 Kimi 开放平台的 K3 API 价格为：缓存命中每百万 Token 0.3 美元，输入每百万 Token 3 美元，输出每百万 Token 15 美元。
这类能力适合处理跨文件 Bug、项目重构、性能优化和陌生代码库分析。
你给模型一个目标，它需要自己规划步骤、寻找文件、修改代码、验证结果。中间某一步失败了，还要判断原因并换一条路继续。
03
重要的架构变化
月之暗面还给 K3 加了三项重要的架构变化。
第一项是 Kimi Delta Attention，也就是 KDA。
它是一套混合线性注意力机制，重点处理超长序列的效率问题。
上下文越长，传统注意力机制的计算和显存压力越明显。KDA 为百万 Token 上下文提供了更高效的处理基础。
第二项是 Attention Residuals，简称 AttnRes。
传统模型会把不同层产生的信息不断累积。
网络变深后，真正重要的信息可能被埋在大量历史表示里。
AttnRes 允许模型从不同深度选择需要的信息，更适合复杂推理、多轮任务和持续时间很长的 Agent 工作流。
第三项是 Stable LatentMoE。
当模型拥有 896 个专家，却只激活 16 个时，怎样把任务稳定地分配给合适的专家，直接影响训练和推理效率。
Stable LatentMoE 就是为这种极高稀疏度设计的。
按照月之暗面的技术博客，这些架构和训练方法让 K3 相比 K2 获得了约 2.5 倍的整体扩展效率。
地址：https://www.kimi.com/blog/kimi-k304
点击下方卡片，关注逛逛 GitHub
这个公众号历史发布过很多有趣的开源项目，如果你懒得翻文章一个个找，你直接关注微信公众号：逛逛 GitHub ，后台对话聊天就行了：
没有评论:
发表评论