Kimi K3.1 Pro 正式开源，本地部署 800 万元起步，阿里云超节点 Day0 适配
省流：本地部署 Kimi K3.1 Pro 最低 800 万元起步，推荐配置 3000 万元，请转给公司领导申请预算 大家好，我是 Ai 学习的老章 前两天我实测了 Kimi K3.1 Pro： 也测了它与 DeepSeek、Opus 5.5 和 GPT-6 的同台表现： 大家有各种看法，但我觉得： 你可以说它慢，说它贵，但是不能说它菜 今天月之暗面如约开源了 K3.1 Pro 的完整权重，阿里云也宣布灵骏真武 M890 超节点完成 Day0 适配 今年 7 月 K3 开源时我算过一笔账 当时结论是按照英伟达 H200 来测算的，跑满得 8 台超节点，预算直奔 3000 万（现在H200可不是这个价了） 如今 K3.1 Pro 权重发布，本地部署到底要几台机器、多少预算？老章再来算一下 K3.1 Pro 与 K3 架构区别 K3.1 Pro 底层骨架基本继承 K3，提升全在后训练与跨领域强化学习 架构是 2.8T 总参数的稀疏 MoE，支持 100 万 Token 上下文窗口 权重原生 MXFP4，实测大小 1.56TB（96 个分片）： 注意力延续 KDA 线性注意力与 DSA 稀疏注意力结合的混合架构，支持多 Token 预测（MTP），兼顾长上下文显存与吞吐 月之暗面把算力砸在大规模后训练（Post-training）与跨领域联合 RL 上，重构了从训练、推理到沙箱评测的全栈工程，效果很显著： Terminal-Bench 4.0 上，K3.1 Pro 拿下 65.7%，超越 GPT-6 Astra 的 58.2%，紧咬 Claude Opus 5.5（66.4%） Kimi Code Bench 3.0 从 55.95% 升至 61.2%，还同步推出提速 2 到 3 倍的 Highspeed 版本 Kimi K3.1 Pro 评测榜单表现 阿里云超节点 Day0 适配 今天阿里云灵骏真武 M890 超节点宣布 Day0 适配 K3.1 Pro，并在 vLLM 与 SGLang 两个框架上跑通了全链路验证 软硬件协同全链路优化架构 跑万亿 MoE，瓶颈在跨卡与跨机通信，阿里云、平头哥与月之暗面联合做了深度调优： FlashMLA 算子调优，降低高并发访存开销 DeepGEMM 算子优化，加速 MoE 低精度矩阵计算 MegaMoE 与 MoonEP 优化拓扑，压低 All-to-All 延迟抖动 大家最关心的问题：本地私有化部署，到底买几台 M890？花多少钱？ 我搜了一下近期的招投标信息，发现了这一条： 电信陕西分公司寻源公告显示，32 台真武 M890 含税预算 11942.76 万元，扣除管理机后单台均价约 373 万元 （实际成本不得而知，这个数字虚高了，里面应该还有 4 台通算服务器部分）： 单台搭载 8 张 OAM 加速卡，单卡 144GB HBM 显存，整机显存合计 1152GB（约 1.15TB） 片间互联带宽 800GB/s，配合自研 ICN Switch 1.0 支持 64 卡全带宽互联 K3.1 Pro 权重是 1.56TB，单台 M890 显存只有 1.15TB，单台连权重都装不下 多机部署需要加上 400GE RDMA 交换机（单台约 70 万元，我随便问的集成商，应该也虚高），老章整理出三档账单： Kimi K3.1 Pro 本地部署成本台账 方案一：两台 16 卡配置，约 820 万 — 850 万元（入场券） 两台 M890 共 16 张卡，总显存 2304GB（约 2.25TB） 装下 1.56TB 权重后剩余约 744GB 显存供 KV Cache 与运行时周转，长上下文和并发量需要精打细算 2 台真武 M890 服务器：约 746 万元 1 台 400GE 交换机及配件：约 70 万 — 100 万元 最低门槛合计：约 820 万 — 850 万元 方案二：四台 32 卡配置，约 1600 万元（舒适档） 四台 M890 共 32 张卡，总显存 4608GB（约 4.5TB） 权重外结余近 3TB 显存，可支撑 100 万 Token 长上下文与企业级稳定并发 4 台真武 M890 服务器：约 1492 万元 400GE 交换机与网络：约 100 万 — 150 万元 企业生产推荐合计：约 1600 万元 方案三：八台 64 卡超节点，约 3100 万 — 3200 万元（官方推荐姿势） 月之暗面技术博客明确说了：建议在 64 卡以上超节点配置上部署，正好对应平头哥 ICN Switch 1.0 的 64 卡全带宽互联域 8 台 M890 聚合 64 张卡，总显存来到 9216GB（约 9.2TB），跨节点算力完全释放 8 台真武 M890 服务器：约 2984 万元 400GE 集
