Kimi K3 深度評測：2.8 萬億參數，國產開源大模型新紀錄

Kimi K3 是 Moonshot AI 迄今規模最大的旗艦模型，採稀疏混合專家（MoE）架構，總參數 2.8 萬億，每次推理僅激活 896 個專家中的 16 個（稀疏度 1.8%）。相較 DeepSeek V4 Pro（1.6T）參數規模高出近 75%，是目前公開紀錄中最大的開源權重候選者。

發布時機具有明確戰略訊號：7 月 16 日恰在 2026 世界人工智能大會（WAIC） 開幕前夜；過去 12 個月裡 Kimi 系列有 9 個月 佔據開源模型規模上限；截至 2026 年 6 月，Moonshot ARR 已突破 3 億美元，今年完成第 6 輪融資，投前估值 315 億美元，API 收入佔比逾七成，海外付費用戶增長 400%。這不是「堆參數換話題」的公關稿，而是一家商業化加速中的公司向全球宣示技術主權。

許多團隊在 2026 年面臨的不是「有沒有好模型」，而是下列結構性摩擦：

• 上下文截斷：200K 視窗的閉源旗艦在整倉分析、長法律卷宗或多輪 Agent 會話中頻繁觸頂，中間狀態丟失導致重試成本指數上升。
• KV 快取記憶體牆：傳統全注意力在百萬 token 下 KV 快取呈平方級膨脹，自部署或邊緣推理往往「理論支援、實際跑不動」。
• 基準 harness 不可比：各廠商用自家工具鏈（Kimi Code、Codex、Claude Code）報分，採購會議若只看單一數字容易誤判。
• 開源等待成本：權重未釋出前只能走 API，無法與內網合規、離線評測或微調管線對齊。
• 極端稀疏 MoE 路由不穩：896 專家僅激活 16 個時，傳統啟發式路由易出現專家飢餓或負載失衡，訓練與推理穩定性是第一優先級問題。

Kimi Delta Attention（KDA）

KDA 是混合線性注意力機制：以 3:1 比例交替線性注意力層與全注意力層——三層線性層處理局部序列（計算廉價），一層全注意力保留全域信息流。Moonshot 報告：KV 快取記憶體最高減少 75%；百萬 token 上下文下解碼速度最高提升 6.3 倍；在短上下文、長上下文與強化學習擴展場景均不低於純全注意力基線。

Attention Residuals（AttnRes）

標準殘差連接沿深度均勻累積，早期層關鍵表徵在深層被稀釋。AttnRes 引入選擇性跨深度檢索，可直接拉取更早層的高價值表徵。官方稱訓練效率提升約 25%，額外計算開銷不足 2%。

Stable LatentMoE

配套技術包括 Quantile Balancing（從路由器得分分位數推導專家分配）、Per-Head Muon、Sigmoid Tanh Unit（SiTU）與 Gated MLA。綜合效果：相較 Kimi K2，整體擴展效率提升約 2.5 倍。

以下為 Moonshot 自報數據（各模型使用對應 harness），獨立第三方復現仍在進行中，宜作方向性參考：

解讀重點：SWE Marathon 測試持續性長程式任務，K3 以 42.0 居首；OmniDocBench 體現原生視覺與長上下文的協同；FrontierSWE 仍由 Fable 5 領跑。Artificial Analysis Intelligence Index v4.1 中，K3 得分 57.1 排名第四，落後 Fable 5（59.9）與 GPT-5.6 Sol（58.9）約 2–3 分。

K3 標準價與 Claude Sonnet 5 持平（$3/$15），但上下文為其 5 倍。Mooncake 分裂推理架構下，程式場景快取命中率可超 90%，有效輸入成本可逼近 $0.55/M。國內 API：輸入 ¥20/M、輸出 ¥100/M、快取命中 ¥2/M；Kimi.com 免費帳號可用，預付套餐 ¥199 起（優惠至 8 月 11 日）。

K3 目前已可透過網頁、官方 API、OpenRouter 調用；完整權重待 7 月 27 日 釋出（生產級自部署需 64 張以上加速卡超節點）。

from openai import OpenAI

client = OpenAI(
    api_key="your_moonshot_api_key",
    base_url="https://api.moonshot.ai/v1"
)

response = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": "分析此程式碼庫的效能瓶頸..."}]
)

1. 01
   網頁/App 試用：造訪 kimi.com，以 Google 帳號註冊；K3 預設以最大推理力度運行，無需信用卡。
2. 02
   申請 API Key：在 platform.kimi.ai 建立金鑰，確認帳單區域與合規要求。
3. 03
   設定 Base URL：將既有 OpenAI SDK 的 base_url 指向 https://api.moonshot.ai/v1，模型 ID 填 kimi-k3。
4. 04
   OpenRouter 路由：模型 ID moonshotai/kimi-k3，按官方 $3/$15 計費，無額外加價，支援完整 1M 上下文。
5. 05
   啟用快取策略：長 Agent 迴圈保持系統提示與工具定義穩定，以提高 Mooncake 快取命中率，降低實際輸入成本。
6. 06
   標記 7 月 27 日：權重釋出後在 Hugging Face 拉取，預期 vLLM、SGLang、transformers 首日支援；與 DeepSeek V4 本地推理 路線並行評測。

Kimi K3 在架構層（KDA、AttnRes、Stable LatentMoE）做了可驗證的工程創新，在程式長任務、文件理解等賽道對標乃至超越部分閉源旗艦，並承諾 7 月 27 日完整開源。這代表中國 AI 開源生態從「低價換市場」轉向「挑戰智慧前沿」的訊號。

關注時間節點：7 月 17–20 日 WAIC 上海（更多發布預期）→ 7 月 27 日 K3 完整權重開源。

許多團隊把 K3 跑在 Kimi Code 或 OpenRouter 上做長上下文 Agent，卻仍把 CI Runner 掛在共享 VPS 或家用 Mac上——頻寬抖動、超賣與長連線中斷會抵消模型側省下的 Token 帳單。對需要穩定 7×24 Agent 主機與可審計建置平面的團隊，NUKCLOUD 多區域裸金屬 Mac / 雲端 Mac 節點在獨佔算力、租戶邊界與區域主鏈路上更易舉證。可在 定價頁 對照規格，經 下單頁 撥備試跑環境。

• Kimi K3 可以免費使用嗎？
  可以。Kimi.com 免費帳號即可使用 K3；API 按 Token 計費（$3/$15 per 1M）。
• 能否在本地運行 Kimi K3？
  權重將於 2026 年 7 月 27 日釋出。生產級推理需 64 張以上加速卡超節點，消費級筆電不具實務可行性。
• K3 與 DeepSeek V4 Pro 如何取捨？
  K3 參數近兩倍（2.8T vs 1.6T）、上下文 1M vs 128K、多項基準更強；DeepSeek 輸出價格約為 K3 的 1/4，適合成本極敏感場景。
• 100 萬 token 上下文實際有用嗎？
  適合整倉程式碼分析、長篇研究或法律文件端到端處理，以及需長期記憶的多輪 Agent。定價不按長度加價，使全窗使用具經濟可行性。
• 低/高推理力度模式何時上線？
  Moonshot 表示 low/high 模式將在後續更新推出；目前僅 max 力度可用。
• 基準數據可信嗎？
  為 Moonshot 自報，各模型使用不同 harness。建議結合自家任務做 A/B，並關注 7 月 27 日權重釋出後的獨立復現。

資料截止：2026-07-17。參考：Moonshot 官方技術博客、Kimi API Platform、Artificial Analysis、VentureBeat。