Kimi K3 심층 리뷰: 2.8조 파라미터 오픈소스 LLM, Claude·GPT와의 비교 (2026)

2026년 하반기 LLM 라우팅을 검토 중이라면—GPT-5.6 Sol이나 Claude Fable 5에서 전환할지, DeepSeek V4 Pro 셀프호스트를 기다릴지—Kimi K3는 별도 평가 축으로 반드시 포함해야 합니다. 7월 16일 심야, API 문서 상단에 「Kimi K3 라이브」 배너가 올라왔고, 대형 컨퍼런스 없이 2.8조(2.8T) 파라미터, 100만 토큰 컨텍스트, 7월 27일 완전 오픈 웨이트가 동시에 공개되었습니다. 아래에서는 아키텍처 혁신, 벤치마크 해석, 요금 비교, 6단계 Runbook, 선정 매트릭스 순으로 설명합니다.

00Kimi K3란——출시 배경과 비즈니스 맥락

Kimi K3는 Moonshot AI의 현 시점 최대 규모 플래그십으로, 스파스 MoE(Mixture of Experts) 아키텍처를 채택합니다. 총 파라미터 2.8조, 추론 시 활성화되는 전문가는 896개 중 16개(스파스도 1.8%)입니다. DeepSeek V4 Pro(1.6T) 대비 약 75% 크며, 공개 기록상 가장 큰 오픈 웨이트 후보입니다.

타이밍에도 전략적 의미가 있습니다. 7월 16일은 2026 세계인공지능대회(WAIC) 개막 전야. 지난 12개월 중 9개월 Kimi 시리즈가 오픈소스 모델 규모 상한을 유지했습니다. 2026년 6월 기준 Moonshot ARR은 3억 달러를 돌파했고, 올해 6차 펀딩에서 프리머니 밸류에이션 315억 달러를 기록했습니다. API 매출은 전체의 70% 이상, 해외 유료 사용자는 400% 성장했습니다. 단순 파라미터 경쟁이 아니라 상업화가 가속하는 기업의 기술 선언입니다.

사양	Kimi K3
총 파라미터	2.8조(2.8T)
아키텍처	KDA + AttnRes + Stable LatentMoE
활성 전문가	16 / 896
컨텍스트	1,048,576 토큰(100만)
입력 모달리티	텍스트, 이미지, 비디오
API 모델 ID	`kimi-k3`
오픈 웨이트	2026년 7월 27일(Hugging Face)

과제장컨텍스트 Agent와 OSS 선정의 숨은 비용

2026년 많은 팀이 겪는 문제는 「좋은 모델이 없다」가 아니라 다음 구조적 마찰입니다.

컨텍스트 절단: 200K 윈도우 클로즈드 플래그십은 전체 레포 분석·장문 계약서에서 자주 상한에 도달하고, 중간 상태 손실이 재시도 비용을 끌어올립니다.
KV 캐시 메모리 벽: 기존 풀 어텐션은 100만 토큰에서 KV 캐시가 폭증해 셀프호스트가 「이론상 가능, 실운영 불가」가 되기 쉽습니다.
벤치마크 harness 비호환: 각사가 자사 툴체인(Kimi Code, Codex, Claude Code)으로 측정해 단일 수치만으로 조달 판단하면 오류가 납니다.
웨이트 대기 기회비용: 공개 전에는 API만 가능해 사내 컴플라이언스·오프라인 평가·파인튜닝 파이프라인과 맞지 않습니다.
극단 스파스 MoE 라우팅 불안정: 896 중 16 활성화에서 기존 휴리스틱 라우터는 전문가 기아·부하 편향을 유발하기 쉽습니다.

013가지 아키텍처 혁신——KDA, AttnRes, Stable LatentMoE

Kimi Delta Attention(KDA)

KDA는 하이브리드 선형 어텐션입니다. 3:1 비율로 선형 어텐션 층과 풀 어텐션 층을 교대 배치합니다——선형 3층이 국소 구조를 저비용 처리하고, 풀 1층이 글로벌 정보 흐름을 유지합니다. Moonshot 보고에 따르면 KV 캐시 메모리 최대 75% 절감, 100만 토큰에서 디코딩 속도 최대 6.3배 향상. 짧·긴 컨텍스트 및 RL 확장 모두에서 풀 어텐션 베이스라인 이상을 유지합니다.

Attention Residuals(AttnRes)

표준 잔차 연결은 깊이 방향으로 균일 누적되어 얕은 층의 중요 표현이 깊은 층에서 희석됩니다. AttnRes는 깊이 간 선택적 검색을 도입해 더 얕은 층의 고가치 표현을 직접 가져옵니다. 학습 효율 약 25% 향상, 추가 연산 비용 2% 미만으로 보고됩니다.

Stable LatentMoE

Quantile Balancing, Per-Head Muon, SiTU, Gated MLA를 결합해 896 전문가의 안정적 학습을 구현합니다. Kimi K2 대비 확장 효율 약 2.5배 개선으로 알려져 있습니다.

02벤치마크 해석——강점과 약점

아래는 Moonshot 자체 보고(모델별 harness 사용)입니다. 제3자 재현은 진행 중이며 방향성 참고로 활용하세요.

벤치마크	Kimi K3	Claude Fable 5	GPT-5.6 Sol	Claude Opus 4.8
DeepSWE	67.5	70.0	73.0	59.0
Program Bench	77.8	76.8	77.6	71.9
Terminal Bench 2.1	88.3	84.6	88.8	84.6
FrontierSWE	81.2	86.6	71.3	66.7
SWE Marathon	42.0	35.0	39.0	40.0
BrowseComp	91.2	88.0	90.4	84.3
OmniDocBench	91.1	89.8	85.8	87.9
GPQA-Diamond	93.5	92.6	94.1	91.0

SWE Marathon은 지속적 장시간 코딩을 측정하며 K3가 42.0으로 1위입니다. OmniDocBench에서는 네이티브 비전과 장컨텍스트 시너지가 드러납니다. Artificial Analysis Intelligence Index v4.1에서 K3는 57.1점 4위(Fable 5: 59.9, GPT-5.6 Sol: 58.9)입니다.

인용 가능 수치: ① 총 파라미터 2.8T, 활성 16/896；② KDA로 1M 컨텍스트 디코딩 최대 6.3×, KV 캐시 75% 절감；③ SWE Marathon 42.0 1위；④ Intelligence Index 57.1(4위).

03요금 매트릭스——Sonnet·Opus·DeepSeek 비교

모델	입력($/M)	출력($/M)	캐시 히트 입력	컨텍스트
Kimi K3	$3.00	$15.00	$0.30	1M
Claude Sonnet 5	$3.00	$15.00	—	200K
Claude Opus 4.8	$5.00	$25.00	—	200K
GPT-5.5	$5.00	$30.00	—	400K
DeepSeek V4 Pro	$1.74	$3.48	$0.145	128K
Kimi K2.6	$0.95	$4.00	$0.16	256K

K3 표준가는 Claude Sonnet 5와 동일한 $3/$15이지만 컨텍스트는 5배입니다. Mooncake 분할 추론으로 코딩 워크플로에서 캐시 히트율 90% 이상이 보고되어 실효 입력 비용은 약 $0.55/M에 근접합니다. Opus 4.8 대비 입력 60%, 출력 40% 수준에서 여러 벤치에서 동등 이상 성과가 나옵니다.

044가지 접근 방식과 6단계 Runbook

현재 Web/App, 공식 API, OpenRouter로 이용 가능합니다. 완전 웨이트는 7월 27일 공개 예정(프로덕션 셀프호스트에는 64장 이상 가속기 슈퍼노드 필요)입니다.

Moonshot API(OpenAI 호환)

from openai import OpenAI

client = OpenAI(
    api_key="your_moonshot_api_key",
    base_url="https://api.moonshot.ai/v1"
)

response = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": "이 코드베이스의 병목을 분석해 주세요..."}]
)

01
Web/App 체험: kimi.com 접속 후 Google 계정으로 가입합니다. K3는 최대 추론 모드로 동작하며 신용카드가 필요 없습니다.
02
API Key 발급: platform.kimi.ai에서 키를 생성하고 과금 리전·컴플라이언스 요건을 확인합니다.
03
Base URL 설정: 기존 OpenAI SDK의 base_url을 https://api.moonshot.ai/v1로, 모델 ID를 kimi-k3로 지정합니다.
04
OpenRouter 경유: 모델 ID moonshotai/kimi-k3. 공식 $3/$15, 마크업 없음, 1M 컨텍스트 지원.
05
캐시 전략: 장시간 Agent 루프에서 시스템 프롬프트와 도구 정의를 안정화해 Mooncake 캐시 히트율을 높입니다.
06
7월 27일 캘린더 등록: Hugging Face에서 웨이트를 받습니다. vLLM·SGLang·transformers 초일 지원이 예상됩니다. DeepSeek V4 로컬 추론 경로와 병행 평가하세요.

05시나리오별 선정 매트릭스

시나리오	추천	이유
지속적 장시간 코딩(SWE Marathon류)	Kimi K3	벤치 1위, 1M으로 중도 망각 방지
대규모 Repo 버그 수정	Claude Fable 5	FrontierSWE에서 뚜렷한 리드
터미널/도구 연동 Agent	GPT-5.6 Sol	Terminal Bench 등에서 우위
멀티모달 장문서 이해	Kimi K3	OmniDocBench 1위, 네이티브 비전
비용 최우선	DeepSeek V4 Pro	출력 $3.48/M로 훨씬 저렴
OSS 셀프호스트(7/27 이후)	Kimi K3	최대급 다운로드 가능 웨이트

06요약, 일정, 프로덕션 시사점

Kimi K3는 KDA·AttnRes·Stable LatentMoE라는 검증 가능한 아키텍처 혁신을 갖추었고, 장시간 코딩·문서 이해에서 클로즈드 플래그십에 필적하거나 앞서는 결과를 보여줍니다. 7월 27일 완전 OSS는 2026년 하반기 오픈소스 생태계에서 가장 주목할 마일스톤 중 하나입니다.

주목 일정: 7월 17–20일 WAIC 상하이(추가 발표 가능) → 7월 27일 완전 웨이트 공개.

K3를 Kimi Code나 OpenRouter로 장컨텍스트 Agent에 쓰면서 CI Runner를 공유 VPS나 가정용 Mac에 두는 팀은 대역폭 지터·오버서브스크립션·장시간 연결 끊김으로 토큰 절감 효과를 상쇄하기 쉽습니다. 7×24 안정 Agent 호스트와 감사 가능한 빌드 플랫폼이 필요하다면 NUKCLOUD 다리전 베어메탈 Mac / 클라우드 Mac 노드가 전용 연산·테넌트 경계·리전 주경로 측면에서 유리합니다. 요금 페이지에서 사양을 확인하고 주문 페이지로 시험 환경을 프로비저닝하세요.

Kimi K3를 무료로 쓸 수 있나요?

kimi.com 무료 계정으로 K3를 이용할 수 있습니다. API는 토큰 종량제($3/$15 per 1M)입니다.
로컬에서 Kimi K3를 실행할 수 있나요?

웨이트는 2026년 7월 27일 공개 예정입니다. 프로덕션 추론에는 64장 이상 가속기 슈퍼노드가 필요하며 소비자 PC에서는 현실적이지 않습니다.
K3와 DeepSeek V4 Pro는 어떻게 나누나요?

K3는 파라미터 약 2배(2.8T vs 1.6T), 컨텍스트 1M vs 128K, 다수 벤치에서 우위입니다. DeepSeek은 출력 가격이 K3의 약 1/4로 비용 최우선에 적합합니다.
100만 토큰 컨텍스트가 실용적인가요?

전체 레포 분석, 장문 연구·계약서 일괄 처리, 장기 기억 Agent에 유효합니다. 길이별 추가 과금이 없어 풀 윈도우 사용이 경제적입니다.
low/high 추론 모드는 언제인가요?

Moonshot은 후속 업데이트에서 제공 예정이라고 밝혔습니다. 현재는 max만 사용 가능합니다.
벤치마크를 신뢰할 수 있나요?

Moonshot 자체 보고이며 harness가 다릅니다. 자사 작업으로 A/B 테스트하고 7월 27일 이후 제3자 재현을 기다리는 것을 권장합니다.

데이터 기준: 2026-07-17. 참고: Moonshot 공식 기술 블로그, Kimi API Platform, Artificial Analysis, VentureBeat.