2026년 7월 16일 심야, Moonshot AI(월지암면)가 API 문서 상단에 「Kimi K3 출시」 배너를 게시했습니다——대규모 발표회도, 사전 예열 SNS 공세도 없이 기술 블로그 1편, 요금 페이지 1개, 즉시 호출 가능한 모델 ID kimi-k3만 있습니다. 저조한 자세와 2.8조 파라미터 규모가 대조를 이룹니다.

한 줄 정의: Kimi K3는 현재 세계 최대 파라미터 수의 오픈소스 AI 모델입니다——2.8T 파라미터로 DeepSeek V4 Pro(1.6T)를 약 75% 앞서며, 샤오미 OSS 모델(1.02T)의 2.7배, 알리(397B)의 7배 이상입니다. 희소 MoE 아키텍처로 추론 시 896개 전문가 중 16개를 활성화합니다. 100만 token 초장 컨텍스트(『홍루몽』 전 5권 분량을 한 번에 읽는 규모)와 네이티브 시각 이해를 갖추고, 복잡한 코딩, 장문 추론, 지식 작업을 위해 설계되었습니다. 완전한 가중치는 7월 27일 OSS 공개되며 Claude Opus 4.8보다 약 40% 저렴합니다.

왜 이번 출시가 중요한가? Moonshot AI는 지난 18개월 DeepSeek 부상의 충격을 겪었습니다. K3는 멋진 반격이라 할 수 있습니다.

Kimi K3는 단순한 파라미터 누적이 아닙니다——아키텍처 층에서 3가지 엔지니어링 혁신을 도입해 장 컨텍스트와 초희소 MoE 학습의 실제 병목을 해결합니다.

2.1 Kimi Delta Attention(KDA)—— 하이브리드 선형 어텐션

기존 Full Attention은 장 컨텍스트에서 KV 캐시 메모리가 제곱급으로 증가해 100만 token에서 치명적입니다. KDA는 3:1 비율로 선형 어텐션 층과 전체 어텐션 층을 교대합니다. 3개 선형 층이 국소 구조 처리(계산 저렴), 1개 전체 어텐션 층이 전역 정보 흐름을 유지합니다. 결과적으로 KV 캐시 메모리는 최대 75% 감소, 100만 token 컨텍스트 디코딩 속도는 최대 6.3배 향상됩니다. 짧은·긴 컨텍스트, RL 확장 3가지 시나리오 모두에서 순수 전체 어텐션 베이스라인을 넘습니다.

2.2 Attention Residuals(AttnRes)—— 깊이를 가로지르는 선택적 검색

표준 잔차 연결은 깊이에 따라 균등히 누적되어 초기 층의 핵심 표현이 깊은 층에서 희석됩니다. AttnRes는 선택적 검색을 도입해 모델이 더 이른 층의 고가치 표현을 깊이를 가로질러 직접 가져올 수 있습니다. Moonshot AI는 약 25% 학습 효율 향상을 보고하며 추가 계산 오버헤드는 2% 미만입니다.

2.3 Stable LatentMoE —— 896 전문가 중 16개만 활성화

위 혁신을 종합하면 Kimi K3는 Kimi K2 대비 전체 스케일 효율이 약 2.5배 향상——동일 연산 자원에서 더 강한 지능을 끌어냅니다.

아래는 Moonshot AI 자체 보고 핵심 벤치마크입니다(각 모델은 서로 다른 추론 harness 사용: K3는 Kimi Code, GPT는 Codex, Claude는 Claude Code). 독립 제3자 재현은 진행 중입니다.

해석 포인트:

K3 표준가는 Claude Sonnet 5와 동일($3/$15)하지만 컨텍스트 윈도우는 5배입니다. 캐시 적중은 $0.30/M(표준가 1/10)까지 내려가며 Moonshot AI는 코딩 시나리오 캐시 적중률 90% 초과를 보고합니다. 실효 입력 비용은 매우 낮아집니다. 국내 API: 입력 ¥20/M, 출력 ¥100/M, 캐시 적중 ¥2/M. 소비자용 kimi.com은 무료 계정 사용 가능, 선불 플랜 ¥199부터(할인 8월 11일까지).

6가지 즉시 연동 단계:

from openai import OpenAI

client = OpenAI(
    api_key="your_moonshot_api_key",
    base_url="https://api.moonshot.ai/v1"
)

response = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": "이 코드를 분석해 주세요..."}]
)

7월 27일 OSS 약속: Moonshot AI는 공식 WeChat 공지에서 7월 27일 완전 모델 가중치 공개를 명시했습니다. 공개 후 K3는: 지금까지 최대 파라미터 다운로드 가능 OSS 모델, 최초 2조 파라미터급 OSS 가중치, OSS 커뮤니티 학습/미세조정 베이스의 새 기준이 됩니다. 학습은 MXFP4 가중치와 MXFP8 활성화를 채택한 양자화 인식 설계입니다. Hugging Face에 MXFP4/NVFP4 양자화 버전이 등장할 전망입니다.

요약: Kimi K3는 아키텍처 층에서 진정한 엔지니어링 혁신을 이뤘고, 코딩 장기 작업과 문서 이해 등 핵심 분야에서 일부 폐쇄형 플래그십에 필적하거나 앞서며, 합리적 가격과 완전 OSS 약속을 갖췄습니다——중국 AI OSS 생태계가 「저가로 시장 확보」에서 「지능 프론티어 도전」으로 전환한 상징입니다. 주목할 타임라인: 7월 17–20일 WAIC 추가 발표 → 7월 27일 K3 완전 가중치 OSS.

대안을 정리하면: 개인 Mac만으로 Kimi Code / API Agent 부하 테스트 시 절전과 네트워크 변동으로 장 컨텍스트 작업이 쉽게 중단됩니다. 7/27 자체 배포 대기 시 64+ 카드 슈퍼노드가 필요해 중소 팀은 단기간에 어렵습니다. 단일 폐쇄형 API에 완전 의존하면 컨텍스트 길이와 비용 측면에서 K3의 1M flat 요금 우위를 커버하기 어렵습니다. iOS CI/CD, Kimi Code 상시 가동, AI Agent 7×24 자동화 프로덕션 환경이 필요하다면 KVMNODE 전용 Mac Mini M4 클라우드 대여가 보통 더 나은 선택입니다. Apple Silicon 통합 메모리, sudo 개방, 일/주/월 유연 주문으로 운영할 수 있습니다. 자세한 내용은 가격 페이지, 고객 센터, 또는 바로 주문을 참고하세요.

데이터 기준: 2026년 7월 16일 · 벤치마크는 Moonshot AI 자체 보고 · 출처: kimi.com/blog/kimi-k3, API Platform docs, Artificial Analysis, OpenRouter