키미 K3

키미 K3는 중국 문샷AI가 2026년 7월 내놓은 초대형 추론 모델로, 공개 당시 가중치가 풀린 모델 중 가장 컸다. 사람이 거의 손대지 않아도 오래 걸리는 코딩·엔지니어링 작업을 끝까지 이어 가도록 만든 모델이라, 미국 상용 모델에 맞먹는 성능을 가중치째로 받아 직접 돌리거나 호스팅 API로 쓰고 싶을 때 고른다.

덩치는 크지만 일부만 켠다

K3는 전문가 여러 명 가운데 안건마다 담당자 몇 명만 불러 일을 시키는 MoE(전문가 혼합) 방식이다. 그래서 전체 덩치에 비해 한 번에 실제로 계산하는 부분은 일부뿐이다. 긴 문맥을 다룰 때 계산 부담을 줄이는 어텐션 방식도 함께 써서 100만 토큰 문맥을 감당한다.

토큰 하나를 처리할 때 전체의 4% 남짓만 계산에 쓴다.

생각 깊이는 reasoning_effort로 고른다

K3는 항상 생각한 뒤 답한다. 대신 reasoning_effort 필드로 깊이를 고를 수 있고, 따로 정하지 않으면 최대로 생각한다. 일에 맞춰 낮추면 속도와 비용을 아낄 수 있다.

샘플링은 일반 대화에서 temperature 1.0, top_p 0.95를 쓰고, 에이전트 작업에서는 top_p를 1.0으로 올리는 것이 권장값이다.

직접 돌리기보다 API가 현실적이다

오픈 웨이트라고 해도 개인 PC로는 돌리기 어렵다. 실제로 켜는 양은 작아도 전체 가중치를 모두 메모리에 올려 둬야 하기 때문이다. GPU 서버가 없다면 호스팅 API를 쓰는 편이 낫다.

Cloudflare에서는 env.AI.run()에 메시지와 reasoning_effort를 넘기면 OpenAI 호환 형식으로 응답이 돌아온다.

상업용이면 라이선스부터 확인한다

가중치는 자유롭게 받을 수 있지만, 연 매출 2천만 달러가 넘는 기업은 문샷AI와 따로 계약해야 한다. 추론 서비스 제공자에게는 최대 30%의 수익 공유를 요구하는 조항도 있다. 미국 모델의 출력으로 학습했다는 증류 의혹이 제기됐고 문샷AI는 이를 부인했다. 이런 논란이 도입 결정에 영향을 줄 수 있으니 함께 따져 보는 게 좋다.

오래 걸리는 코딩 작업에 주로 맡긴다

가장 흔한 건 코딩 에이전트의 기본 모델로 두고 몇 시간짜리 작업을 맡기는 방식이다. 설계처럼 어려운 단계는 max로 두고, 단순한 단계는 low로 내려 비용을 맞춘다.