Blog
Kimi K3.1 Pro Tech Blog: Advancing Open Intelligence
Kimi
2026.10.23
·Web·by Mineru#Agent#AI#Coding#LLM#Open Source
핵심 포인트
- 1Kimi K3.1 Pro는 100만 토큰의 context window를 지원하며 코딩, 3D 모델링, 금융 분석 등 다양한 agentic 분야에서 강화학습을 통해 성능을 비약적으로 향상시킨 3T급 open-weight 모델입니다.
- 2이 모델은 Unity나 Blender와 같은 도구를 활용한 3D 생성 및 복잡한 금융 데이터 분석 작업에서 뛰어난 정확도와 추론 능력을 입증하며 최상위 proprietary models 수준의 성과를 보여줍니다.
- 3사이버 보안 관련 데이터의 선제적 제거를 통해 오용 위험을 통제하면서도 전반적인 문제 해결 능력을 보존했으며, 모델의 전체 가중치는 2026년 11월 4일에 공개될 예정입니다.
본 논문은 Kimi의 새로운 3T급 오픈 웨이트(open-weight) 모델 시리즈인 Kimi K3.1 Pro의 출시를 알리며, 해당 모델의 성능, 방법론 및 안전성 제어 전략을 상세히 설명한다.
1. 개요 및 기술적 사양
Kimi K3.1 Pro는 기존 Kimi K3를 기반으로 훨씬 더 방대한 규모의 post-training compute를 투입하여 고도화한 모델이다. 100만 토큰의 context window를 지원하며, 코딩, 3D 생성, 금융 연구 및 에이전트 작업에서 비약적인 성능 향상을 보였다. 또한, 응답 속도를 2-3배 높인 Kimi K3.1 Pro Highspeed 버전을 함께 공개했다.2. 핵심 방법론: 대규모 공동 강화학습 (Large-scale Joint RL)
K3.1 Pro의 핵심 성과는 수백 개의 다운스트림 도메인을 아우르는 대규모 joint RL(Reinforcement Learning)을 성공적으로 구현한 데 있다. 이를 위해 기술 스택의 전 영역을 최적화했다:- RL Framework 및 훈련 효율성: 각 단계의 RL 연산이 안정적이고 예측 가능한 성과를 낼 수 있도록 훈련 효율성을 극대화했다.
- Sandbox Infrastructure 및 Rollout Scheduling: 복잡한 환경 내에서 에이전트가 환경 품질 검사를 통과하며 iteratively 학습할 수 있도록 인프라를 설계했다.
- Long-horizon Coding: 인간의 신체 시뮬레이터(human-atlas) 구축과 같은 복잡한 멀티스텝 과제에서, 단순한 보상 조정(reward shaping)을 넘어 open-loop probes를 통해 시뮬레이터의 역학(dynamics) 내 논리적 오류를 식별하고 수정하는 고도의 추론 능력을 보여주었다.
3. 주요 도메인별 성과
- Coding: Terminal-Bench 4.0에서 65.7%의 점수를 기록하며 GPT-6 Astra(58.2%)를 상회했다. Kimi Code Bench 3.0 Long-horizon을 통해 복잡한 엔지니어링 도메인에서의 문제 해결력을 입증했다.
- 3D Modeling: BenchCAD에서 도구 사용 시 92.7%의 정확도를 기록했다. 파라메트릭 모델링(parametric modeling)을 통해 Blender나 CAD 소프트웨어용 스크립트를 직접 작성·실행하여 자산을 생성하고 수정할 수 있다.
- Finance: OfficeQA Pro v2에서 64.4점을 기록하며 업계 최고 수준을 달성했다. 금융 모델링, 연구, 비즈니스 운영 등에서 K3 대비 큰 폭의 성능 향상을 보였으며, factual accuracy(사실 정확도) 개선을 위해 Kimi Hallu Bench Hard를 도입, 환각(hallucination)률을 42.4% 수준으로 낮추었다.
4. 사이버 보안 및 안전성 제어
본 모델은 사이버 공격 역량과 일반적인 유용성 사이의 균형을 맞추기 위해 정교한 통제 전략을 취했다.- 데이터 필터링: 모델의 취약점 분석 능력이 post-training 과정에서 의도치 않게 강화되는 현상을 발견하고, 미드 훈련(mid-training) 및 RL 단계에서 사이버 관련 데이터와 태스크를 의도적으로 식별하여 제거했다.
- 평가(Evaluation): xdev-bench-hard를 통해 검증한 결과, 데이터 제거 조치를 거친 최종 K3.1 Pro의 성능은 81.0%(pass@3)로, 제거 전 모델(90.5%)보다 낮아져 의도한 위험 감소 효과가 확인되었다. 이는 범용 코딩 능력의 일반화가 보안 취약점 발견으로 이어지는 경향을 통제하려는 시도이다.