Mistral AI는 2025년 6월 10일, 자사의 첫 추론 모델인 Magistral을 발표했습니다. 이 모델은 도메인 특화(domain-specific), 투명성(transparency) 및 다국어(multilingual) 추론에 탁월한 성능을 발휘하도록 설계되었습니다. 기존 초기 추론 모델들이 겪었던 도메인 특화 문제, 제한된 투명성, 일관성 없는 다국어 추론 등의 한계를 극복하는 것을 목표로 합니다.
Magistral은 두 가지 버전으로 출시됩니다. Magistral Small은 24B 파라미터(parameter)를 가진 오픈 소스(open-source) 버전으로, Apache 2.0 라이선스(license) 하에 Hugging Face에서 다운로드(download)하여 자가 배포(self-deployment)할 수 있습니다. Magistral Medium은 더 강력한 엔터프라이즈(enterprise) 버전으로, Le Chat의 프리뷰(preview) 버전이나 La Plateforme의 API를 통해 사용 가능하며, Amazon SageMaker, IBM WatsonX, Azure AI, Google Cloud Marketplace 등 주요 클라우드 플랫폼에서도 제공될 예정입니다.
핵심 역량 및 방법론:
Magistral의 핵심은 복잡한 문제에 대한 깊이 있는 이해와 단계별 분석을 가능하게 하는 추론 능력입니다. "생각하는 방식"(think things through)으로 설계되었으며, 이는 비선형적(non-linear) 사고 과정을 모방하여 논리(logic), 통찰(insight), 불확실성(uncertainty), 발견(discovery)을 통해 문제를 해결합니다.
추론 능력 (Reason Natively): Magistral의 Chain-of-Thought(CoT) 메커니즘은 전 세계 언어와 알파벳(alphabet)에 걸쳐 작동합니다. 이는 구조화된 계산(structured calculations), 프로그래밍 논리(programmatic logic), 의사결정 트리(decision trees), 규칙 기반 시스템(rule-based systems) 등 광범위한 엔터프라이즈 사용 사례에 적합합니다. 이 모델은 다단계 논리(multi-step logic)에 최적화되어, 사용자의 언어로 추적 가능한 사고 과정(traceable thought process)을 제공함으로써 해석 가능성(interpretability)을 향상시킵니다. 투명한 추론 (Transparent Reasoning): 일반적인 목적의 모델과 달리, Magistral은 투명한 추론을 위해 특별히 Fine-tuning되었습니다. 이는 규제 산업(regulated industries)에서 요구되는 높은 수준의 준수(compliance)와 감사 가능성(auditability)을 충족시키는 데 중요한 요소입니다. 모든 결론은 논리적인 단계를 통해 추적될 수 있도록 설계되어, 고위험 환경에서 도메인 특화 AI의 신뢰성을 높입니다. 다국어 능숙도 (Multilingual Dexterity): Magistral은 다양한 언어에서 높은 충실도(high-fidelity)의 추론을 유지합니다. 특히 영어(English), 프랑스어(French), 스페인어(Spanish), 독일어(German), 이탈리아어(Italian), 아랍어(Arabic), 러시아어(Russian), 중국어 간체(Simplified Chinese) 등 주요 언어에서 뛰어난 추론 성능을 보입니다. 성능 및 속도:
*
벤치마크(Benchmark) 점수: Magistral Medium은 AIME2024에서 73.6%를 기록했으며, 64 투표(majority voting)에서는 90%를 달성했습니다. Magistral Small은 각각 70.7%와 83.3%를 기록했습니다.
*
추론 속도: Le Chat의 Think mode 및 Flash Answers 기능을 통해 Magistral Medium은 대부분의 경쟁 모델에 비해 최대 10배 빠른 토큰 처리량(token throughput)을 제공합니다. 이는 실시간 추론(real-time reasoning)과 사용자 피드백(user feedback)을 대규모로 가능하게 합니다.
다목적 적용 (Versatility in Application): Magistral은 일반적인 목적의 사용은 물론, 비추론형 LLM(non-reasoning LLMs)보다 더 긴 사고 처리와 더 나은 정확도를 요구하는 분야에 이상적입니다. 법률 연구(legal research), 재무 예측(financial forecasting), 소프트웨어 개발(software development), 창의적 스토리텔링(creative storytelling) 등 다양한 영역에서 투명성과 정밀성(precision)이 중요한 다단계 과제를 해결합니다. 특히 비즈니스 전략 및 운영(risk assessment, optimal delivery windows), 규제 산업(legal, finance, healthcare, government), 시스템/소프트웨어/데이터 엔지니어링(project planning, backend/frontend architecture, data engineering), 콘텐츠 및 커뮤니케이션(creative writing) 등에서 활용될 수 있습니다.Magistral은 Mistral AI의 최신 연구 성과를 담은 논문을 통해 포괄적인 평가(comprehensive evaluations), 훈련 인프라(training infrastructure), 강화 학습(reinforcement learning) 알고리즘(algorithm) 및 추론 모델 훈련을 위한 새로운 관찰(novel observations)을 설명하고 있습니다. Magistral Small의 오픈 소스화를 통해 커뮤니티(community)의 참여를 장려하며, 이를 통해 "생각하는 언어 모델"의 발전을 가속화하고자 합니다.
