본 문서는 업스테이지(Upstage)가 공개한 파운데이션 모델인 Solar Open 2의 개발 배경, 핵심 기술적 방법론, 그리고 실용적 활용 사례를 상세히 다루고 있습니다.

1. 개발 배경 및 목적

정부 주도의 독자 파운데이션 모델 프로젝트(독파모)의 지원을 받아 개발된 Solar Open 2는 모델의 크기보다는 실용성, 높은 지능, 에이전트의 툴 사용 능력에 집중하였습니다. 특히 사무 환경(오피스 워크)에서 최적화된 성능을 발휘하는 것을 목표로 하며, 250B 파라미터 규모를 통해 상용 프론티어 모델들과 경쟁 가능한 성능을 확보하고자 했습니다.

2. 핵심 기술적 방법론

Solar Open 2는 사전 학습(Pre-training)과 사후 학습(Post-training) 단계에서 다음과 같은 혁신적 접근을 취했습니다.

• 하이브리드 어텐션(Hybrid Attention) 구조: 긴 문맥(Long Context) 처리 시 성능과 비용 문제를 해결하기 위해, 기존의 Softmax 어텐션과 Linear 어텐션을 3:1 비율로 혼합한 하이브리드 구조를 도입했습니다. 이를 통해 메모리 소비와 연산량을 1/4 수준으로 절감했습니다.
• 포지셔닝 인코딩 개선: 명시적인 RoPE(Rotary Positional Embedding)를 제거하고 모델 스스로 토큰 순서를 학습하도록 설계했습니다. 학습 안정성을 위해 Sigmoid 게이트를 추가하고, 리니어 어텐션 내에서 Negative Eigenvalues(음수 고윳값)를 조정할 수 있게 하여 이론적으로 무한대의 컨텍스트 지원이 가능한 구조를 구현했습니다.
• 지식 이식(Weight Transfer): 이전 모델인 Solar Open의 학습 결과를 활용하기 위해, 구조 변화로 인해 직접적인 매핑이 어려운 가중치를 재매핑(Re-mapping)하여 초기화 효율을 극대화했습니다. 이를 통해 랜덤 초기화 대비 3배 이상의 학습 효율을 관측했습니다.
• 강화학습(RL) 기반 포스트 트레이닝: SFT(Supervised Fine-Tuning) 이후 도메인별(코딩, 오피스 업무 등) 특화 모델 12개를 생성하고, 이를 티처 모델로 활용하여 On-policy Distillation을 수행했습니다. 에이전트가 가상 환경에서 실제 작업을 수행하며 결과를 검증(Verifiable)하고 리워드를 받는 강화학습 파이프라인을 구축하여 에이전트 성능을 극한으로 끌어올렸습니다. 특히 비동기(Asynchronous) 학습 환경에서 GPU 효율성을 높이기 위한 최적화 기법을 적용했습니다.

3. 경량화 및 최적화 (노타 파트너십)

노타(Nota)와의 협력을 통해 MOE(Mixture of Experts) 구조의 양자화 취약점을 보완했습니다.

• Pascal-MOE: 캘리브레이션 데이터셋 확보 시 익스퍼트(Expert) 편향 현상을 방지하는 기술을 적용했습니다.
• 라우팅 안정화: 양자화 과정에서 라우터의 의사결정이 변하지 않도록 하는 로스 펑션(Loss Function)을 추가하여 모델 성능 저하를 방지했습니다.
• 글로벌 프루닝(Global Pruning): 각 레이어별 중요도에 따라 유연하게 가중치를 제거하는 기술을 통해, 256K 이상의 긴 문맥 처리 시에도 GPU 메모리 효율성을 확보하여 적은 수의 GPU로도 서빙이 가능하게 설계했습니다.

4. 실용적 활용 및 결론

• 오피스 버스(Office-verse): 사무 환경 시뮬레이션을 통해 엑셀, PPT, 문서 작성 등 복합적인 업무 테스크를 자동 생성하고 학습시켜 기업 생산성 도구로서의 역량을 강화했습니다.
• 에이전트 성능: 클로드 코드(Claude Code)와의 연동, 법률 AI 서비스인 슈퍼로이어(Super Lawyer) 사례를 통해 실제 업무 현장에서 프론티어 모델 수준의 정확도를 입증했습니다.

결론적으로, Solar Open 2는 단순히 파라미터 수를 늘리는 방식이 아닌, RL 기반 에이전트 환경 구축과 구조적 최적화를 통해 실질적인 기업용 에이전트 시장에서 높은 경쟁력을 갖춘 모델입니다.