GLM-5.3: Frontier Coding with Emergent Cyber Capabilities
Paper

GLM-5.3: Frontier Coding with Emergent Cyber Capabilities

2026.08.15
·Web·by Mineru
#Agent#Coding#Cybersecurity#LLM#Research

핵심 포인트

  • 1GLM-5.3은 기존 모델인 GLM-5.2의 베이스 모델을 유지하면서 오직 사후 학습(post-training) 스케일링만을 통해 코딩 성능을 비약적으로 향상시킨 최신 오픈 웨이트 모델입니다.
  • 2특히 사이버 보안 분야에서 취약점 발견 및 다단계 공격 체인 추론 능력이 현저히 강화되었으며, 실제 코드베이스에서 수천 건의 보안 취약점을 식별하는 등 뛰어난 Emergent Cyber Capability를 입증했습니다.
  • 3향상된 post-training 프레임워크인 slime을 도입하여 긴 호흡의 과업(long-horizon tasks)에 대한 RL 효율성을 2.3배 이상 개선하였으며, 향후 2주 내 오픈 소스로 가중치가 공개될 예정입니다.

본 보고서는 2026년 8월 14일 발표된 GLM-5.3 모델의 기술적 성과와 개발 과정을 상세히 다루고 있습니다. GLM-5.3은 기존 GLM-5.2의 베이스 모델을 그대로 유지하면서, 오직 post-training 확장만을 통해 코딩 및 에이전트 역량을 극대화한 모델입니다.

핵심 방법론 및 기술 스택

GLM-5.3의 학습은 slime이라 불리는 오픈 소스 RL (Reinforcement Learning) 확장 프레임워크를 기반으로 수행되었습니다. 이는 Megatron(학습)과 SGLang(롤아웃)을 통합한 데이터 흐름 구조를 갖추고 있습니다.

  1. 환경 합성 및 RL Scaling:
    • 모델의 성능은 환경의 품질에 의존하므로, 연구진은 복잡한 실제 엔지니어링 워크플로우를 모방하는 환경을 자동 합성하는 파이프라인을 구축했습니다.
    • Verifier agent가 참조 솔루션 없이도 작업을 검증할 수 있도록 설계하여, 신뢰성 높은 이진 보상(binary reward)을 생성하고 이를 통해 직접적인 RL 학습을 수행했습니다.
    • SAO (Search-Aware Optimization)와 compaction 기법을 적용하여 단기 작업을 넘어 장기적(long-horizon) 과제에서의 성능 유지력을 확보했습니다.
  1. 시스템 효율성 및 처리량 최적화:
    • 학습과 롤아웃 간의 일관성을 극대화하기 위해 logprob 차이를 10−710^{-7} 수준으로 제어하여 학습-추론 경로 간 수치적 정렬을 달성했습니다.
    • 다중 교사 모델을 사용하는 multi-teacher OPD (Online Policy Distillation) 환경에서, 로컬 스토리지를 캐싱 계층으로 활용하여 메모리 효율성을 높이고 동적 교사 전환(dynamic teacher switching)을 구현했습니다.
    • workload-aware heuristics를 도입하여 롤아웃 환경의 특성에 맞춘 동적 스케줄링을 수행함으로써, 이전 대비 RL 학습 처리량을 2.3배 이상 개선했습니다.

주요 성능 및 역량

  1. 코딩 역량:
    • 자체 벤치마크인 Z.ai Code Bench에서 GLM-5.2 대비 50%의 성능 향상을 기록했습니다.
    • Terminal Bench 3.0 및 Agents' Last Exam 등에서 오픈 소스 모델 중 최상위 성능(SOTA)을 달성했습니다.
    • 특히 Max effort 환경에서 토큰 효율성을 유지하며 Claude Opus 4.8을 능가하는 에이전트 성능을 보여주었습니다.
  1. Emergent Cyber Capability:
    • 훈련 스케일링 과정에서 취약점 발견 및 연쇄적 공격 계획 수립 능력이 비약적으로 발전했습니다.
    • CyberGym에서 84.5%의 점수로 해당 벤치마크 최정상에 올랐으며, 취약점 탐색의 깊이가 깊어질수록 GLM-5.2와의 성능 격차가 크게 벌어지는 특징을 보였습니다.
    • 실제로 약 45년 전(1981년) 도입된 결함을 포함하여 총 2,436개의 취약점을 발견하는 성과를 거두었습니다.

활용 및 운영

  • GLM-5.3은 thinking 프로세스를 강제하며, 사용자는 low, high, max 중 reasoning_effort를 선택할 수 있습니다.
  • 모델 가중치는 안전성 평가 및 하드닝 과정을 거쳐 출시 2주 후 오픈 소스로 공개될 예정입니다.
  • 현재 ZCode를 포함한 코딩 에이전트 플랫폼에서 지원되며, GLM Coding Plan 사용자를 대상으로 포인트 기반 할당 시스템으로 제공됩니다.