TypeSafe AI가 발표한 System One Model인 Jev는 기존의 범용 언어 모델(LLM)이 가진 속도와 안정성 문제를 해결하여, 소프트웨어가 직접 활용할 수 있는 자동화된 의사결정 모델을 지향합니다.

1. 핵심 개념 및 철학

이 모델은 Daniel Kahneman의 *Thinking, Fast and Slow*에서 영감을 얻어 System One의 직관적이고 빠른 사고 체계를 모델링했습니다. 기존 LLM이 텍스트 생성(String generation)에 의존하는 System 2적 접근(느리고 비용이 높으며 확률적 오류 발생)을 수행하는 반면, Jev는 구조화된 데이터를 입력받아 타입이 지정된 확률적 의사결정을 출력하는 frontier-intelligence function call 역할을 수행합니다.

2. 핵심 방법론 (Core Methodology)

• RLCD (Reinforcement Learning for Calibrated Decisions): 기존의 RLHF나 RLVR과 달리, 프로그래밍적으로 검증 가능한 보상을 넘어 '인식론적으로 정직한(epistemically honest) 확률'을 출력하도록 학습시킵니다. 즉, 모델이 자신의 결정에 대해 보정된 확률과 신뢰 점수를 반드시 동반하도록 설계되었습니다.
• 병렬 샘플링 (Parallel Sampling): 전통적인 LLM은 토큰을 순차적으로 생성하는(Autoregressive) 방식이지만, Jev는 모든 가능한 출력값을 단일 쿼리 내에서 Parallel하게 생성합니다. 이로 인해 응답 시간이 70ms~500ms 수준으로 단축되었습니다.
• 타입 안전성 (Type-safety): 모델이 자유로운 텍스트를 생성하는 대신, 사전에 정의된 데이터 구조(Schema) 내에서만 결과를 반환합니다. 이로 인해 사후 파싱(Parsing)이나 밸리데이션(Validation)이 필요 없으며, 기술적으로 Type error 발생이 불가능한 구조를 갖추고 있습니다.

3. 기술적 비교 및 성능

• 비용 및 속도: 기존 LLM 대비 속도는 40배~200배 빠르며, Output token 비용이 사실상 무료($0/MTok)에 가깝습니다.
• 정확성: LLM이 가진 환각(Hallucination) 문제를 구조적 제약을 통해 원천 차단했습니다. 모든 결정에는 보정된 신뢰 점수가 함께 제공되어, 시스템 통합 시 결정의 신뢰도를 기반으로 하는 Smart if-statements 및 Workflow automation이 가능합니다.
• 평가 방식 (Workflow Evals): 단일 분류 태스크가 아닌, 실제 코드 워크플로우 내에서의 성능을 측정합니다. 모델의 예측치를 Astra나 Fable과 같은 고성능 모델의 참조 확률과 비교하여 Pareto frontier에서의 우위를 증명했습니다.

4. 주요 활용 사례

• AI-Powered Workflows: 분류(Classify), 라우팅(Route), 스코어링(Score) 등 하드코딩된 로직이 다루기 어려운 복잡한 분기 처리를 대체합니다.
• Real-time Applications: 100ms 이내의 응답 시간을 활용하여 실시간 게임(예: Doom)이나 사용자 경험이 중요한 서비스에 즉각적인 지능형 결정을 제공합니다.
• Verify Everything: 다른 LLM의 출력이나 추론 과정을 감시하고 가드레일을 제공하는 중재자 역할을 수행합니다.

Jev는 AI를 단순한 챗봇이 아닌, 소프트웨어 시스템의 신뢰할 수 있는 컴포넌트로 전환하려는 시도이며, 지능의 비용을 획기적으로 낮춤으로써 산업 전반에 걸친 자동화의 확산을 목표로 합니다.