본 논문은 Netflix의 기존 추천 시스템인 전통적인 판별 모델(discriminative ranker)을 LLM 기반의 추천 순위 지정 시스템인 GenRec으로 전환하는 과정을 다룹니다. 기존 모델은 수천 개의 수동 엔지니어링 특징(hand-crafted features)과 복잡한 아키텍처에 의존하여 새로운 콘텐츠 유형 도입이나 시스템 유지보수에 어려움을 겪었으나, GenRec은 자연어 처리 능력을 활용하여 이러한 복잡성을 줄이고 시스템을 효율화합니다.

핵심 방법론

GenRec은 크게 두 단계의 학습 프레임워크를 따릅니다.

1. Phase 1 (Foundation Training): 오픈 소스 LLM을 Netflix의 방대한 내부 데이터로 학습시켜 Netflix의 콘텐츠와 사용자 행동에 대한 깊은 이해도를 갖춘 파운데이션 모델을 구축합니다.
2. Phase 2 (Post-training): 추천 순위 지정(ranking)이라는 특정 목적에 맞게 모델을 미세 조정합니다.

기술적 세부 사항:

• Input Verbalization 및 Context Engineering: 사용자의 과거 상호작용, 콘텐츠 메타데이터, 문맥(시간, 기기, 위치 등)을 자연어 프롬프트 형태로 변환합니다. 이때 제한된 토큰 예산 내에서 최적의 성능을 내기 위해 중요도가 높은 상호작용은 상세히 기록하고, 중요도가 낮은 이벤트는 생략하거나 압축하는 'Context Engineering'을 수행합니다.
• 모델 아키텍처: 디코더 전용(decoder-only) 트랜스포머 백본에 catalog-aware scoring head를 결합했습니다. 이 구조는 모델이 전체 아이템 카탈로그에 대해 단 한 번의 순방향 패스(forward pass)로 점수를 계산할 수 있게 하여, 실시간 추천의 핵심인 고속 추론을 가능하게 합니다.
• 학습 목표: 추천 순위 지정 손실(ranking loss)과 언어 모델링 손실(language modeling loss)을 결합한 다중 목표 함수를 사용합니다.

$$L = \alpha \cdot L_{\text{ranking}} + \beta \cdot L_{\text{language}} + \gamma \cdot L_{\text{miscellaneous}}$$

• Reward Integration: 단순히 클릭률을 높이는 것이 아니라, 장기적인 멤버 만족도와 비즈니스 목표(콘텐츠 다양성 등)를 반영하기 위해 보상 모델(reward model)의 출력을 reward-weighted ranking loss로 통합하여 모델을 조정합니다.
• 비용 최적화: vLLM 프레임워크를 기반으로 하며, 추론 시에는 prefill-only inference 모드를 사용하여 비용 효율성을 극대화합니다. 이는 자기회귀적 디코딩(autoregressive decoding) 과정에서 발생하는 지연 시간을 제거합니다.

주요 성과

• 기존 프로덕션 모델 대비 Phase 2 학습 데이터와 입력 신호를 획기적으로 적게 사용하고도, 오프라인 및 온라인 A/B 테스트에서 통계적으로 유의미한 성능 향상을 달성했습니다.
• 수동 특징 엔지니어링 중심의 패러다임에서, 문맥 엔지니어링(context engineering)과 기초 모델의 활용이라는 새로운 패러다임으로의 성공적인 전환 가능성을 입증했습니다.
• 결론적으로 GenRec은 확장 가능하고 유연한 LLM 기반 추천 시스템의 실질적인 구현 방향을 제시하며, 향후 시스템의 복잡성을 낮추고 비즈니스 요구사항에 빠르게 대응할 수 있는 기반을 마련했습니다.