카카오는 28일, 스마트폰 등 온디바이스(On-device) 환경에서 효율적으로 구동 가능한 경량 언어모델(SLM)인 '카나나-2(Kanana-2)' 시리즈 4종을 오픈소스로 공개했다. 해당 모델은 1.3B 및 3B 파라미터 규모의 기본형(Base)과 명령형(Instruct)으로 구성되며, '카나나 오픈 라이센스'를 적용하여 상업적 활용을 포함한 폭넓은 개방성을 확보했다.

핵심 기술적 특징과 방법론은 다음과 같다.

1. 한국어 특화 토크나이저(Tokenizer) 최적화: 카카오는 자체 개발한 한국어 특화 토크나이저를 도입하였다. 이는 AI가 텍스트를 처리하는 최소 단위인 토큰을 한국어 문법 및 어휘 체계에 맞춰 정교하게 분절하는 기술이다. 이를 통해 동일 문장 처리 시 토큰 수를 최적화함으로써, 기존 모델 대비 한국어 처리 효율을 30% 이상 향상하고 연산 속도와 비용 절감을 달성했다.

2. 메모리 효율적인 온디바이스 구조: 제한된 리소스 환경에서 성능을 극대화하기 위해 '슬라이딩 윈도우 어텐션(Sliding Window Attention)' 구조를 적용했다. 이는 모델이 전체 입력 문맥을 한 번에 처리하는 대신, 일정한 크기의 윈도우 내에서 어텐션 연산을 수행하여 메모리 점유율을 획기적으로 낮추는 방식이다. 이 구조를 통해 최대 32,000 토큰(약 24,000 단어) 길이의 문맥을 처리할 때, 메모리 사용량을 기존 구조 대비 최대 72.7%까지 절감하면서도 성능 안정성을 유지한다.

3. 글로벌 수준의 성능 경쟁력: 카나나-2 시리즈는 유사 파라미터 규모의 글로벌 오픈소스 모델인 Qwen, Gemma 등과 비교하였을 때, 대화, 지식 습득, 코드 작성, 수학적 문제 해결 등 실제 서비스 활용 능력에서 대등한 성능을 기록했다. 특히 1.3B 및 0.9B 명령형 모델에서 이러한 역량이 두드러지게 나타났다.

카카오는 이번 공개를 통해 개발자 및 기업들이 온디바이스 AI 생태계를 구축하도록 지원하고, 자사 서비스인 '카나나 인 카카오톡'이나 대화 요약 기능 등에 적용된 기술을 외부에 공유함으로써 국내 AI 기술력 강화와 생태계 활성화를 도모하고 있다.