GitHub - supertone-inc/supertonic: Lightning-Fast, On-Device, Multilingual TTS — running natively via ONNX.
핵심 포인트
- 1Supertonic은 다양한 런타임과 디바이스에서 동작하는 lightning-fast, on-device multilingual text-to-speech (TTS) 시스템입니다.
- 2이 시스템은 31개 언어를 지원하며, 99M-parameter의 compact한 open-weight 모델을 통해 고품질 44.1kHz 오디오를 생성하고, <laugh>나 <breath>와 같은 10가지 expression tags를 지원합니다.
- 3Supertonic 3는 복잡한 텍스트를 정확하게 처리하며, CPU에서도 효율적으로 실행되어 더 큰 모델들과 경쟁력 있는 음성 인식 정확도와 낮은 메모리 footprint를 제공합니다.
Supertonic은 Supertone Inc.에서 개발한 초고속 온디바이스(on-device) 다국어 Text-to-Speech (TTS) 시스템입니다. 클라우드나 API 호출 없이 장치 내에서 완전히 실행되도록 설계되어 최소한의 오버헤드로 로컬 추론을 제공하며, 프라이버시를 보장합니다.
주요 특징 (Key Features):
- 초고속 (Blazingly Fast): 데스크탑, 브라우저, 모바일, 엣지(edge) 환경에서 낮은 지연 시간(low-latency)의 실시간 합성을 제공하며, 웹페이지 전체를 1초 이내에 오디오로 변환할 수 있을 정도로 빠릅니다.
- 다국어 지원 (Multilingual): 31개 언어에 대해 텍스트에서 직접 합성이 가능하며, 를 설정하여 입력 언어를 모를 때 언어에 구애받지 않고 처리할 수 있습니다. 별도의 언어 어댑터(language adapters)는 필요하지 않습니다.
- 경량 모델 (Compact Model): 약 99M-Parameter의 오픈-웨이트(open-weight) 모델로, 0.7B~2B 급의 다른 오픈 TTS 시스템에 비해 훨씬 작아 다운로드 크기가 작고, 콜드 스타트(cold start)가 빠르며, 메모리 점유율이 낮습니다.
- 엣지 장치 호환성 (Edge-Device Ready): 데스크탑, 모바일, 브라우저는 물론 Raspberry Pi나 e-reader와 같은 리소스 제약이 있는 하드웨어에서도 로컬로 실행됩니다. GPU 없이도 작동하며, 네트워크 의존성이 전혀 없어 완전한 프라이버시를 제공합니다.
- 고품질 오디오 (High-Quality Audio): 스튜디오급 44.1kHz 16-bit WAV 파일을 직접 출력하여, 외부 업샘플러(upsampler) 없이 바로 프로덕션 재생에 사용할 수 있습니다.
- 표현 태그 (Expression Tags): , , 등 10개의 인라인(inline) 태그를 통해 프롬프트 엔지니어링(prompt engineering)이나 참조 오디오(reference audio) 없이도 생성된 음성에 자연스러운 인간적 뉘앙스를 추가할 수 있습니다.
- 다중 런타임 SDK (Multi-Runtime SDKs): ONNX Runtime을 기반으로 Python, Node.js, Browser (WebGPU), Java, C++, C#, Go, Swift, iOS, Rust, Flutter 등 다양한 언어 및 플랫폼에서 사용할 수 있는 예제를 제공합니다.
지원 언어 (Supported Languages):
Supertonic 3는 아랍어(ar), 불가리아어(bg), 크로아티아어(hr), 체코어(cs), 덴마크어(da), 네덜란드어(nl), 영어(en), 에스토니아어(et), 핀란드어(fi), 프랑스어(fr), 독일어(de), 그리스어(el), 힌디어(hi), 헝가리어(hu), 인도네시아어(id), 이탈리아어(it), 일본어(ja), 한국어(ko), 라트비아어(lv), 리투아니아어(lt), 폴란드어(pl), 포르투갈어(pt), 루마니아어(ro), 러시아어(ru), 슬로바키아어(sk), 슬로베니아어(sl), 스페인어(es), 스웨덴어(sv), 터키어(tr), 우크라이나어(uk), 베트남어(vi) 등 총 31개 언어를 지원합니다.
기술 상세 (Technical Details):
Supertonic의 핵심 기술은 ONNX Runtime을 활용한 교차 플랫폼 추론(cross-platform inference)에 기반합니다. 특히 브라우저 환경에서는 onnxruntime-web을 사용하여 클라이언트 측 추론(client-side inference)을 지원합니다.
- 메인 아키텍처 (Main Architecture): SupertonicTTS는
speech autoencoder,flow-matching based text-to-latent module및 효율적인 설계를 특징으로 합니다. 이는 텍스트를 잠재 공간(latent space)의 표현으로 변환한 후, 이 잠재 표현을 기반으로 스피치 파형(speech waveform)을 생성하는 구조를 가집니다. Length-Aware Rotary Position Embedding (LARoPE): 이는cross-attention메커니즘에서 텍스트-스피치 정렬(text-speech alignment)을 개선하는 데 사용됩니다. 텍스트와 스피치 시퀀스 간의 관계를 효과적으로 모델링하여 보다 정확한 발음을 가능하게 합니다.Self-Purifying Flow Matching: 이 기술은 노이즈가 많거나 신뢰할 수 없는 레이블(noisy or unreliable labels)을 사용하여flow matching models을 견고하게(robustly) 훈련하는 데 중점을 둡니다. 이는 데이터 품질에 관계없이 모델의 성능을 유지하는 데 기여합니다.RobustSpeechFlow: 증강 기반(augmentation-based)Contrastive Flow Matching을 통해 텍스트-투-스피치 생성의 견고성(robustness)과 품질을 향상시킵니다. 데이터 가변성(data variability)에 강인한flow-matching trajectories를 학습하여 음성 합성의 안정성을 높입니다.
성능 (Performance):
Supertonic 3는 Minimax-MLS-test benchmark를 통해 Reading Accuracy를 평가했으며, VoxCPM2, OmniVoice, Qwen3-TTS와 같은 훨씬 큰 규모의 오픈 TTS 모델과 비교하여 경쟁력 있는 WER (Word Error Rate) / CER (Character Error Rate) 범위를 유지하면서도 경량 온디바이스 배포 경로를 제공합니다. Supertonic 3는 CPU에서도 빠르게 실행되며, A100 GPU에서 측정된 대규모 베이스라인(baselines)과 비교해도 경쟁력이 있고, 훨씬 적은 메모리를 사용합니다.
음성 복제 및 커스터마이징 (Voice Cloning and Customization):
이 오픈-웨이트(open-weight) 저장소는 고정 음성(fixed-voice) 로컬 TTS에 중점을 둡니다. Voice Builder를 통해 짧은 참조 녹음(reference recording)으로 맞춤형 음성 프로필(custom voice profile)을 생성하고, 이를 Supertonic 2 및 Supertonic 3용 JSON 파일로 다운로드하여 로컬 배포에 사용할 수 있습니다. 또한, Supertone Play 및 Supertone API를 통해 관리형 콘텐츠 생성 워크플로우, 다양한 사전 설정 음성, zero-shot voice cloning 기능을 이용할 수 있습니다.
활용 사례 (Built with Supertonic):
Supertonic은 다양한 프로젝트에 활용되고 있습니다.
- TLDRL: 웹페이지를 읽어주는 온디바이스 TTS 크롬 확장 프로그램.
- Read Aloud: 오픈 소스 TTS 브라우저 확장 프로그램.
- PageEcho: iOS용 E-Book 리더 앱.
- VoiceChat: 브라우저 내 온디바이스
voice-to-voice LLM chatbot. - OmniAvatar: 사진과 음성으로 대화하는 아바타 비디오 생성기.
- CopiloTTS: ONNX Runtime을 통한 Kotlin Multiplatform TTS SDK.
- Aftertone: Cursor & Claude를 위한 로컬
post-reply TTS온디바이스 데몬. - Voice Mixer: PyQt5 기반의 음성 스타일 믹싱 및 수정 도구.
- Supertonic MNN: MNN 기반의 경량 라이브러리.
- Transformers.js: Hugging Face의 JS 라이브러리 통합.
- Pinokio: Mac, Windows, Linux용 1클릭 로컬호스트 클라우드.
라이선스 (License):
프로젝트의 샘플 코드는 MIT License에 따라 배포됩니다. 동반되는 모델은 OpenRAIL-M License에 따라 배포됩니다.