Kokoro TTS, 로컬 CPU만으로 음성 합성이 현실적인 이유

Kokoro TTS, 로컬 CPU만으로 음성 합성이 현실적인 이유

AI 뉴스 썸네일

로컬 AI를 돌릴 때 GPU는 늘 부족해요. 그래서 음성 합성까지 GPU를 차지하면 로컬 LLM과 함께 쓰기 어려웠어요. Kokoro 사례는 작은 TTS 모델과 OpenAI 호환 API를 조합하면 CPU만으로도 개인용 음성 인터페이스를 만들 수 있다는 쪽에 가까워요. 1

핵심 요약

구분	핵심	왜 봐야 하나요
로컬 음성 합성	Kokoro 82M 모델을 CPU로 실행해 TTS를 처리해요	GPU를 로컬 LLM 추론에 남겨둘 수 있어요
실행 방식	Kokoro-FastAPI 컨테이너가 OpenAI speech API와 비슷한 인터페이스를 제공해요	기존 음성 API 기반 코드를 로컬 엔드포인트로 옮기기 쉬워요
성능 감각	짧은 문단 합성에서 i7-4770K 4.7초, M2 Pro 4.5초, Ryzen 7 8745HS 1.5초가 나왔어요	오래된 CPU에서도 개인용 음성 읽기 흐름은 충분히 시도할 만해요
한계	Kokoro는 영어에 더 강하고, 짧은 단어 발음은 어색할 수 있어요	제품에 넣기 전에는 언어·발음·문장 길이별 테스트가 필요해요

1. 로컬 TTS가 GPU 경쟁에서 조금 벗어나고 있어요

Ariya Hidayat의 글은 Kokoro를 CPU에서 돌려 로컬 TTS 서버로 쓰는 방법을 보여줘요. 핵심은 모델 크기예요. Kokoro는 82M 파라미터 모델이라 대형 생성 모델보다 훨씬 작고, 영어·중국어·힌디어 등 여러 언어와 약 50개 음성을 제공해요. 원문 예시는 GPU를 로컬 LLM 추론에 남겨두고, 음성 합성은 CPU가 맡는 구성이에요. 2

설치 흐름도 복잡한 편은 아니에요. Kokoro-FastAPI 컨테이너를 띄우면 웹 UI와 OpenAI speech API 호환 엔드포인트를 함께 쓸 수 있어요. 이미지 안에 음성 모델이 들어 있어 크기는 약 5GB로 큰 편이지만, 별도 모델 다운로드 절차를 줄인다는 장점이 있어요. Docker나 Podman으로 `ghcr.io/remsky/kokoro-fastapi-cpu` 이미지를 실행한 뒤 `localhost:8880/web`에서 바로 테스트할 수 있어요. 3

OpenAI 호환 API가 전환 비용을 낮춰요

개발자 입장에서는 품질만큼 인터페이스도 중요해요. 이미 OpenAI speech API를 기준으로 만들어둔 코드가 있다면, `TTS_API_BASE_URL`을 로컬 서버로 바꾸는 방식으로 테스트할 수 있어요. 원문은 JavaScript와 Python 예제 코드를 함께 소개해요. 생성된 오디오는 MP3로 저장되고, SoX가 있으면 바로 재생할 수 있어요. 4

이 지점은 로컬 AI 앱을 만드는 팀에 꽤 실용적이에요. 클라우드 TTS를 바로 없애자는 이야기가 아니에요. 개인 정보가 섞인 텍스트, 내부 문서 읽기, 오프라인 도구, 로컬 LLM 답변 낭독처럼 외부 API로 보내기 애매한 사용처에서 선택지가 하나 늘어난다는 뜻이에요.

728x90

숫자는 “가능하다”에 가까워요

원문 테스트에서는 `am_eric` 음성으로 짧은 문단을 합성했을 때 Intel Core i7-4770K가 4.7초, Apple M2 Pro가 4.5초, AMD Ryzen 7 8745HS가 1.5초를 기록했어요. 실시간 대화형 음성 비서로 쓰기에는 문장 길이와 하드웨어에 따라 답답할 수 있어요. 그래도 글 읽기, LLM 답변 듣기, 로컬 노트 낭독 같은 비동기 작업에는 충분히 쓸 만한 숫자예요.

주의할 점도 있어요. GeekNews 댓글에서는 Kokoro가 단어 하나만 말할 때 발음이 흔들리는 사례가 언급됐어요. “six” 같은 짧은 입력보다 “The word is: six”처럼 문장 안에 넣은 뒤 필요한 구간을 자르는 방식이 더 낫다는 경험담도 있어요. Kokoro가 작고 빠른 모델인 만큼, 발음 사전·문장 전처리·후처리까지 같이 봐야 해요. 1

왜 중요한가요

로컬 AI의 병목은 모델 하나가 아니라 전체 파이프라인이에요. 텍스트 생성은 로컬 LLM이 맡고, 음성 출력은 클라우드 TTS가 맡으면 편하지만 민감한 문장이 외부로 나가요. 반대로 모든 것을 GPU에서 처리하면 비용과 자원 경쟁이 커져요. Kokoro 같은 CPU 친화 TTS는 이 사이를 메워요. 2

개발자에게는 제품 실험 속도가 달라질 수 있어요. 로컬 문서 리더, 접근성 도구, 개인용 에이전트, 오프라인 학습 앱처럼 음성 출력이 필요한 기능을 API 비용 없이 먼저 만들어 볼 수 있어요. OpenAI 호환 인터페이스가 있으면 기존 코드도 크게 바꾸지 않아도 돼요. 3

다만 한국어 서비스에 바로 맞는다는 뜻은 아니에요. Kokoro는 주로 영어에 최적화돼 있고, 언어별 발음 품질은 따로 확인해야 해요. 실제 서비스라면 문장 길이, 고유명사, 숫자, 약어, 단어 단독 발음, 생성 속도까지 샘플 세트를 만들어 들어봐야 해요. 로컬 TTS의 매력은 분명하지만, 품질 검사는 귀로 해야 해요. 5

참고 자료

1. Kokoro로 로컬 CPU에서 고품질 TTS 실행하기 — GeekNews
2. Local, CPU-Friendly, High-Quality TTS (Text-to-Speech) with Kokoro — ariya.io
3. Kokoro-FastAPI — GitHub
4. OpenAI-compatible TTS sample code — GitHub
5. Kokoro-82M — Hugging Face