본문 바로가기

728x90

podman

(2)
Kokoro TTS, 로컬 CPU만으로 음성 합성이 현실적인 이유 Kokoro TTS, 로컬 CPU만으로 음성 합성이 현실적인 이유AI 뉴스 썸네일로컬 AI를 돌릴 때 GPU는 늘 부족해요. 그래서 음성 합성까지 GPU를 차지하면 로컬 LLM과 함께 쓰기 어려웠어요. Kokoro 사례는 작은 TTS 모델과 OpenAI 호환 API를 조합하면 CPU만으로도 개인용 음성 인터페이스를 만들 수 있다는 쪽에 가까워요. 1핵심 요약구분핵심왜 봐야 하나요로컬 음성 합성Kokoro 82M 모델을 CPU로 실행해 TTS를 처리해요GPU를 로컬 LLM 추론에 남겨둘 수 있어요실행 방식Kokoro-FastAPI 컨테이너가 OpenAI speech API와 비슷한 인터페이스를 제공해요기존 음성 API 기반 코드를 로컬 엔드포인트로 옮기기 쉬워요성능 감각짧은 문단 합성에서 i7-4770K ..
Podman 6.0은 루트리스 컨테이너의 바닥을 갈아엎어요 Podman 6.0은 루트리스 컨테이너의 바닥을 갈아엎어요AI 뉴스 썸네일Docker 대안으로 Podman을 봐온 개발자라면 6.0 릴리스는 단순한 버전 숫자보다 조금 더 크게 읽혀요. 이번 변화는 새 명령 몇 개를 얹는 쪽보다 네트워크, VM, systemd 통합, Docker 호환성처럼 오래 쓰는 환경의 바닥을 정리하는 쪽에 가까워요. 2핵심 요약구분핵심왜 볼 만한가요네트워크slirp4netns·iptables 중심 흐름이 Netavark·Pasta·nftables 쪽으로 옮겨가요루트리스 컨테이너와 커스텀 네트워크를 오래 운영할 때 유지보수 부담이 줄어요루트리스 포트 포워딩Pesto rootless port forwarding이 실험 기능으로 들어왔어요커스텀 네트워크에서 source IP를 보존해야 ..

728x90