본문 바로가기

728x90

Python

(10)
내 컴퓨터에서 음성 AI를 돌리는 Hugging Face Speech To Speech 내 컴퓨터에서 음성 AI를 돌리는 Hugging Face Speech To SpeechAI 뉴스 썸네일말을 듣고 답하는 AI를 만들려면 음성 감지, 받아쓰기, 답변 생성, 음성 합성을 차례로 연결해야 해요. Hugging Face의 Speech To Speech는 이 과정을 한 파이프라인으로 묶고, 각 부품을 원하는 모델로 바꿀 수 있게 만든 오픈소스 프로젝트예요. 1핵심 요약구분내용처리 구조VAD, STT, LLM, TTS가 각각 별도 스레드에서 움직이고 큐로 데이터를 넘겨요.연결 방식OpenAI Realtime의 핵심 이벤트를 WebSocket과 WebRTC로 제공해요.모델 선택STT, LLM, TTS를 하드웨어와 언어에 맞춰 교체할 수 있어요.로컬 실행llama.cpp, vLLM, MLX LM 같은..
Turbovec, 31GB 벡터를 4GB로 줄인 Rust 검색 엔진 Turbovec, 31GB 벡터를 4GB로 줄인 Rust 검색 엔진AI 뉴스 썸네일RAG 서비스를 운영하면 임베딩 저장 공간과 검색 지연 시간이 함께 커져요. Rust로 만든 Turbovec은 Google Research의 TurboQuant 알고리즘을 벡터 인덱스로 구현해 이 부담을 줄여요. Python 바인딩도 제공해서 기존 AI 애플리케이션에 붙여 볼 수 있어요.핵심 요약구분내용메모리프로젝트 설명에 따르면 1,000만 개의 float32 문서 벡터가 쓰는 31GB를 4GB로 줄여요.검색ARM의 NEON과 x86의 AVX-512·AVX2를 활용해 압축된 벡터를 직접 검색해요.운영별도 학습 없이 벡터를 추가하고, 변경분 저장과 외부 ID 기반 삭제를 지원해요.적용Rust와 Python에서 로컬로 실행하..
OpenSandbox, AI 에이전트 실행을 격리하는 오픈소스 런타임 OpenSandbox, AI 에이전트 실행을 격리하는 오픈소스 런타임OpenSandbox AI 에이전트 샌드박스 썸네일AI 에이전트가 셸 명령을 실행하고 파일을 바꾸기 시작하면 모델 성능만큼 실행 환경의 격리가 중요해져요. OpenSandbox는 이런 작업을 별도 샌드박스에서 처리하도록 돕는 오픈소스 플랫폼이에요. 로컬 Docker 환경부터 Kubernetes 기반 분산 실행까지 한 인터페이스로 다루는 구성이 눈에 띄어요. 1핵심 요약구분핵심왜 볼만한가요실행 환경Docker와 Kubernetes에서 샌드박스 수명 주기와 작업 실행을 관리해요개발 환경과 대규모 운영 환경 사이의 구현 차이를 줄일 수 있어요개발 도구여러 언어용 SDK, `osb` CLI, MCP 서버를 제공해요기존 코딩 도구와 에이전트에 샌..
문서 처리 도구를 하나로 묶은 xberg, HWP부터 OCR·RAG까지 다뤄요 문서 처리 도구를 하나로 묶은 xberg, HWP부터 OCR·RAG까지 다뤄요IT & AI 뉴스 썸네일PDF 파서, OCR, 표 추출기, 음성 전사 도구를 따로 연결하다 보면 입력 형식이 하나 늘 때마다 관리할 코드도 함께 늘어요. xberg는 여러 문서 처리 단계를 Rust 기반 코어에 모으고, 같은 결과 형식으로 꺼내 쓰게 만든 오픈소스 프레임워크예요. 1핵심 요약구분내용입력PDF, 오피스 문서, 이미지, 오디오, URL, 압축 파일, 소스 트리를 처리해요.출력일반 텍스트, Markdown, Djot, HTML, JSON 트리와 구조화 결과를 지원해요.문서 분석OCR, 표·레이아웃 복원, 메타데이터 추출, 음성 전사를 한 도구에서 선택할 수 있어요.개발 연동라이브러리, CLI, REST API, MC..
코드 100만 줄을 옮긴 Claude Code, 성공 기준은 생성 루프였어요 코드 100만 줄을 옮긴 Claude Code, 성공 기준은 생성 루프였어요AI 뉴스 썸네일Claude Code가 대규모 언어 이전에도 쓰이기 시작했어요. Anthropic 개발자들은 최근 한 달 동안 수만~수십만 줄 규모의 패키지 10개를 옮겼고, Bun의 Zig 코드를 Rust로 바꾸는 작업에서는 2주가 되기 전에 코드 100만 줄을 생성했어요. 1성과만 보면 빠른 코드 생성 이야기처럼 들려요. 실제 작업에서 더 많은 시간을 쓴 곳은 번역 규칙, 테스트, 컴파일 오류, 원본과의 동작 비교였어요. 사람이 파일을 하나씩 고치는 대신 반복해서 틀리는 원인을 규칙에 반영하고 해당 묶음을 다시 생성했어요. 2핵심 요약구분핵심왜 볼 만한가요Bun 이전Zig에서 Rust로 옮기며 2주 미만에 코드 100만 줄을 ..
CodeAlmanac, AI 코딩 도구가 코드 밖의 맥락까지 읽게 해요 CodeAlmanac, AI 코딩 도구가 코드 밖의 맥락까지 읽게 해요AI 뉴스 썸네일코드를 읽으면 현재 구현은 알 수 있어요. 하지만 왜 이런 구조를 골랐는지, 과거에 어떤 시도가 실패했는지, 반드시 지켜야 할 조건이 무엇인지는 코드만으로 찾기 어려워요. CodeAlmanac은 이런 정보를 저장소 안의 위키로 남겨 AI 코딩 도구와 개발자가 함께 읽게 해요. 1핵심 요약구분핵심왜 볼 만한가요저장 방식설계 결정과 흐름, 불변 조건, 주의점을 마크다운으로 저장해요문서를 코드와 같은 Git 변경 내역에서 검토할 수 있어요탐색 방식사람과 코딩 도구가 같은 `search`, `show`, `topics`, `health`, `validate` 명령을 써요별도 문서 서비스에 접속하지 않고 터미널에서 맥락을 찾을 ..
Pandas 창시자가 본 AI 코딩의 한계, 코드보다 판단력이 남아요 Pandas 창시자가 본 AI 코딩의 한계, 코드보다 판단력이 남아요AI 뉴스 썸네일Pandas를 만든 웨스 맥키니는 AI가 코드를 빠르게 늘려도 좋은 소프트웨어를 판별하는 일까지 대신해 주지는 못한다고 말해요. Apache Arrow와 DuckDB 같은 데이터 시스템이 오래 살아남는 이유도 구현량보다 설계, 검토, 신뢰에 있어요. 1핵심 요약구분핵심왜 볼 만한가요AI 코딩LLM은 익숙한 해법을 빠르게 제시하지만 목표와 품질 기준은 개발자가 정해야 해요생성 속도보다 검토 능력이 병목이 되는 이유를 보여줘요데이터 시스템Apache Arrow는 시스템 사이의 표 형식 데이터를 잇는 공통 계층으로 자리 잡았어요여러 도구가 같은 형식을 채택할수록 연결 비용이 줄어요오픈소스DuckDB와 DataFusion의 경쟁..
로컬 TTS 모델 55종을 한자리에서 비교하는 tts-bench가 나왔어요 로컬 TTS 모델 55종을 한자리에서 비교하는 tts-bench가 나왔어요AI 뉴스 썸네일로컬에서 돌릴 수 있는 TTS 모델은 빠르게 늘었지만, 실제로 고르기는 꽤 번거로워요. tts-bench는 55개 음성 합성 모델을 속도, 청취 예시, 객관 지표로 나눠 비교할 수 있게 만든 오픈소스 벤치마크예요.핵심 요약구분핵심왜 볼 만한가요모델 범위로컬 TTS 모델 55종을 비교해요모델별 데모를 따로 찾아 듣는 시간을 줄일 수 있어요측정 방식TTFA, RTF, 메모리, UTMOS, WER, SIM을 나눠 봐요빠른 모델과 듣기 좋은 모델을 같은 기준으로 섞어 판단하지 않게 돼요실행 환경CPU, CUDA, Apple Silicon 결과를 따로 보여줘요보유한 장비에서 쓸 만한 모델을 먼저 좁힐 수 있어요청취 테스트설치..
PyPI Trusted Publishing, 초록 체크로 믿으면 안 되는 이유 PyPI Trusted Publishing, 초록 체크로 믿으면 안 되는 이유AI 뉴스 썸네일오픈소스 패키지를 고를 때 초록색 체크나 “Trusted”라는 단어가 보이면 안전하다고 느끼기 쉬워요. 이번 글의 핵심은 그 반대에 가까워요. PyPI의 Trusted Publishing은 패키지를 믿어도 된다는 표시가 아니라, CI/CD가 패키지를 올릴 때 쓰는 인증 방식이에요. 1핵심 요약구분핵심왜 봐야 하나요패키지 보안Trusted Publishing은 업로드 인증 방식이에요패키지 품질이나 악성코드 여부를 판단하는 신호가 아니에요자격 증명 관리장기 API 토큰 대신 짧고 좁은 권한의 게시 자격 증명을 써요CI/CD에 오래 살아 있는 토큰을 넣는 위험을 줄일 수 있어요오픈소스 생태계PyPI 뒤로 npm, Ru..
Jetendard, 터미널 한글 폭을 맞춘 개발자 폰트 Jetendard, 터미널 한글 폭을 맞춘 개발자 폰트AI 뉴스 썸네일개발자 폰트는 영어와 기호에는 강하지만, 한글이 섞이는 순간 균형이 쉽게 무너져요. Jetendard는 JetBrains Mono Nerd Font Mono에 Pretendard 한글 글리프를 맞춰 넣어, 터미널과 IDE에서 한글·영문·박스 문자가 함께 보일 때의 어긋남을 줄이려는 오픈소스 폰트예요.핵심 요약구분핵심왜 볼 만한가요개발자 도구JetBrains Mono Nerd Font Mono와 Pretendard를 합친 Jetendard가 공개됐어요한글 주석, 터미널 출력, 박스 드로잉 문자가 섞인 화면에서 폭과 가독성 문제가 줄어들 수 있어요폰트 설계Pretendard 한글 글리프를 영문 고정폭 2칸에 맞추고 기본 스케일을 1.15로..

728x90