Turbovec (1) 썸네일형 리스트형 Turbovec, 31GB 벡터를 4GB로 줄인 Rust 검색 엔진 Turbovec, 31GB 벡터를 4GB로 줄인 Rust 검색 엔진AI 뉴스 썸네일RAG 서비스를 운영하면 임베딩 저장 공간과 검색 지연 시간이 함께 커져요. Rust로 만든 Turbovec은 Google Research의 TurboQuant 알고리즘을 벡터 인덱스로 구현해 이 부담을 줄여요. Python 바인딩도 제공해서 기존 AI 애플리케이션에 붙여 볼 수 있어요.핵심 요약구분내용메모리프로젝트 설명에 따르면 1,000만 개의 float32 문서 벡터가 쓰는 31GB를 4GB로 줄여요.검색ARM의 NEON과 x86의 AVX-512·AVX2를 활용해 압축된 벡터를 직접 검색해요.운영별도 학습 없이 벡터를 추가하고, 변경분 저장과 외부 ID 기반 삭제를 지원해요.적용Rust와 Python에서 로컬로 실행하.. 이전 1 다음
