본문 바로가기

728x90

apache2

(15)
내 컴퓨터에서 음성 AI를 돌리는 Hugging Face Speech To Speech 내 컴퓨터에서 음성 AI를 돌리는 Hugging Face Speech To SpeechAI 뉴스 썸네일말을 듣고 답하는 AI를 만들려면 음성 감지, 받아쓰기, 답변 생성, 음성 합성을 차례로 연결해야 해요. Hugging Face의 Speech To Speech는 이 과정을 한 파이프라인으로 묶고, 각 부품을 원하는 모델로 바꿀 수 있게 만든 오픈소스 프로젝트예요. 1핵심 요약구분내용처리 구조VAD, STT, LLM, TTS가 각각 별도 스레드에서 움직이고 큐로 데이터를 넘겨요.연결 방식OpenAI Realtime의 핵심 이벤트를 WebSocket과 WebRTC로 제공해요.모델 선택STT, LLM, TTS를 하드웨어와 언어에 맞춰 교체할 수 있어요.로컬 실행llama.cpp, vLLM, MLX LM 같은..
fx, Unix 셸처럼 가볍게 쓰는 코딩 에이전트 fx, Unix 셸처럼 가볍게 쓰는 코딩 에이전트AI 뉴스 썸네일코딩 에이전트가 터미널 IDE처럼 커지는 흐름과 다른 선택지가 나왔어요. Vercel Labs의 fx는 Unix 명령어처럼 빠르게 실행하고, 다른 앱 안에도 넣을 수 있게 만든 오픈소스 코딩 도구예요. 1핵심 요약구분내용형태Zig로 만든 소형 네이티브 CLI예요사용법프로젝트 폴더에서 `fx`를 실행하거나 `fx ask`로 한 번만 요청할 수 있어요모델특정 모델에 묶이지 않아 로컬 모델과 클라우드 추론을 함께 다룰 수 있어요확장MCP, Skills, 하위 작업 위임, ACP, WebAssembly SDK를 지원해요상태공식 사이트가 실험 단계라고 밝히고 있어 운영 환경 도입에는 검토가 필요해요1. 코딩 에이전트를 셸 명령어처럼 다루는 fxfx는..
OpenSandbox, AI 에이전트 실행을 격리하는 오픈소스 런타임 OpenSandbox, AI 에이전트 실행을 격리하는 오픈소스 런타임OpenSandbox AI 에이전트 샌드박스 썸네일AI 에이전트가 셸 명령을 실행하고 파일을 바꾸기 시작하면 모델 성능만큼 실행 환경의 격리가 중요해져요. OpenSandbox는 이런 작업을 별도 샌드박스에서 처리하도록 돕는 오픈소스 플랫폼이에요. 로컬 Docker 환경부터 Kubernetes 기반 분산 실행까지 한 인터페이스로 다루는 구성이 눈에 띄어요. 1핵심 요약구분핵심왜 볼만한가요실행 환경Docker와 Kubernetes에서 샌드박스 수명 주기와 작업 실행을 관리해요개발 환경과 대규모 운영 환경 사이의 구현 차이를 줄일 수 있어요개발 도구여러 언어용 SDK, `osb` CLI, MCP 서버를 제공해요기존 코딩 도구와 에이전트에 샌..
Qwen3.8 27B 지능 지수 52점, 점수보다 토큰 사용량을 함께 봐야 해요 Qwen3.8 27B 지능 지수 52점, 점수보다 토큰 사용량을 함께 봐야 해요AI 뉴스 썸네일Qwen3.8 27B가 Artificial Analysis Intelligence Index에서 52점을 받았어요. 같은 규모의 오픈 가중치 모델 중앙값 9보다 높지만, 평가에 쓴 출력 토큰도 1억 6,000만 개로 중앙값보다 약 3.7배 많았어요. 모델을 고를 때는 점수와 함께 응답 길이, 속도, 실제 운영 비용을 확인해야 해요. 1핵심 요약구분내용평가 결과Artificial Analysis Intelligence Index 52점을 기록했어요. 같은 규모의 오픈 가중치 모델 중앙값은 9점이에요.토큰 사용전체 평가에서 출력 토큰 1억 6,000만 개를 생성했어요. 비교군 중앙값 4,300만 개보다 약 3.7배..
Qwen 3.8 27B, 성능보다 먼저 바꿔야 할 추론 설정 Qwen 3.8 27B, 성능보다 먼저 바꿔야 할 추론 설정AI 뉴스 썸네일Qwen 3.8 27B는 노트북에서도 코드 작성과 이미지 분석을 맡길 수 있는 로컬 AI 모델이에요. 다만 기본 추론 강도인 `xhigh`를 그대로 쓰면 간단한 작업에도 시간과 토큰을 지나치게 쓸 수 있어요. 실제 사용에서는 작업 난이도에 맞춰 추론 강도를 낮추는 설정이 모델 성능만큼 중요해요. 1핵심 요약구분내용모델270억 매개변수와 비전 기능을 갖춘 모델이며 Apache 2.0 라이선스로 공개됐어요.문맥기본 모델은 262,144토큰 문맥을 지원하고 최대 100만 토큰까지 확장할 수 있어요.기본 설정추론 강도 `xhigh`가 기본이라 단순한 요청도 오래 분석할 수 있어요.실사용`low`나 추론 비활성화로 시작한 뒤 복잡한 작업에..
Docbank, 사람과 AI 에이전트가 함께 쓰는 로컬 문서 금고 Docbank, 사람과 AI 에이전트가 함께 쓰는 로컬 문서 금고AI 뉴스 썸네일AI 에이전트가 문서를 읽고 고치는 일이 늘면 파일의 최신 위치만 알아서는 부족해요. 누가 어떤 내용을 바꿨는지, 이전 버전이 남아 있는지, 백업에서 같은 파일을 복원할 수 있는지도 확인해야 해요. Docbank는 이 문제를 로컬 우선 문서 기록 시스템으로 풀려는 오픈소스 프로젝트예요. 1핵심 요약구분핵심왜 볼 만한가요문서 식별문서를 경로가 아닌 Stable Node ID로 식별해요이름을 바꾸거나 폴더를 옮겨도 같은 문서를 계속 가리킬 수 있어요변경 이력콘텐츠 버전을 SHA-256 다이제스트와 불변 버전으로 남겨요자동화가 예전 상태를 덮어쓰려 할 때 충돌을 드러낼 수 있어요복구휴지통, 영구 삭제, 가비지 컬렉션, 저장 공간 ..
Deno celld, Durable Objects를 내 서버에서 돌려요 Deno celld, Durable Objects를 내 서버에서 돌려요IT & AI 뉴스 썸네일Cloudflare Durable Objects의 실행 모델을 자체 인프라로 옮길 수 있는 선택지가 생겼어요. Deno가 공개한 celld는 Worker 코드와 객체별 SQLite 데이터를 사용자가 관리하는 서버와 오브젝트 스토리지에서 실행해요. 1핵심 요약구분핵심왜 볼 만한가요실행 환경V8에서 Wrangler 번들을 실행해요기존 Worker 프로젝트를 옮길 때 바꿔야 할 범위를 줄였어요상태 저장객체마다 전용 SQLite 데이터베이스를 둬요사용자·문서·채팅방처럼 상태 단위를 작게 나눌 수 있어요분산 구조공유 버킷으로 소유권과 상태를 조정해요별도 컨트롤 플레인이나 합의 서버 없이 노드를 늘릴 수 있어요운영 범위T..
X가 For You 추천 점수와 노출 제한 경로를 더 공개했어요 X가 For You 추천 점수와 노출 제한 경로를 더 공개했어요X For You 알고리듬 썸네일X가 For You 피드를 구성하는 공개 저장소를 크게 넓혔어요. 게시물 후보를 찾고 순서를 정하는 코드뿐 아니라, 점수 계산에 쓰는 가중치와 게시물을 숨기거나 경고 화면 뒤에 두는 판단 경로까지 확인할 수 있어요. 1핵심 요약구분공개된 내용확인할 점추천 점수여러 사용자 행동의 예측 확률에 가중치를 곱해 최종 점수를 만드는 구조가 담겼어요좋아요만 세는 방식이 아니라 클릭, 체류, 신고 같은 신호를 함께 계산해요후보 수집팔로우 계정의 Thunder와 팔로우하지 않은 계정용 Phoenix, SimClusters를 함께 써요추천 후보를 찾는 단계와 최종 순위를 정하는 단계가 나뉘어요노출 제한게시물마다 `ALLOW`,..
20GB 안으로 들어온 30B 코딩 모델, Meta Muse Glimmer 20GB 안으로 들어온 30B 코딩 모델, Meta Muse GlimmerAI 뉴스 썸네일Meta가 30B 파라미터 로컬 코딩 모델 Muse Glimmer를 공개했어요. 약 4비트로 양자화한 모델은 20GB보다 작아서 24GB나 32GB 메모리를 갖춘 Mac·PC에서 에이전트 작업을 돌리는 구성을 겨냥해요. 1핵심 요약구분핵심왜 볼 만한가요공개 방식30B 모델 가중치를 Apache 2.0 라이선스로 공개했어요사용 조건이 비교적 명확한 오픈 웨이트 코딩 모델 선택지가 늘었어요로컬 실행약 4비트 양자화로 모델 크기를 20GB 미만으로 줄였어요24GB·32GB급 소비자 하드웨어에서 로컬 에이전트를 구성할 수 있어요작업 범위함수 호출, 코드 작성·디버깅, 도구 오류 복구, 이미지 입력을 다뤄요단순 코드 완성보다..
Cloudflare OS 공개, 사내 AI 앱의 권한과 데이터 이동을 함께 관리해요 Cloudflare OS 공개, 사내 AI 앱의 권한과 데이터 이동을 함께 관리해요Cloudflare OS IT & AI 뉴스 썸네일사내 AI 도구가 문서를 읽고 앱까지 만들기 시작하면 편의성보다 먼저 권한 문제가 생겨요. Cloudflare가 공개한 Cloudflare OS는 업무용 작업 공간, 앱 실행 환경, 접근 통제를 한 플랫폼에 묶고 이 문제를 다뤄요. 회사별 환경에 맞춰 자체 Cloudflare 계정에 배포할 수 있도록 코어 코드도 공개했어요. 2핵심 요약구분핵심왜 볼 만한가요업무 환경회사가 선별한 지식과 절차를 작업 공간에 연결해요직원이 매번 조직 용어와 업무 방식을 다시 설명하는 부담을 줄여요보안앱과 작업 공간은 무권한으로 시작하고 Gatekeeper가 접근을 중개해요API 키를 생성 코드..

728x90