본문 바로가기

728x90

MoonshotAI

(14)
Kimi Code CLI, 영상까지 읽는 터미널 코딩 도구 Kimi Code CLI, 영상까지 읽는 터미널 코딩 도구AI 뉴스 썸네일Moonshot AI가 터미널에서 작동하는 오픈소스 코딩 도구 `Kimi Code CLI`를 공개했어요. 코드 수정과 셸 명령 실행뿐 아니라 영상 입력, MCP 설정, IDE 연동까지 한 프로그램에 담았어요. 설치본은 Node.js 없이 실행할 수 있고, 소스 코드는 MIT 라이선스로 공개돼 있어요. 1핵심 요약구분핵심왜 볼 만한가요기본 작업코드를 읽고 고치며 셸 명령, 파일 검색, 웹페이지 조회를 수행해요터미널 안에서 조사부터 수정까지 이어갈 수 있어요입력 방식텍스트와 함께 화면 녹화나 데모 영상도 받을 수 있어요말로 설명하기 어려운 화면 동작을 작업 자료로 쓸 수 있어요확장MCP 서버, 스킬, 데이터 소스와 라이프사이클 훅을 지..
Kimi K3를 한 노드에 담은 AMD MI355X, 비용 효율은 B300을 앞섰어요 Kimi K3를 한 노드에 담은 AMD MI355X, 비용 효율은 B300을 앞섰어요AI 뉴스 썸네일2.8조 매개변수 규모의 Kimi K3를 AMD MI355X 8개로 구성한 한 노드에서 구동한 결과가 나왔어요. 엔비디아 B300이 절대 처리량에서는 빨랐지만, Wafer가 적용한 시간당 대여료로 계산하면 MI355X가 달러당 처리량에서 앞섰어요. 1핵심 요약구분핵심왜 볼 만한가요메모리 구성MI355X는 GPU당 288GB VRAM으로 Kimi K3와 100만 토큰 KV 캐시를 8개 GPU 한 노드에 담았어요초대형 모델은 연산 속도뿐 아니라 한 노드에 들어가는지가 비용과 통신량을 바꿔요처리량MI355X는 총 952 tok/s와 단일 스트림 118 tok/s를 기록했어요B200 두 노드 구성보다 노드당 처리..
Kimi K3를 로컬에서 돌리려면 메모리가 얼마나 필요할까요 Kimi K3를 로컬에서 돌리려면 메모리가 얼마나 필요할까요Kimi K3 로컬 실행 썸네일Moonshot AI의 Kimi K3는 오픈 웨이트 모델이지만, 개인용 PC 한 대에 가볍게 올릴 수 있는 크기는 아니에요. Unsloth가 공개한 가장 작은 권장 양자화도 파일이 594GB이고, 실행에는 RAM과 VRAM을 합쳐 최소 610GB가 필요해요. 로컬 실행에서 말하는 ‘로컬’이 고성능 워크스테이션이나 여러 장의 GPU를 포함한다는 점부터 확인해야 해요. 1핵심 요약구분확인할 내용실제 의미모델 규모전체 2.8조, 추론 시 1,040억 매개변수 활성화MoE 구조여도 저장 공간과 메모리 요구량은 매우 커요가장 작은 권장 양자화`UD-IQ1_S` 594GB실행 환경에는 최소 610GB의 총 메모리가 필요해요품질..
Kimi K3 가중치 공개, 2.8조 파라미터 모델을 직접 배포할 수 있어요 Kimi K3 가중치 공개, 2.8조 파라미터 모델을 직접 배포할 수 있어요Kimi K3 Hugging Face 공개 썸네일Moonshot AI가 Kimi K3의 전체 가중치와 실행 코드를 Hugging Face에 공개했어요. 2.8조 개 파라미터, 104만 8,576 토큰 컨텍스트, 이미지와 영상을 다루는 멀티모달 기능을 한 모델에 담았어요. 이제 발표 자료를 보는 단계를 넘어 라이선스와 배포 조건을 직접 확인할 수 있어요. 1핵심 요약구분핵심왜 볼 만한가요공개 범위모델 가중치와 실행 코드가 Hugging Face에 올라왔어요연구팀과 기업이 자체 환경에서 모델을 시험하고 수정할 수 있어요모델 구조전체 2.8조 개 중 토큰마다 1,040억 개 파라미터를 활성화해요전체 규모와 한 번의 추론에 쓰는 계산량을..
오픈 웨이트 AI 규제에 빅테크 25곳이 제동을 건 이유 오픈 웨이트 AI 규제에 빅테크 25곳이 제동을 건 이유AI 뉴스 썸네일엔비디아와 마이크로소프트, 메타를 포함한 기술 기업 25곳이 오픈 웨이트 AI 모델을 성급하게 제한하지 말라고 정책 당국에 요청했어요. 중국 모델의 성능 향상과 기술 유출 의혹이 겹치면서, 미국의 AI 경쟁력과 보안 정책을 어디까지 묶어야 하는지가 쟁점으로 떠올랐어요. 1핵심 요약구분핵심왜 볼 만한가요공동 서한기술 기업 25곳이 오픈 웨이트 모델의 성급한 규제에 반대했어요모델 접근 정책이 기업의 선택권과 AI 경쟁 구도에 직접 영향을 줘요규제 쟁점중국 모델의 미국 내 접근 제한과 불법 증류 의혹이 함께 논의되고 있어요국가별 일괄 차단과 위법 행위별 제재는 결과가 크게 달라요개발 현장내려받아 수정하고 자체 인프라에서 실행할 수 있는 선..
중국 오픈 웨이트 AI 차단에 스타트업 200곳이 반대한 이유 중국 오픈 웨이트 AI 차단에 스타트업 200곳이 반대한 이유AI 뉴스 썸네일Proton과 Y Combinator를 포함한 실리콘밸리 기업 약 200곳이 중국 오픈 웨이트 AI 접근을 막지 말아 달라는 공동 서한을 미국 정부에 보냈어요. 이들은 중국 모델을 이용하는 미국 스타트업의 비용과 제품 선택권이 먼저 줄어들 수 있다고 주장했어요. 1미국 행정부가 전면 금지를 확정한 상황은 아니에요. POLITICO 보도를 정리한 GeekNews에 따르면 백악관 관계자들이 관련 사안을 논의했지만, 중국 오픈 웨이트 모델의 전면 금지는 당시 진지한 정책안으로 다뤄지지 않았어요. 2핵심 요약구분핵심왜 볼 만한가요공동 대응실리콘밸리 기업 약 200곳이 미국 정부에 서한을 보냈어요중국 모델 접근 제한이 실제 제품 비용과 ..
오픈 웨이트 AI가 흔드는 모델 기업의 수익 공식 오픈 웨이트 AI가 흔드는 모델 기업의 수익 공식AI 뉴스 썸네일Kimi K3와 Qwen 3.8처럼 성능이 높아진 오픈 웨이트 모델이 잇달아 나오고 있어요. 이제 모델 기업은 벤치마크 순위뿐 아니라 추론 원가, 인프라 소유 범위, 제품의 전환 비용까지 함께 증명해야 해요. 1핵심 요약구분핵심실무에서 볼 점모델 경쟁오픈 웨이트 모델이 최상위 폐쇄형 모델과의 격차를 좁히고 있어요모델 이름보다 실제 업무의 성공률과 비용을 비교해야 해요비용 구조추론량이 늘면 GPU와 전력 비용도 함께 커져요토큰 가격 대신 완료된 과제 1건의 총비용을 재야 해요인프라데이터센터와 전력 조달 방식이 장기 마진에 영향을 줘요자체 구축과 외부 임대의 비용·운영 위험을 나눠 봐야 해요제품 방어력모델 교체가 쉬워질수록 실행 환경과 업무 데..
Kimi Work 공개, 파일·브라우저·예약 작업을 한곳에 묶은 데스크톱 AI Kimi Work 공개, 파일·브라우저·예약 작업을 한곳에 묶은 데스크톱 AIKimi Work 데스크톱 AI 에이전트 썸네일Moonshot AI가 지식 업무용 데스크톱 앱 Kimi Work를 공개했어요. 로컬 폴더 연결, 브라우저 조작, Python·Shell 실행, 예약 작업을 한 화면에서 다루는 AI 에이전트예요. 빠른 질문에 답하는 웹 채팅보다 여러 도구를 오가며 오래 걸리는 업무를 끝내는 데 초점을 맞췄어요. 1핵심 요약구분핵심왜 볼 만한가요로컬 작업지정한 폴더의 파일을 읽고 업무에 활용해요문서와 데이터가 있는 실제 작업 공간을 AI가 직접 다룰 수 있어요예약 실행LLM 호출과 Python·Shell 작업을 매일, 매시간 또는 조건에 맞춰 실행해요반복 업무를 대화가 끝난 뒤에도 이어 갈 수 있어요..
중국 AI 모델의 진짜 가격은 토큰 단가만으로 알 수 없어요 중국 AI 모델의 진짜 가격은 토큰 단가만으로 알 수 없어요AI 뉴스 썸네일중국 오픈 웨이트 모델이 빠르게 좋아지면서 가격 경쟁도 거세졌어요. 하지만 API 가격표의 토큰 단가만 비교하면 실제 서비스 비용을 잘못 판단할 수 있어요. 같은 답을 얻기까지 모델마다 쓰는 토큰과 컴퓨팅 자원이 다르기 때문이에요. 1핵심 요약구분핵심실무에서 볼 점비용 구조오픈 웨이트는 연구개발비를 줄여도 추론 비용까지 없애지는 못해요다운로드 가격과 운영 비용을 따로 계산해야 해요모델 비교토큰 100만 개 가격보다 과제 하나를 끝내는 총비용이 중요해요정답률, 재시도, 총 토큰, 지연 시간을 함께 재야 해요경쟁 구도중국 모델은 낮은 가격과 공개 가중치로 선택지를 넓혀요미국 모델과 같은 조건에서 과제당 비용을 비교해야 해요제품 전략모..
중국 오픈 가중치 AI가 배포 경쟁에서 유리한 이유 중국 오픈 가중치 AI가 배포 경쟁에서 유리한 이유AI 뉴스 썸네일중국 AI 기업들이 모델 가중치를 공개하며 배포 범위를 넓히고 있어요. 미국 기업이 중앙 서버의 유료 API로 최상위 성능을 파는 동안, 공개 가중치 모델은 기업이 원하는 인프라에 직접 올리고 공급자를 바꿀 선택지를 줘요. 다만 공개 전략이 장기적인 우위로 이어질지는 성능, 운영비, 라이선스와 정책까지 함께 봐야 해요.핵심 요약구분핵심왜 볼 만한가요배포 방식공개 가중치 모델은 여러 클라우드와 자체 서버에서 운영할 수 있어요모델 개발사가 모든 추론 인프라를 직접 확보하지 않아도 사용처가 늘어날 수 있어요기업 도입실제 전환 비용은 모델보다 계약, 데이터 연결, 권한 관리와 운영 도구에서 생겨요기업은 업무 시스템을 유지한 채 모델 공급자를 교체..

728x90