본문 바로가기

728x90

Gemma

(3)
구글 딥마인드 운영권은 코레이에게, 하사비스는 AGI 전략에 집중해요 구글 딥마인드 운영권은 코레이에게, 하사비스는 AGI 전략에 집중해요AI 뉴스 썸네일구글이 딥마인드의 연구 전략과 제품 운영을 더 분명하게 나눴어요. 데미스 하사비스는 일상 운영에서 물러나 AGI와 과학 전략에 집중하고, 코레이 카부크추오울루가 제미나이 모델부터 앱과 개발자 조직까지 맡아요. 1핵심 요약구분핵심왜 볼 만한가요딥마인드 지휘 체계하사비스는 의장과 알파벳 수석과학자를 맡고, 카부크추오울루가 운영을 총괄해요장기 AGI 전략과 제미나이 제품 실행을 서로 다른 리더가 책임지는 구조예요제미나이 조직모델 개발, 최전선 AI 연구, 제미나이 앱과 개발자 조직이 한 책임자 아래 모여요연구 결과를 제품과 개발자 생태계로 옮기는 속도를 높이려는 인사로 읽혀요제프 딘의 퇴사제프 딘과 산제이 게마왓이 독립 공익법..
8GB 맥에서 26B 모델을 돌린 TurboFieldfare의 SSD 스트리밍 설계 8GB 맥에서 26B 모델을 돌린 TurboFieldfare의 SSD 스트리밍 설계TurboFieldfare AI 뉴스 썸네일26B급 언어 모델은 메모리가 작은 맥에서 실행하기 어렵다는 인식이 익숙해요. TurboFieldfare는 Gemma 4 26B-A4B의 가중치 전체를 메모리에 올리는 대신, 토큰 생성에 필요한 부분만 SSD에서 읽어 이 제약을 피했어요. 개발자가 공개한 측정값에 따르면 8GB M2 MacBook Air에서도 초당 5.1~6.3토큰으로 텍스트를 생성해요. 1핵심 요약구분핵심확인할 점메모리약 14.3GB 모델 가운데 공유 코어와 KV 캐시 등 약 2GB만 메모리에 둬요모델 파일을 저장할 약 15GB 공간은 따로 필요해요실행 구조토큰마다 선택된 MoE 전문가 가중치를 SSD에서 읽어요..
오픈 웨이트 AI, 모델보다 생태계 경쟁이 중요해졌어요 오픈 웨이트 AI, 모델보다 생태계 경쟁이 중요해졌어요IT & AI 뉴스 썸네일오픈 웨이트 AI의 경쟁 기준이 모델 한 개의 성능에서 그 주변의 도구와 운영 체계로 넓어지고 있어요. Kubernetes가 공통 기반 위에 네트워킹, 스토리지, 관측성 도구를 키웠듯이 AI에서도 모델 서빙과 미세조정, 평가, 런타임이 하나의 생태계로 묶이는 흐름이에요. 다만 모델 가중치를 공개하는 것과 완전한 오픈 소스는 구분해서 봐야 해요. 1핵심 요약구분핵심왜 볼만한가요경쟁 단위모델 성능뿐 아니라 서빙, 평가, 관측성, 미세조정 도구가 함께 경쟁해요실제 도입 비용과 공급자 변경 가능성은 주변 도구에서 크게 갈려요오픈 웨이트학습된 가중치는 내려받아 수정할 수 있지만 학습 데이터와 전체 과정은 대개 공개되지 않아요오픈 소스 ..

728x90