TSMC (2) 썸네일형 리스트형 AMD가 인수한 Taalas, AI 모델을 칩에 새겨 추론 속도를 높여요 AMD가 인수한 Taalas, AI 모델을 칩에 새겨 추론 속도를 높여요AI 뉴스 썸네일AMD가 AI 칩 스타트업 Taalas를 인수해 모델 전용 추론 가속기 기술을 확보해요. Taalas는 모델 가중치를 메모리에서 반복해서 읽는 대신 실리콘에 직접 넣어요. 빠른 토큰 생성이 강점이지만, 배포한 뒤 모델을 크게 바꾸려면 칩을 다시 만들어야 해요. 1핵심 요약구분핵심왜 볼 만한가요인수AMD가 토론토의 AI 칩 스타트업 Taalas를 인수해요GPU 중심이던 AMD의 AI 제품군에 모델 전용 추론 가속기가 더해질 수 있어요기술모델 가중치를 mask-ROM 영역에 새기고 KV 캐시와 미세조정 어댑터는 SRAM에 둬요가중치를 외부 메모리에서 옮기는 부담을 줄여 토큰 생성 속도를 높이려는 구조예요성능시험 칩 HC1.. AI 모델 경쟁은 왜 반도체처럼 비싸지고 빨라질까요 AI 모델 경쟁은 왜 반도체처럼 비싸지고 빨라질까요AI 뉴스 썸네일최상위 AI 모델을 만드는 비용은 빠르게 늘고 있어요. 새 모델을 내놓으면 바로 다음 세대 개발에 들어가야 한다는 점도 첨단 반도체 산업과 닮았어요. 이 구조를 알면 모델 연구소와 응용 서비스의 사업 기회가 왜 다른지 더 선명하게 볼 수 있어요.핵심 요약구분핵심왜 볼 만한가요자본프론티어 모델 훈련비가 8년 동안 해마다 약 2.4배 늘었다는 추산이 나왔어요최상위 모델 경쟁에 참여할 수 있는 기업이 줄어들 수 있어요기술 주기모델을 출시한 뒤에도 곧바로 다음 세대 투자가 필요해요매출 회수보다 연구개발 지출이 먼저 커질 수 있어요응용 시장같은 성능을 구현하는 비용은 빠르게 낮아지고 있어요직접 모델을 만들지 않는 서비스 기업에도 기회가 열려요사업 .. 이전 1 다음
