500달러로 학습한 9B 모델, 상품 검수에서 프런티어 모델을 앞섰어요

500달러로 학습한 9B 모델, 상품 검수에서 프런티어 모델을 앞섰어요

AI 뉴스 썸네일

9B 오픈소스 모델을 약 500달러 들여 강화학습한 실험에서 대형 프런티어 모델보다 높은 상품 검수 점수가 나왔어요. FermiSense가 공개한 자체 평가 기준으로 학습 모델은 최대 점수의 87.3%를 얻었고, 가장 좋은 프런티어 모델 구성은 76.9%를 기록했어요. 1

핵심 요약

구분	핵심	왜 볼 만한가요
학습 규모	9B 오픈소스 모델을 GPU 2대로 약 3.5일간 학습했어요	약 500달러의 학습비로 특정 업무 성능을 크게 높인 사례예요
평가 결과	학습 모델은 87.3%, 최상위 프런티어 구성은 76.9%를 기록했어요	모델 크기보다 작업 환경과 평가 기준이 성능을 좌우할 수 있어요
운영 비용	상품 1,000개 검수 비용을 약 0.50달러로 계산했어요	대량 반복 업무에서는 작은 비용 차이도 연간 예산을 크게 바꿔요
적용 조건	정답과 벌점을 명확히 매길 수 있는 업무를 대상으로 삼았어요	모든 AI 업무가 아니라 채점 가능한 전문 작업에 맞는 접근이에요

1. 상품 검수 업무를 학습 환경으로 다시 만들었어요

전자상거래 상품 검수는 제목과 이미지가 맞는지 보는 데서 끝나지 않아요. 상품 분류 체계를 검색하고, 브랜드 등록 여부를 확인하고, 카테고리별 속성을 추출하고, 정책 위반 여부까지 판정해야 해요. 근거가 부족하거나 위험이 큰 상품은 사람이 검토하도록 넘겨야 해요. 2

연구팀은 이 과정을 디지털 트윈으로 만들었어요. Amazon Berkeley Objects의 상품 자료를 바탕으로 17만 7,767개 검수 에피소드를 구성했고, 약 1만 3,000개 상품 분류와 브랜드 조회, 속성 스키마 검색 도구를 연결했어요. 각 에피소드에는 정답이 있어 잘못된 분류, 근거 없는 속성, 정책 위반 누락, 불필요한 도구 호출에 점수를 매길 수 있었어요. 실제 위반을 놓치는 비용은 오탐보다 7배 크게 설정했어요. 2

학습에는 GRPO 방식과 9B 오픈소스 모델을 썼어요. RTX PRO 6000 GPU 2대를 빌려 한 대는 응답 생성에, 다른 한 대는 가중치 갱신에 배치했어요. 1,000단계 학습에 약 3.5일과 500달러가 들었고, 약 250단계부터 비교 대상 프런티어 모델의 점수 구간을 넘어섰다고 연구팀은 밝혔어요. 2

같은 조건에서 성능과 비용을 비교했어요

평가에는 같은 상품 이미지, 도구, 채점기, 턴 예산을 적용했어요. 미학습 9B 모델은 달성 가능한 최대 점수의 64.2%를 얻었어요. GRPO 학습 뒤에는 87.3%로 올랐어요. 가장 높은 프런티어 모델 구성의 76.9%보다 10.4%포인트 높은 결과예요. 다만 이 수치는 FermiSense가 설계한 상품 검수 환경과 자체 평가표에서 나온 결과라 다른 업무의 일반 성능을 뜻하지는 않아요. 2

비용 차이도 컸어요. 연구팀은 전문 모델의 검수 비용을 상품 1,000개당 약 0.50달러로 계산했어요. 비교한 프런티어 모델은 1,000개당 19~172달러가 들었어요. 가장 저렴한 구성과 비교해도 40배 차이가 나요. 하루 수천만 건을 처리하는 카탈로그라면 호출당 몇 센트의 차이가 연간 운영비를 바꿀 수 있어요. 이 계산에는 실제 배포 환경의 서버 이용률, 장애 대응, 재학습, 모니터링 비용을 함께 따져야 해요. 2

전문 모델이 잘 맞는 업무는 따로 있어요

이 접근은 결과를 자동으로 채점할 수 있는 반복 업무에 잘 맞아요. 상품 분류, 속성 추출, 정책 판정처럼 정답과 오류 비용을 구체적으로 정의할 수 있어야 해요. 기업 고유의 분류 체계와 예외 처리 방식은 모델 가중치에 학습시키고, 가격이나 재고, 최신 정책처럼 자주 바뀌는 정보는 검색 도구에서 가져오는 식으로 역할을 나눠요.

728x90

반대로 정답이 모호하거나 새로운 상황이 자주 생기는 업무에는 같은 결과를 기대하기 어려워요. 학습 환경이 실제 운영을 충분히 닮지 않으면 모델은 평가표에만 잘 맞는 행동을 익힐 수 있어요. 검증 데이터 분리, 운영 중 성능 변화, 사람이 넘겨받아야 할 기준을 함께 설계해야 해요.

왜 중요한가요

기업이 범용 프런티어 모델을 모든 요청에 계속 호출하는 방식 외에 다른 선택지를 보여줘요. 먼저 범용 모델로 자동화 가능성과 기준 성능을 확인하고, 실행 기록과 수정 내용을 모은 뒤, 호출량이 큰 전문 업무를 작은 모델로 옮길 수 있어요. 모델 비용을 줄이는 동시에 기업 내부의 판단 기준을 더 일관되게 반영하려는 방식이에요. 2

이번 결과는 작은 모델이 범용 모델보다 항상 낫다는 증거는 아니에요. 좁고 채점 가능한 업무에서는 학습 데이터와 평가 환경이 모델 크기보다 더 큰 차이를 만들 수 있다는 사례에 가까워요. 도입을 검토하는 팀이라면 모델 선정 전에 업무 한 건의 정답, 허용할 오탐과 누락, 도구 호출 비용, 인간 검토 조건부터 수치로 정해야 해요.

참고 자료

1. 500달러로 미세조정한 9B 오픈 모델, 카탈로그 검수에서 프런티어 모델 능가 — GeekNews
2. The Rise of Intelligence Ownership: a task-trained open source model vs the frontier — FermiSense