Anthropic이 오픈 웨이트 전면 금지에 반대한 이유

Anthropic이 오픈 웨이트 전면 금지에 반대한 이유

AI 뉴스 썸네일

Anthropic CEO 다리오 아모데이가 오픈 웨이트 모델을 범주째 금지하는 정책에 반대한다는 입장을 밝혔어요. 위험이 낮은 모델이 개발자와 연구자에게 주는 가치는 인정하되, 강력한 모델은 공개 방식과 관계없이 능력을 기준으로 검사해야 한다는 주장이에요. 1

핵심 요약

구분	핵심	왜 볼 만한가요
오픈 웨이트	위험한 능력이 없는 모델은 기업·개발자·연구자에게 유용한 공공재로 봐요	전면 금지보다 모델 능력에 따른 규칙을 제안했어요
국가안보	고성능 칩과 제조 장비의 수출·밀수 통제를 우선 과제로 꼽았어요	모델 공개 여부보다 강력한 모델의 개발 능력을 직접 겨냥해요
안전성	출시 전에 사이버·생물학·정렬 위험을 시험하자고 제안했어요	공개 모델과 비공개 모델에 같은 능력 기준을 적용해요
모델 증류	산업 규모의 증류를 법률·정책·상업 수단으로 막자고 했어요	오픈 웨이트 전체를 막지 않고 실제 우회 경로를 좁히려는 접근이에요

1. 오픈 웨이트보다 모델의 위험 능력을 보자는 제안

Anthropic은 오픈 웨이트 모델을 금지하자고 주장한 적이 없다고 선을 그었어요. 실행 비용만 부담하면 누구나 활용할 수 있는 저위험 모델은 기업의 선택지를 넓히고, 개발자와 연구자의 실험 비용도 낮춰요. 고객이 모델을 직접 운영하고 수정할 수 있다는 점도 인정했어요. 다만 웨이트가 공개되면 배포본을 회수하기 어렵고, 안전장치를 제거하거나 감시가 닿지 않는 사설 환경에서 실행할 수 있다는 위험도 함께 짚었어요. 2

아모데이가 제시한 첫 번째 대응은 고성능 칩과 제조 장비의 수출 통제예요. 권위주의 정부가 미국보다 강력한 모델을 개발하는 상황을 막으려면 미국 기업의 오픈 웨이트 사용을 제한하기보다 대규모 훈련에 필요한 연산 자원과 밀수 경로를 관리해야 한다고 봤어요. 비공개로 훈련해 군사·감시 목적으로만 쓰는 모델도 위협이 될 수 있어서, 공개 여부만으로는 국가안보 위험을 가려내기 어렵다는 설명이에요. 2

두 번째 대응은 산업 규모의 모델 증류 단속이에요. 강력한 상용 모델의 출력을 대량으로 이용하면 처음부터 훈련할 때보다 적은 컴퓨팅 자원으로 성능을 끌어올릴 수 있어요. Anthropic은 이런 우회가 프런티어 모델 개발 격차를 줄일 수 있다고 봤어요. 그래서 일반적인 연구와 개발을 막는 전면 규제보다 대규모 증류 계정과 조직을 겨냥한 법률·상업 체계가 필요하다고 제안했어요. 2

세 번째 대응은 능력 기준의 출시 전 안전성 테스트예요. 충분히 강력한 모델이라면 공개·비공개 여부나 개발 국가와 관계없이 사이버 공격, 생물학적 악용, 정렬 문제를 시험해야 한다는 내용이에요. 능력이 낮은 스타트업·학계 모델은 의무 대상에서 제외할 수 있다고 덧붙였어요. 규제 범위를 배포 형식이 아니라 측정된 위험에 맞추면 작은 오픈 모델의 활용은 지키면서 고위험 모델에는 같은 기준을 적용할 수 있어요. 2

왜 중요한가요

개발팀이 오픈 웨이트 모델을 검토할 때는 라이선스와 성능만 봐서는 부족해요. 모델을 사내에 내려받으면 데이터 통제권은 커지지만, 업데이트된 안전장치를 자동으로 적용받거나 악용 패턴을 공급자가 감지해 주는 보호는 줄어들 수 있어요. 보안 담당자는 모델의 사이버·생물학 관련 능력, 실행 환경의 접근 권한, 로그 보존, 재배포 가능성을 함께 확인해야 해요. 2

정책 논쟁에서도 기준이 달라질 수 있어요. 모든 오픈 웨이트 모델을 같은 위험으로 취급하면 작은 연구 모델과 고성능 프런티어 모델이 한 규칙에 묶여요. 반대로 능력 평가만 강조하면 배포 뒤 복제와 회수가 어려운 오픈 웨이트의 특성을 놓칠 수 있어요. Anthropic의 제안은 능력 기준 테스트를 중심에 두면서도 칩 통제, 대규모 증류, 배포 후 통제 가능성을 별도로 다루자는 구성이에요.

728x90

이 입장은 Anthropic의 이해관계와 분리해 읽을 필요도 있어요. Anthropic은 비공개 모델을 판매하는 기업이라 경쟁 정책의 영향을 직접 받아요. 이번 글은 회사의 공식 주장이지 독립적인 위험 평가 보고서는 아니에요. 전면 금지에 반대한다는 결론과 함께, 어떤 능력부터 의무 테스트할지와 국제적으로 같은 기준을 어떻게 적용할지는 후속 정책 문서와 실증 결과를 확인해야 해요. 1

참고 자료

1. 오픈 웨이트 모델에 대한 Anthropic의 입장 — GeekNews
2. Our position on open-weights models — Anthropic