Qwen3.8 검열 제거 모델, 맥에서 돌리기 전에 봐야 할 위험

Qwen3.8 검열 제거 모델, 맥에서 돌리기 전에 봐야 할 위험

AI 뉴스 썸네일

Qwen3.8-27B의 거부 성향을 낮춘 MLX 변형 모델이 공개됐어요. 24GB 메모리를 갖춘 Mac에서는 4비트 버전을 로컬로 실행할 수 있지만, 안전장치까지 크게 약해진 모델이라 일반 챗봇처럼 다루면 위험해요. 모델 카드도 최종 사용자용 서비스보다 통제된 안전성 연구에 쓰라고 선을 그어요. 1

핵심 요약

구분	핵심	왜 볼 만한가요
모델	Qwen3.8-27B에서 거부와 관련된 방향을 제거한 변형이에요	거부가 줄었다는 결과를 안전성 향상으로 오해하면 안 돼요
실행 환경	Apple Silicon용 MLX 형식으로 2·4·6·8비트 버전을 제공해요	4비트 파일은 약 15GB이며 24GB Mac이 권장돼요
기능	비전 입력, 262,144토큰 문맥, 도구 호출과 추론 기능을 유지해요	위험한 출력이 텍스트를 넘어 이미지 이해와 도구 사용으로 이어질 수 있어요
주의점	제작자는 일반 사용자, 미성년자, 운영 환경 대상 배포를 용도 밖으로 명시했어요	별도 검토와 안전 계층이 없는 서비스에 연결하면 안 돼요

1. 거부를 줄였지만 더 안전해진 모델은 아니에요

`Qwen3.8-27B-Uncensored-MLX`는 Qwen3.8-27B를 Apple Silicon에서 실행할 수 있도록 변환한 모델이에요. 제작자는 잔차 스트림에서 거부와 관련된 방향을 제거하는 `abliteration`을 적용했다고 설명해요. 원본 모델이 막을 수 있는 유해하거나 불법적인 요청에도 답할 수 있도록 안전 정렬을 크게 낮춘 셈이에요. 2

모델 카드에 적힌 `0 refusals`는 안전성 시험을 통과했다는 점수가 아니에요. 4·6·8비트 버전이 제작자의 거부 시험에서 답변을 피하지 않았다는 자체 측정 결과예요. 거부 기능을 약화한 모델에 같은 시험을 적용한 결과이므로, 정확성이나 무해성을 보장하지 않아요. 제작자도 악성코드, 취약점 악용, 사기와 같은 위험한 요청에 답할 수 있다고 경고해요.

728x90

Mac 메모리에 따라 선택지가 달라져요

버전	파일 크기	모델 카드의 권장 Mac 메모리	설명
8비트	약 27.5GB	32GB	품질을 우선한 버전이에요
6비트	약 22GB	24~32GB	크기와 품질 사이를 맞춘 버전이에요
4비트	약 15GB	24GB	제작자가 기본값으로 권장해요
2비트	약 8.7GB	16GB	반복과 깨진 출력이 생겨 보관용에 가까워요

2비트 버전은 작은 메모리에도 들어가지만, 실사용 대안으로 보기 어려워요. 모델 카드의 자체 측정에서 수치 유사도가 0.92로 떨어졌고, 반복되는 문장과 망가진 출력이 나타났어요. 반면 4비트는 0.996, 6비트와 8비트는 각각 0.9996과 0.9997로 기록됐어요. 이 수치는 원본 가중치와 양자화 가중치의 수치적 유사도예요. 실제 업무 정확도나 안전성을 뜻하지 않아요. 2

기능이 남아 있어 통제 범위도 넓어져요

비전 입력과 최대 262,144토큰 문맥, 도구 호출, 추론 기능이 그대로 남았어요. 로컬에서 단순 대화를 시험하는 경우와 외부 도구를 연결하는 경우의 위험은 달라요. 파일 쓰기, 네트워크 요청, 셸 실행 같은 권한을 붙이면 잘못된 답변이 실제 동작으로 이어질 수 있어요.

안전성 연구에 쓴다면 네트워크와 계정을 분리한 환경이 필요해요. 도구 권한은 기본적으로 끄고, 입력과 출력을 기록하며, 사람이 결과를 확인할 수 있어야 해요. 일반 사용자가 접속하는 서비스에는 별도 유해성 탐지와 권한 제한을 붙여야 해요. 모델 카드도 자체 안전 계층 없이 최종 사용자나 미성년자에게 제공하거나 운영 환경에 배포하는 용도를 제외해요. 2

왜 중요한가요

로컬 LLM은 데이터가 기기 밖으로 나가지 않는 구성을 만들 수 있고, 반복 실험 비용도 줄일 수 있어요. 하지만 로컬 실행 자체가 안전을 보장하지는 않아요. 특히 거부 동작을 의도적으로 제거한 모델은 입력 데이터 보호, 출력 검토, 도구 권한 제한을 각각 설계해야 해요.

안전 정렬 전후의 행동을 비교하려는 연구자는 이 모델을 통제된 실험에 쓸 수 있어요. 일반 사용자는 답변 거부율보다 모델에 연결할 권한 범위를 먼저 봐야 해요. 모델 카드가 공개한 목적과 위험 범위를 먼저 확인하고, 통제된 환경 밖에서는 사용하지 않는 편이 안전해요. 2

참고 자료

1. Qwen3.8-27B-Uncensored-MLX - 애플 실리콘용 검열 제거 버전 — GeekNews
2. orcarouter/Qwen3.8-27B-Uncensored-MLX — Hugging Face 모델 카드