Claude 텍스트 워터마크, 단어 선택을 바꿔도 품질은 같을까요

Claude 텍스트 워터마크, 단어 선택을 바꿔도 품질은 같을까요

AI 뉴스 썸네일

Anthropic이 앞으로 나올 Claude 모델의 텍스트에 워터마크를 넣겠다고 밝혔어요. 숨은 유니코드 문자를 심는 방식은 아니에요. 다음 단어를 고를 때 여러 자연스러운 후보 중 특정 패턴에 맞는 단어를 선택해 통계적 흔적을 남겨요. 3

이 방식은 읽는 사람이 표시를 눈으로 찾을 수 없다는 장점이 있어요. 하지만 글의 단어 선택을 실제로 바꾼다는 점에서 논쟁이 생겼어요. Daring Fireball의 존 그루버는 비슷한 뜻의 단어라도 어조와 리듬이 다르다며, 출처 표시를 위한 확률 조정이 산문의 정확성을 해칠 수 있다고 비판했어요. 2

핵심 요약

구분	내용
작동 방식	Claude가 다음 단어를 고를 때 비밀 키와 앞 문맥을 이용해 선택 패턴을 남겨요.
적용 이유	Anthropic은 EU AI Act와 AI 생성 콘텐츠 투명성 행동강령을 준수하기 위해 도입한다고 밝혔어요.
적용 범위	출시 시점에는 지역을 안정적으로 구분하기 어려워 전 세계에 적용할 계획이에요.
품질 논쟁	Anthropic은 품질 차이가 없다고 설명하지만, 비평가들은 단어가 달라지면 뉘앙스도 달라질 수 있다고 지적해요.
탐지 한계	짧은 글은 판별하기 어렵고, 강하게 다시 쓰면 흔적이 사라질 수 있어요. 탐지는 Claude 관여 가능성을 확률로 보여줘요.

1. Claude 워터마크는 문장 안에 통계적 습관을 남겨요

LLM은 앞 문맥을 보고 다음 토큰 후보마다 확률을 매겨요. 워터마크는 그중 의미와 품질이 비슷하다고 판단한 후보를 고르는 과정에 비밀 키를 반영해요. 특정 단어를 항상 선호하는 고정 목록은 없어요. 같은 단어도 앞 문맥에 따라 다른 후보 묶음에 들어갈 수 있어요. 3

제공자는 완성된 글에서 이런 선택이 우연보다 자주 나타났는지 계산해요. 글이 길수록 관찰할 선택 지점이 많아져 판별 신뢰도가 올라가요. 반대로 짧은 문장이나 정답이 분명한 설명은 표시를 남길 여지가 적어요. Anthropic도 짧은 표본에서는 탐지가 잘 작동하지 않는다고 밝혔어요.

728x90

코드는 일반 산문보다 영향을 덜 받아요. 함수명이나 문법처럼 정확한 답이 필요한 곳에는 확률 조정을 적용하기 어렵기 때문이에요. 여러 표현이 모두 가능한 주석에는 워터마크가 들어갈 수 있어요. 사람이 쓴 글을 문법과 문장부호 위주로 가볍게 교정한 때도 Claude가 새로 고른 단어가 적으면 탐지되지 않을 수 있어요.

품질이 같다는 근거는 어디까지 확인됐나요

Anthropic은 내부 시험에서 내용, 창의성, 가독성 차이를 찾지 못했다고 설명해요. 채택한 방식은 Google DeepMind가 2024년 Nature에 공개한 SynthID-Text 계열이에요. Gemini 트래픽 일부에 워터마크를 적용한 실험에서도 긍정 평가와 부정 평가 비율에 통계적으로 유의한 차이가 없었다고 밝혔어요. 통제된 비교 평가에서도 사람 평가자가 품질 차이를 찾지 못했다고 덧붙였어요. 3

이 결과가 모든 문장의 단어 선택이 완전히 같다는 뜻은 아니에요. 워터마크는 후보를 고르는 난수의 출처를 바꾸고, 그 결과 실제 출력 단어가 달라질 수 있어요. 그루버는 `leaped`와 `jumped`처럼 뜻이 가까운 단어도 문장의 리듬과 온도가 다르다고 지적해요. 긍정·부정 평가처럼 거친 지표가 이런 작은 차이를 얼마나 잘 잡는지도 따져볼 부분이에요. 1

탐지 결과는 저자 판정서가 아니에요

Anthropic이 준비 중인 탐지 API는 입력한 글에 Claude가 관여했을 가능성을 계산해요. Claude가 처음부터 쓴 글과 Claude가 많이 고친 글을 구분하지 못해요. 다른 회사 모델이 쓴 글인지도 판별하지 못해요. 각 회사가 서로 다른 비밀 키와 방식을 쓰기 때문이에요.

워터마크에는 사용자, 조직, 대화 정보를 담지 않는다고 Anthropic은 설명해요. 개인을 추적하는 식별표는 아니에요. 다만 사용자가 직접 검사할 공개 도구는 아직 나오지 않았어요. 탐지 API의 제공 범위와 판정 기준은 추후 공개될 예정이에요.

강한 재작성은 흔적을 없앨 수 있어요. Anthropic도 모든 단어를 바꾸는 수준의 재작성이라면 워터마크가 사라진다고 인정해요. 가벼운 편집은 흔적을 일부 남길 수 있어요. 번역은 Claude가 대부분의 단어를 새로 선택하므로 워터마크 대상이 돼요.

왜 중요한가요

글쓰기 도구를 고를 때 이제 문장 품질과 출처 표시를 함께 봐야 해요. 보고서, 제품 카피, 소설처럼 단어 하나의 뉘앙스가 중요한 작업이라면 워터마크가 실제 선택에 얼마나 개입하는지 공개 평가가 더 필요해요. 평균적인 만족도 차이가 작더라도 특정 문체나 언어에서 차이가 벌어질 수 있어요. 현재 공개 설명만으로는 한국어 산문에서의 영향까지 확인하기 어려워요. 3

교정과 번역의 경계도 흐려져요. 사람이 쓴 글을 Claude가 많이 다듬으면 탐지기는 Claude가 관여했을 가능성을 높게 볼 수 있어요. 이 결과만으로 실제 저자나 부정행위를 단정하면 안 돼요. 학교와 기업은 확률 점수 하나보다 원고 이력, 수정 기록, 인용 자료를 함께 확인할 필요가 있어요.

Anthropic은 EU 규정 준수를 도입 이유로 들었어요. 지역별 적용을 안정적으로 제한하기 어려워 출시 때는 전 세계 출력에 적용할 계획이라고 밝혔어요. EU 밖의 사용자도 같은 변화를 겪는 셈이에요. 향후 탐지 API가 누구에게 열리는지, 오탐지 이의를 어떻게 처리하는지, 한국어를 포함한 언어별 평가가 공개되는지가 실제 신뢰도를 가를 거예요.

참고 자료

1. Claude의 ‘워터마크’가 글쓰기를 왜곡하는 방식 — GeekNews
2. Anthropic’s ‘Watermark’ Text Adulteration in Claude Is a Perversion of Writing — Daring Fireball
3. How Claude’s text watermark works — Anthropic