이 논문은 Anthropic의 AI 모델인 Claude에 적용되는 텍스트 워터마킹(Text Watermarking) 기술의 원리, 목적 및 한계점을 다룹니다.

1. 목적 및 배경

Anthropic은 EU AI Act 및 관련 행동 강령(Code of Practice)을 준수하기 위해 2026년 8월 2일부터 Claude 모델이 생성하는 텍스트에 워터마크를 도입했습니다. 이는 AI 생성 콘텐츠의 투명성을 확보하기 위함이며, Claude를 포함한 주요 AI 제공업체들이 공통적으로 추진하는 사항입니다.

2. 핵심 방법론: SynthID-Text

Claude의 워터마킹은 Google DeepMind가 발표한 SynthID-Text 방식을 기반으로 합니다.

• 확률적 선택의 재구성: LLM은 다음 토큰을 생성할 때 가능한 후보군들 중에서 확률에 따라 단어를 선택합니다. 기존 방식이 임의의 난수 생성기(Random Number Generator)를 사용했다면, 워터마킹은 특정 Key와 이전 문맥(preceding text)을 입력으로 받아 난수를 생성합니다.
• 패턴 삽입: 모델이 선택할 수 있는 여러 후보 중 의미적으로 차이가 없는 'Low-stakes choices' 상황에서, 특정 Key를 기반으로 단어를 선택하게 함으로써 결과물 내에 통계적 패턴을 형성합니다.
• 검증 과정: 생성된 텍스트의 단어 시퀀스가 해당 Key를 사용했을 때 나타날 수 있는 패턴과 일치하는지 수학적으로 분석하여, 해당 텍스트가 Claude에 의해 생성되었을 확률을 추정합니다.
• 기술적 특징: 이 방식은 모델의 출력 품질, 창의성, 가독성에 전혀 영향을 주지 않습니다. 추가적인 토큰을 소모하지 않으며, 성능 저하나 비용 증가를 유발하지 않습니다.

3. 주요 특성 및 한계

• 가시성: 텍스트 내에 숨겨진 문자나 별도의 추가 데이터가 포함되지 않으며, 인간 독자는 워터마크 여부를 구별할 수 없습니다.
• 정확성 제약: 사실 중심의 문장이나 코드처럼 선택의 여지가 적은(단 하나의 정답만 존재하는) 경우 워터마킹이 적용될 공간이 거의 없습니다.
• 편집의 영향: 텍스트를 크게 수정하거나 재작성할 경우 워터마크는 무효화됩니다. 반면, Claude가 사람의 글을 경미하게 교정(Proofreading)하는 경우에는 워터마크가 남을 정보량이 부족하여 탐지가 어려울 수 있습니다.
• 개인정보: 워터마크에는 특정 사용자, 조직, 대화 내용을 식별할 수 있는 어떠한 정보도 포함되지 않습니다.

4. 이미지 및 타 매체와의 차이점

• 이미지 파일: Claude가 생성하는 이미지 파일에는 메타데이터 내에 C2PA(Content Authenticity Initiative 표준) 방식의 디지털 서명을 추가하여 Claude가 제작에 관여했음을 알립니다. 이는 텍스트 워터마킹(확률적 패턴 삽입)과는 근본적으로 다른 방식입니다.
• 기존 AI 탐지 도구와의 차이: 시중의 AI 탐지 소프트웨어(예: Pangram)는 모델의 특정 구문 패턴(예: "this isn't X, it's Y"와 같은 문구 사용)을 분석하는 반면, 이 방식은 수학적 Key를 사용하는 엄밀한 통계적 검증 방식이라는 점에서 차이가 있습니다.

5. 요약

본 기술은 AI의 창의적이고 지적인 능력을 저해하지 않으면서도, 사후적으로 Claude의 관여 여부를 확률적으로 검증할 수 있게 하는 효율적인 투명성 확보 장치입니다. 이는 텍스트 자체의 의미론적 무결성을 유지하면서, 기술적 증거를 삽입하는 정교한 확률적 방법론을 채택하고 있습니다.