이 문서는 Anthropic이 EU AI Act의 제50조 2항(Code of Practice on Transparency of AI-Generated Content)을 준수하기 위해 추진하는 AI 생성 콘텐츠의 투명성 확보 전략과 기술적 구현 방안을 상세히 설명합니다.

핵심 목표 및 적용 범위

Anthropic은 생성형 AI 모델 및 시스템 공급자로서, AI 생성 콘텐츠의 출처를 식별하기 위한 기계 판독 가능한(machine-readable) 마킹을 도입합니다. 2026년 8월 2일 이후 출시되는 모든 Claude 모델은 출시 시점부터 마킹이 지원되며, 이전 모델들에 대해서도 법적 전환 기간 내에 마킹 기능을 소급 적용할 계획입니다. 마킹은 API, 웹 서비스, Claude Code, Claude Cowork 등 모든 제품군과 전 세계 서비스 지역에 공통으로 적용됩니다.

기술적 구현 방법론 (Core Methodology)

Claude는 콘텐츠의 투명성을 위해 다음 두 가지 상호 보완적인 기술을 활용합니다.

1. Embedded Watermarks (텍스트 내장 워터마크):
   • 모델 수준에서 생성되는 텍스트에 사람이 인지할 수 없는 형태의 정보를 삽입합니다.
   • 텍스트의 의미, 품질, 가독성을 저해하지 않으면서도 복사 및 붙여넣기 등의 편집 과정을 거쳐도 유지되는 속성을 가집니다.
   • 이는 모델이 토큰을 생성할 때 특정 확률 분포를 조정하거나 미세한 변조를 가하는 방식을 통해 구현되며, 추후 배포될 기술 문서를 통해 탐지 메커니즘이 구체화될 예정입니다.

2. Signed Provenance Metadata (디지털 서명된 출처 메타데이터):
   • .svg, .png, .jpg와 같이 Claude가 처리하는 파일 형식에 대해 C2PA (Coalition for Content Provenance and Authenticity) 오픈 표준을 적용합니다.
   • 디지털 서명을 통해 해당 파일이 Claude에 의해 처리되었음을 보증하고, 처리 이후 파일의 변조 여부를 검증할 수 있는 무결성 정보를 제공합니다.

탐지 및 한계점 (Limitations)

Anthropic은 사용자 및 제3자가 Claude의 마킹을 확인할 수 있는 검증 도구를 제공할 계획입니다. 그러나 마킹의 존재가 콘텐츠의 완전한 출처를 보증하지는 않으며 다음과 같은 한계가 존재합니다.

• 비결정론적 신호: 마킹은 콘텐츠가 Claude에 의해 처리되었을 가능성을 나타낼 뿐, 최종 결과물의 모든 지적 재산권이나 생성 기원을 완벽하게 확증하지는 않습니다(예: 단순 교정이나 번역 수행 등).
• 편집 및 변조: 마킹이 포함된 텍스트가 대량으로 수정, 의역, 번역되거나 다른 내용과 혼합될 경우, 혹은 텍스트가 너무 짧아 충분한 통계적 신호가 확보되지 않을 경우 탐지가 어려울 수 있습니다.
• 데이터 소실: 메타데이터의 경우, 포맷 변환, 재저장, 스크린샷 캡처 등의 과정을 통해 삭제될 수 있습니다.

결론

Anthropic은 자체적인 투명성 확보뿐만 아니라, Claude를 자사 제품에 통합하는 파트너들이 EU AI Act의 의무 사항을 충족할 수 있도록 향후 상세한 기술 가이드를 제공할 방침입니다. 이는 기술적으로는 C2PA 표준 준수와 텍스트 임베딩 기술을 결합하여 생성형 AI 콘텐츠에 대한 신뢰성 있는 식별 환경을 구축하는 것을 목적으로 합니다.