OpenAI는 AI 생태계의 안전성과 투명성을 높이기 위해 콘텐츠 출처(provenance) 정보를 고도화하는 다층적 접근 방식을 제시합니다. 이는 AI 생성 콘텐츠의 출처를 사람들이 명확하게 이해하고 신뢰를 구축하도록 돕는 것을 목표로 합니다.

이러한 목표를 달성하기 위한 핵심 방법론은 다음과 같습니다.

1. C2PA(Coalition for Content Provenance and Authenticity) 적합성 확보:

OpenAI는 2024년부터 C2PA 표준 개발 및 도입에 참여해왔으며, DALL·E 3, ImageGen, Sora 등으로 생성된 이미지에 Content Credentials를 추가하기 시작했습니다. C2PA는 메타데이터(metadata)와 암호학적 서명(cryptographic signatures)을 사용하여 미디어에 대한 정보를 콘텐츠 자체와 함께 안전하게 이동시키는 개방형 기술 표준입니다. 이 정보에는 콘텐츠의 생성 출처, 편집 이력 등이 포함되어 기자, 플랫폼, 일반 사용자 등이 미디어의 신뢰성을 평가하는 데 필요한 맥락을 제공합니다. OpenAI는 최근 "C2PA 적합 생성 제품"이 됨으로써, 플랫폼이 OpenAI 콘텐츠에 첨부된 출처 정보를 신뢰할 수 있는 방식으로 읽고, 보존하고, 전달할 수 있도록 지원합니다. 이는 출처 정보가 콘텐츠의 최초 생성 플랫폼을 넘어 유지되어야만 의미가 있다는 점에서 중요합니다.

2. Google SynthID 워터마킹 도입:

C2PA 메타데이터는 출처의 중요한 기반을 제공하지만, 메타데이터는 제거되거나, 파일 형식 변경, 크기 조정, 스크린샷과 같은 변환 과정에서 손상되거나 사라질 수 있는 한계가 있습니다. 이러한 메타데이터의 취약점을 보완하기 위해 OpenAI는 Google DeepMind의 SynthID를 활용한 워터마킹 기술을 도입했습니다. SynthID는 ChatGPT, Codex 또는 OpenAI API를 통해 생성된 이미지에 눈에 보이지 않는(invisible) 워터마크 계층을 삽입합니다. 이 워터마크는 스크린샷과 같은 이미지 변환에도 불구하고 더 오래 지속될 수 있는 내구성(resilience)을 가집니다. SynthID는 C2PA가 제공하는 상세한 맥락 정보를 보완하여, 메타데이터가 유지되지 않는 상황에서도 콘텐츠 출처 신호를 보존하는 역할을 합니다. 이 두 시스템의 결합은 각각을 단독으로 사용할 때보다 콘텐츠 출처 정보의 복원력(resilience)을 크게 강화합니다.

3. 공개 검증 도구(Public Verification Tool) 미리보기:

아무리 견고한 메타데이터와 워터마크가 적용되더라도, 일반 사용자가 이러한 출처 신호의 존재 여부를 확인할 수 있는 방법이 필요합니다. 이를 위해 OpenAI는 ChatGPT, OpenAI API, Codex에서 생성된 이미지인지 확인할 수 있는 공개 검증 도구의 프리뷰 버전을 선보였습니다. 이 도구는 업로드된 이미지에서 Content Credentials(C2PA 메타데이터)와 SynthID 등 출처 신호를 감지합니다. 이 도구는 여러 신호를 통합하여 "이 콘텐츠는 AI로 생성되었는가?"라는 질문에 답하는 데 도움을 줍니다. 탐지 방법이 완벽하지 않다는 점을 인지하여, 메타데이터나 워터마크가 탐지되지 않더라도 해당 이미지가 OpenAI 도구로 생성되지 않았다고 단정적인 결론을 내리지 않는 신중한 접근 방식을 취합니다. 현재 이 도구는 OpenAI가 생성한 콘텐츠로 제한되지만, 향후 범산업적 노력을 지원하여 더 많은 유형의 콘텐츠에 대한 검증을 가능하게 하는 것을 목표로 합니다.

이러한 다층적 접근 방식은 공통 표준(C2PA), 오래 지속되는 워터마킹 신호(SynthID), 그리고 공개 검증 도구를 결합하여, 궁극적으로 더 상호운용 가능한(interoperable) 출처 생태계를 구축하고 온라인상의 정보에 대한 신뢰를 강화하는 데 기여합니다.