C2PA 콘텐츠 자격 증명과 AI 워터마크란?

AI 표시의 네 가지 층

AI 콘텐츠는 서로 독립적인 여러 방식으로 표시할 수 있습니다. 해결하는 문제가 다르며, 제대로 된 시스템은 대부분 둘 이상을 함께 씁니다.

2025-09-01부터 시행 중인 중국의 표시 방법은 이 중 둘을 직접 언급합니다. 사람이 보거나 들을 수 있는 명시적 표시, 그리고 파일 메타데이터에 넣는 암묵적 표시이며, 디지털 워터마크를 권장합니다. EU AI법 제50조도 마찬가지로 생성형 AI 제공자가 합성 결과물을 기계가 읽고 탐지할 수 있는 방식으로 표시하도록 요구합니다.

C2PA 매니페스트의 동작 방식

C2PA(Coalition for Content Provenance and Authenticity)는 개방형 기술 사양을 공개합니다. 이 데이터의 소비자용 이름이 콘텐츠 자격 증명입니다. 매니페스트는 세 부분으로 이루어집니다.

1. 어서션(Assertions): 파일에 관한 진술입니다. 제작 도구, 수행한 작업(생성, 자르기, 색 보정), 썸네일, 재료(이 파일의 바탕이 된 이전 파일) 등이 있습니다.
2. 클레임(Claim): 해당 어서션을 가리키는 목록으로, 해시가 들어 있어 나중에 아무도 바꿀 수 없습니다.
3. 클레임 서명: 서명자의 개인 키로 만든 디지털 서명이며 X.509 인증서로 식별됩니다. HTTPS와 같은 종류의 인증서 체계입니다.

매니페스트에는 하드 바인딩도 들어 있습니다. 이미지나 영상 데이터의 암호학적 해시입니다. 서명 후 픽셀이 하나만 바뀌어도 해시가 맞지 않게 되고, 검증기는 콘텐츠가 변경되었다고 알립니다. C2PA를 지원하는 편집기가 수정을 하면 이전 매니페스트를 재료로 나열한 새 매니페스트를 추가해 편집의 사슬을 만듭니다.

JPEG, PNG, MP4 같은 일반 형식에서 매니페스트는 파일 안의 JUMBF 박스에 저장됩니다. 파일이 다른 곳에 저장된 매니페스트로 가는 링크만 담을 수도 있습니다.

Content Credentials (simplified view)
  Signed by:     Example Camera Co. (certificate valid)
  Created with:  Example Image Generator
  Actions:       c2pa.created
    digitalSourceType: trainedAlgorithmicMedia
  Then:          c2pa.cropped, c2pa.color_adjustments (Example Editor)
  Ingredients:   1 earlier file
  Hash check:    content matches signature

C2PA 설명서는 범위를 분명히 합니다. 출처 증명은 콘텐츠가 어디서 왔고 어떻게 바뀌었는지를 알려 줄 뿐, 그 내용이 사실인지는 말해 주지 않습니다. 연출한 장면을 찍은 서명된 사진도 여전히 연출입니다.

IPTC 디지털 소스 유형: 메타데이터 속 AI 필드

뉴스 미디어 메타데이터의 표준 기구인 IPTC는 디지털 소스 유형(digital source type)이라는 어휘집을 관리합니다. 같은 용어가 IPTC 사진 메타데이터와 C2PA 액션 어서션 안에서 쓰입니다. AI와 가장 관련이 깊은 용어는 다음과 같습니다.

플랫폼은 이 값을 읽어 "Made with AI"나 "AI info" 같은 라벨을 언제 표시할지 판단합니다. IPTC 필드 자체는 서명되지 않으므로 누구든 쓰거나 지울 수 있습니다. C2PA 매니페스트 안에서는 같은 값이 서명으로 보호됩니다.

메타데이터를 지우면 자격 증명도 사라지는 이유

메타데이터와 내장 매니페스트는 이미지 데이터 안이 아니라 그 옆에 있습니다. 픽셀만으로 새 파일을 쓰는 모든 작업은 이를 떨어뜨립니다.

• 스크린샷이나 화면 녹화를 하는 경우.
• 개인정보 보호나 용량을 이유로 이미지를 다시 인코딩하고 메타데이터를 제거하는 플랫폼에 업로드하는 경우.
• 메타데이터를 복사하지 않는 도구로 PNG를 JPEG로 바꾸는 등 형식을 변환하는 경우.
• EXIF, GPS, XMP 같은 블록을 지우도록 만들어진 메타데이터 제거기를 실행하는 경우.
• 클립보드로 앱 사이에서 이미지를 복사해 붙여넣는 경우.

이는 특정 도구의 결함이 아니라 예상되는 동작입니다. 사진을 공유하기 전에 위치 정보를 지우는 것은 좋은 개인정보 보호 습관입니다. 예를 들어 cv.cm의 EXIF 도구는 브라우저에서 EXIF와 GPS 데이터를 제거하는데, 이때 내장된 자격 증명도 함께 사라집니다. 이미지의 출처를 증명해야 한다면 서명된 원본 파일을 보관하고 변경하지 않은 채로 공유하세요.

C2PA의 해법은 내구성 있는 콘텐츠 자격 증명입니다. 하드 바인딩에 소프트 바인딩, 즉 비가시성 워터마크나 지각적 지문을 결합합니다. 워터마크나 지문을 찾은 검증기는 파일의 메타데이터가 지워진 뒤에도 매니페스트 저장소에서 원본 매니페스트를 조회할 수 있습니다.

SynthID 같은 비가시성 워터마크

비가시성 워터마크는 사람은 알아채지 못하지만 탐지기는 찾아낼 수 있는 방식으로 콘텐츠 자체를 바꿉니다. 예를 들어 Google DeepMind의 SynthID는 이미지, 영상, 오디오, 텍스트를 다룬다고 설명됩니다. 이미지와 영상에서는 자르기, 필터, 프레임 레이트 변경, 손실 압축을 견디도록, 오디오에서는 잡음 추가, MP3 압축, 속도 변경을 견디도록 설계되었습니다. 텍스트에서는 모델이 고르는 단어의 확률을 미세하게 조정합니다.

이런 종류의 모든 워터마크에는 중요한 한계가 있습니다.

• 짝이 맞는 탐지기만 읽을 수 있습니다. SynthID 검사는 다른 워터마크를 쓰거나 아무것도 쓰지 않는 모델의 이미지에 대해서는 아무것도 알려 주지 못합니다.
• 견고하다는 것이 영구적이라는 뜻은 아닙니다. 강한 편집, 다른 모델로 이미지를 재생성, 텍스트 다시 쓰기는 신호를 약하게 하거나 없앨 수 있습니다.
• 텍스트 워터마크는 짧은 글과 번역하거나 바꿔 쓴 글에서 가장 약합니다.
• 워터마크는 협력하는 제공자가 콘텐츠를 생성하거나 편집했다는 것을 보여 줄 뿐, 어느 부분이 바뀌었는지, 장면이 사실인지는 보여 주지 않습니다.

개인용 비가시성 워터마크는 다른 목적의 다른 도구입니다. 예를 들어 cv.cm의 워터마크 도구로 내 사진에 숨겨 둔 표시는 나중에 어떤 사본이 내 파일에서 나왔음을 보여 주는 데 도움이 됩니다. AI 표시가 아니며 이를 읽는 플랫폼도 없습니다.

AI 탐지의 한계

임의의 파일을 보고 "AI"인지 "진짜"인지 확실하게 말해 주는 방법은 없습니다. 다음 원칙을 기억하세요.

1. 유효한 자격 증명은 누가 서명했고 무엇을 선언했는지를 알려 줍니다. 신뢰는 그 서명자를 신뢰하느냐에 달려 있습니다.
2. 자격 증명이 없다는 것은 아무것도 증명하지 않습니다. 온라인의 실제 사진 대부분에는 자격 증명이 없습니다. 플랫폼이 지우고 대부분의 카메라는 서명하지 않기 때문입니다.
3. 워터마크가 발견되면 그 제공자의 모델이라는 강한 증거입니다. 워터마크가 발견되지 않는 것은 어떤 것에 대해서도 약한 증거일 뿐입니다.
4. 시각적·통계적 패턴으로 추측하는 분류기 방식의 AI 탐지기는 오탐과 미탐이 있습니다. 이것만으로 누군가를 단정하지 마세요.
5. 신호를 조합하세요. 자격 증명, 워터마크, 출처 계정, 가장 이른 업로드, 그리고 역이미지 검색이나 물리적 오류 찾기 같은 일반적인 확인을 함께 합니다.

창작자에게 실용적인 규칙은 간단합니다. 생성기의 원본 파일을 자격 증명이 붙은 채로 보관하고, 플랫폼이나 법이 요구하는 곳에는 눈에 보이는 표시를 달고, 게시하는 콘텐츠에서 AI 표시를 지우려 하지 마세요.