# 단어 10%만 바꾸면 AI가 쓴 글이 사람 글이 될까

> 2026-11-13 · 소프트웨어 · 머신러닝
> https://hyna.dev/posts/ai-watermarks-2026

AI가 쓴 글의 단어를 10%만 동의어로 바꾸면 워터마크가 사라질까요. OpenAI가 2026년 10월에 낸 측정이 이 질문에 꽤 정확히 답합니다. 400토큰짜리 글을 그대로 두면 워터마크 검출기가 92%를 잡아냅니다. 단어 10%를 바꾸면 66%, 25%를 바꾸면 17%로 떨어집니다.

![가로축은 동의어로 바꾼 단어 비율, 세로축은 워터마크 검출률인 그래프. 측정한 점 세 개가 선분으로 이어져 있습니다. 하나도 바꾸지 않으면 92%, 10%를 바꾸면 66%, 25%를 바꾸면 17%입니다. 400토큰 글, 오탐률 1% 기준이라는 조건과 OpenAI 2026년 10월 5일 발표라는 출처가 적혀 있습니다.](/images/posts/ai-watermarks-2026/synonym-swap.svg)

*자료: OpenAI, [Our approach to EU text provenance rules](https://openai.com/index/eu-text-provenance/) (2026.10.5). 측정한 세 점만 그렸고 사이 값은 측정하지 않았습니다.*

10%만 바꿔서는 셋 중 둘이 여전히 잡힙니다. 넷 중 하나를 바꾸면 대부분 빠져나갑니다. 그런데 빠져나간 글이 사람 글이 되지는 않습니다. OpenAI는 같은 글에 이렇게 적었습니다.

*The absence of a detected watermark does not prove human authorship.*

검출기가 워터마크를 못 찾았다는 사실은 누가 썼는지에 대해 아무것도 알려 주지 않습니다. 반대 방향도 있습니다. 워터마크가 아니라 문체로 AI 글을 가려내는 탐지기는 사람이 쓴 글을 AI 글로 자주 잘못 잡습니다.

이 질문이 남의 일만은 아닙니다. 이 블로그의 글은 제가 터미널에서 Claude와 같이 씁니다. 이 글의 초안도 Claude가 썼습니다. Anthropic은 2026년 8월부터 [Claude가 만드는 글에 워터마크를 넣고 있고](https://www.anthropic.com/news/claude-text-watermark) 지역을 가리지 않고 전 세계에 똑같이 적용했습니다. 그러니 지금 읽고 계신 문장의 단어 선택에도 통계적인 흔적이 남아 있을 수 있습니다.

있을 수 있다고만 쓰는 이유는 제가 확인할 방법이 없어서입니다. 검출 API는 규제기관, 수사기관, 언론, 팩트체커 같은 곳에만 열린 비공개 프리뷰입니다. 글쓴이인 저도 이 글에 워터마크가 있는지 모릅니다.

AI 워터마크라고 하면 기술 하나처럼 들리지만 실제로는 서로 다른 세 가지가 같은 이름으로 불립니다.

- **글 속 통계**: 글을 만들 때 단어 고르는 확률을 살짝 기울여 단어 분포에 흔적을 남깁니다. 위의 OpenAI 측정이 이쪽입니다.
- **픽셀 속 신호**: 이미지, 영상, 오디오의 값 자체에 사람이 못 느끼는 무늬를 섞습니다. Google SynthID가 대표입니다.
- **파일 서명**: 누가 무엇으로 만들었는지 적은 기록을 파일에 붙이고 암호 서명을 합니다. C2PA, 흔히 Content Credentials라고 부르는 표준입니다.

![AI 워터마크 세 가지를 세 열로 나란히 놓은 표. 글 속 통계(주황)는 단어 선택 확률에 숨고 부분 수정에 버티지만 번역·재작성·동의어 치환과 짧은 글에 약합니다. 픽셀 속 신호(파랑)는 이미지·영상·오디오의 값에 숨고 자르기·필터·압축에 버티지만 재생성과 스펙트럼 교란에 지워집니다. 파일 서명(청록)은 파일에 붙은 서명 기록에 있고 위조가 어렵지만 스크린샷과 재업로드로 통째로 떨어집니다. 맨 아래 줄은 누가 확인하는지로, 글 속 통계는 키를 가진 회사, 픽셀 속 신호는 대개 키를 가진 회사(Video Seal은 공개), 서명은 공개 인증서로 누구나 확인합니다.](/images/posts/ai-watermarks-2026/three-kinds.svg)

셋은 숨는 곳이 다르니 뚫리는 곳도 다릅니다. 글 속 통계는 단어를 바꾸면 옅어지고, 픽셀 신호는 이미지를 다시 그리면 흐려지고, 파일 서명은 스크린샷 한 장에 떨어져 나갑니다. 그래서 업계는 가짜에 표시를 붙이는 것만으로는 모자라다고 보고 진짜 사진에 서명해서 증명하는 쪽으로 옮겨 가고 있습니다. 아래 내용은 2026년 11월 13일 기준입니다.

## 글 속 통계

글에는 픽셀이 없습니다. 고칠 수 있는 것은 단어뿐입니다. 그래서 글 워터마크는 모델이 다음 단어를 고르는 순간에 끼어듭니다.

### 단어 고르는 확률을 살짝 기울이기

가장 많이 인용되는 출발점은 Kirchenbauer 등이 ICML 2023에 낸 [A Watermark for Large Language Models](https://arxiv.org/abs/2301.10226)입니다. 언어 모델은 단어(정확히는 토큰)를 하나씩 이어 붙이며 글을 씁니다. 매번 다음에 올 수 있는 후보마다 확률이 있고 그중 하나를 뽑습니다. 이 논문은 뽑기 직전에 한 단계를 끼워 넣습니다.

1. 바로 앞 토큰을 비밀 키와 함께 해시합니다.
2. 그 해시값으로 어휘 전체를 green 목록과 red 목록으로 반씩 나눕니다. 앞 토큰이 바뀌면 나누는 방식도 바뀝니다.
3. green 목록에 든 후보의 점수를 조금 올린 뒤 평소처럼 뽑습니다.

논문은 이를 *selecting a randomized set of 'green' tokens before a word is generated, and then softly promoting use of green tokens during sampling*이라고 적었습니다. '살짝'이 중요합니다. 확률이 압도적으로 높은 단어는 red여도 그대로 뽑히고 비슷비슷한 후보가 여럿일 때만 green 쪽으로 기웁니다.

![green·red 목록으로 다음 단어를 고르는 단계와 검출하는 단계를 그린 그림. 위쪽은 생성 단계로, 앞 토큰 고양이가를 비밀 키와 함께 해시해 후보 다섯 개를 green과 red로 나눕니다. 원래는 red인 밥을의 확률이 가장 높았지만, green 후보의 확률을 조금씩 올리자 green인 잠을이 가장 유력해집니다. 아래쪽은 검출 단계로, 토큰 16개가 칸으로 늘어서 있습니다. 사람이 쓴 글은 green이 8칸으로 절반이라 z는 0이고, 워터마크가 든 글은 green이 14칸이라 z는 3입니다. 16토큰이면 전부 green이어도 z가 4라 판정 기준 4를 넘지 못한다는 설명이 붙어 있습니다.](/images/posts/ai-watermarks-2026/green-red.svg)

*후보 단어와 확률은 설명을 위해 지어낸 예입니다.*

검출하는 쪽은 키만 있으면 됩니다. 글을 토큰으로 자르고 토큰마다 앞 토큰으로 green 목록을 다시 만들어 green에 든 토큰이 몇 개인지 셉니다. 워터마크가 없는 글이면 green은 운에 따라 절반 근처에 머뭅니다. 워터마크가 있으면 절반보다 눈에 띄게 많습니다. 얼마나 많아야 우연이 아닌지는 동전 던지기와 같은 z-검정으로 정합니다. `T`는 전체 토큰 수, `|s|_G`는 green 토큰 수입니다(green이 절반일 때의 식).

$$
z = \frac{2\,(|s|_G - T/2)}{\sqrt{T}}
$$

논문은 z가 4를 넘으면 사람 글을 워터마크 글로 잘못 볼 확률이 3×10⁻⁵라고 적었습니다. 이 식을 보면 글 길이가 왜 중요한지 드러납니다. 위 그림처럼 16토큰 중 14개가 green이면 z는 3으로 기준 4에 못 미칩니다. 같은 비율로 200토큰이면 green이 175개이고 z는 약 10.6입니다. 제가 식에 넣어 계산한 값인데 비율이 같아도 글이 길수록 확신이 커집니다.

동의어 치환이 왜 통하는지도 이 원리로 설명됩니다. 단어 하나를 바꾸면 그 단어의 green 여부가 다시 동전 던지기가 되고 그 단어를 앞 토큰으로 삼는 다음 단어의 목록까지 바뀝니다. green 비율이 절반 쪽으로 끌려 내려가니 z도 줄어듭니다.

### SynthID Text

Google은 같은 생각을 다른 샘플링 방법으로 구현했습니다. *Nature*에 실린 [Scalable watermarking for identifying large language model outputs](https://www.nature.com/articles/s41586-024-08025-4)는 Tournament sampling이라는 새 샘플링 알고리즘을 씁니다. 모델을 다시 학습시키지 않고 뽑는 단계만 바꾸며 검출에 원래 모델이 필요 없습니다.

### OpenAI와 Anthropic의 다른 선택

OpenAI는 2026년 10월 5일 [Our approach to EU text provenance rules](https://openai.com/index/eu-text-provenance/)에서 textGrain이라는 글 워터마크를 내놨습니다. ChatGPT와 Codex의 글에 워터마크를 넣되 EU에서만 넣습니다. API는 전 세계에서 쓸 수 있지만 직접 켜야 합니다(기본값은 꺼짐). 검출기는 승인받은 연구자와 전문 기관에만 줍니다.

Anthropic은 반대로 갔습니다. 2026년 8월 14일 [How Claude's text watermarking works](https://www.anthropic.com/news/claude-text-watermark)에서 Claude의 워터마크가 *a version of the SynthID-Text approach*라고 밝히고 이렇게 적었습니다.

*We're applying watermarking globally at launch because we don't yet have a durable way to scope it by region.*

Anthropic은 지역을 나눌 확실한 방법이 아직 없어서 처음부터 전 세계에 켰다고 설명했습니다. 같은 EU 법을 앞에 두고 OpenAI는 EU에만, Anthropic은 전 세계에 켰습니다. 제가 보기에 두 회사를 가른 것은 기술보다 운영 판단입니다. 사용자가 어느 나라에서 쓰는지를 믿을 만하게 가를 수 있느냐는 물음에 답이 달랐습니다.

### 얼마나 잘 잡히나

OpenAI는 textGrain의 검출률을 숫자로 내놨습니다. 사람 글을 잘못 잡는 비율(오탐률)을 1%로 맞췄을 때 심리학 주제의 200토큰 글은 약 80%, 400토큰 글은 약 95%를 잡습니다. 수학 글은 이보다 *substantially lower*라고 적었습니다. 원본 그대로인 200토큰 글도 다섯 편 중 한 편은 놓친다는 계산이 나옵니다.

도입부 그림의 동의어 실험도 같은 글에 있습니다. 출발점이 앞의 95%가 아니라 92%인데 OpenAI 글에 두 수치가 따로 적혀 있어 그대로 옮겼습니다. OpenAI는 textGrain이 SynthID Text와 같거나 더 낫다고 비교했으니 다른 회사 워터마크도 동의어 치환 앞에서 사정이 크게 다르지 않을 것 같습니다.

### 번역, 코드, 사실 문장

단어를 바꾸는 방법은 동의어 치환만이 아닙니다. Anthropic 글은 글의 종류에 따라 워터마크가 남는 정도가 다르다고 설명합니다.

- **번역**: 워터마크가 들어갑니다. 원문은 사람이 썼어도 번역문의 단어는 *every word is chosen by Claude*, 즉 모두 Claude가 골랐습니다. 반대로 Claude가 쓴 글을 다른 도구로 옮기면 OpenAI와 Google 문서에 따르면 워터마크가 크게 약해집니다. 두 문서 모두 번역을 약점으로 꼽았습니다.
- **문법 교정**: 거의 검출되지 않습니다. 대부분의 단어가 원래 글 그대로 남습니다.
- **코드**: 대체로 덜 들어갑니다. 문법상 정해진 토큰이 많아 고를 여지가 적습니다.
- **사실을 말하는 문장**: 성기게 들어갑니다. 정답이 정해진 문장은 단어를 고를 여지가 적습니다.
- **짧은 글**: *doesn't work well on small samples*라고 적었습니다. 앞의 z 식에서 본 대로 토큰이 적으면 확신이 서지 않습니다.

그러니 처음 질문은 무엇을 바꾸느냐에 따라 답이 달라집니다. 단어 10%를 손으로 바꾸면 셋 중 둘은 여전히 잡힙니다. 다른 모델로 통째로 다시 쓰거나 번역하면 훨씬 더 약해진다고 OpenAI와 Google이 모두 적었습니다. 사람이 쓴 글을 Claude에게 맞춤법만 고치게 하면 워터마크는 거의 생기지 않고 번역을 맡기면 생깁니다.

### 사람 글이 AI로 몰릴 때

워터마크와 자주 헷갈리는 것이 AI 탐지기입니다. 둘은 묻는 질문이 다릅니다. 탐지기는 키 없이 글의 통계나 분류 모델로 'AI가 쓴 것 같은 문체'를 추정합니다. 워터마크는 키를 가진 회사가 자기 모델이 남긴 흔적이 있는지 확인합니다. 하나는 짐작이고 하나는 대조입니다.

제목의 질문을 뒤집으면 탐지기의 문제가 보입니다. AI 글이 사람 글로 빠져나가는 것보다 사람 글이 AI 글로 몰리는 쪽이 더 오래된 문제입니다. [Liang 등(2023)](https://arxiv.org/abs/2304.02819)은 탐지기 7종에 비원어민이 쓴 TOEFL 에세이 91편을 넣었습니다. 평균 오탐률이 61.22%였고 91편 중 89편(97.80%)이 적어도 한 탐지기에서 AI 글로 판정됐습니다. 미국 8학년 학생의 에세이는 거의 정확하게 가려냈습니다. 비원어민의 글을 ChatGPT로 원어민처럼 다듬자 오탐은 오히려 줄었습니다.

워터마크는 이 문제를 피하려고 나왔습니다. 문체를 보지 않고 키로 계산한 무늬만 보니 비원어민이 쓴 글이라고 green 토큰이 늘어나지는 않습니다. 오탐률도 z 기준값으로 미리 정할 수 있습니다. 대신 키를 가진 회사만 확인할 수 있고 지금은 그 회사들이 일반인에게 검출기를 열지 않았습니다.

## 픽셀 속 신호

글은 고칠 수 있는 것이 단어뿐이라 통계에 기댑니다. 이미지는 다릅니다. 고칠 수 있는 값이 수백만 개라 무늬를 픽셀 자체에 섞을 수 있습니다.

Google의 [SynthID](https://deepmind.google/technologies/synthid/)는 사람 눈에 보이지 않는 워터마크를 이미지의 픽셀에, 영상이면 프레임에 직접 넣습니다. Google은 이 워터마크를 자르기, 필터, 프레임레이트 변경, 손실 압축에도 남도록 만들었다고 설명합니다. Lyria 음악과 NotebookLM 팟캐스트 같은 오디오에도 들어갑니다.

방식은 [SynthID-Image 논문](https://arxiv.org/abs/2510.09263)(2025)에 나옵니다. 딥러닝으로 만든 워터마크를 이미지가 다 만들어진 뒤에 덧입힙니다(post-hoc). 그래서 생성 모델이 무엇이든 상관없이 붙일 수 있습니다. 이 성질 덕분에 다른 회사도 자기 모델 결과물에 SynthID를 붙일 수 있는 것으로 보입니다.

SynthID에는 Google 바깥의 회사들도 합류했습니다. 2026년 5월 I/O에서 OpenAI, 카카오, ElevenLabs가 SynthID를 쓰겠다고 발표했습니다. OpenAI는 5월 19일부터 ChatGPT, API, Codex로 만든 모든 이미지에 C2PA 서명과 SynthID를 함께 넣습니다. OpenAI 발표 원문은 접속이 막혀(403) 열지 못했고 [긱뉴스 요약](https://news.hada.io/topic?id=29700)과 기사로 확인했습니다. 카카오는 [보도자료](https://www.kakaocorp.com/page/detail/12039)에서 아시아 기업 처음으로 SynthID를 도입한다고 밝혔습니다. Apple도 iOS 27.2부터 SynthID를 넣는다고 [MacRumors가 보도했습니다](https://www.macrumors.com/2026/10/26/iphone-synthid-watermarks/). Apple의 공식 문서는 찾지 못했습니다.

그런데 이 워터마크를 읽는 도구는 Google에만 있습니다. SynthID 가운데 오픈소스는 텍스트판뿐이고 이미지·영상·오디오 워터마크는 공개되지 않은 기술입니다. [SynthID Detector](https://blog.google/innovation-and-ai/models-and-research/google-deepmind/synth-id-ai-content/)는 2026년 10월 7일 영어로 전 세계에 열렸습니다. Google 콘텐츠와 함께 OpenAI, NVIDIA, 카카오, Apple의 콘텐츠도 판별합니다. 글은 검사하지 않습니다. 제가 보기에 지금 픽셀 워터마크에서 가장 눈여겨볼 것은 이 구도입니다. 경쟁사들이 Google의 무늬를 찍고 그 무늬를 읽는 열쇠는 Google 한 곳에 있습니다.

반대쪽 선택도 있습니다. Meta는 2024년 12월 [Video Seal](https://github.com/facebookresearch/videoseal)을 MIT 라이선스로 공개했습니다. 누구나 넣고 누구나 검출할 수 있습니다.

## 파일 서명

세 번째는 무늬를 숨기지 않습니다. 파일에 기록을 붙이고 서명합니다. 업계 표준은 [C2PA](https://spec.c2pa.org/specifications/specifications/2.5/specs/C2PA_Specification.html)이고 사용자에게는 Content Credentials라는 이름으로 보입니다. 어떤 기기나 프로그램이 언제 만들었고 어떤 편집을 거쳤는지 적은 기록(매니페스트)을 파일에 넣고 발급받은 인증서로 서명합니다.

기본은 이 서명을 파일 내용의 해시에 묶는 방식입니다. 이를 hard binding이라고 부릅니다. 픽셀이 한 개라도 바뀌면 해시가 달라져 서명이 맞지 않으니 위조가 어렵습니다. 대신 기록은 어디까지나 파일에 붙은 메타데이터라 스크린샷을 찍거나 메타데이터를 지우는 사이트에 올리면 통째로 사라집니다.

그래서 C2PA는 soft binding을 따로 정의합니다. 픽셀에서 다시 읽을 수 있는 지문이나 보이지 않는 워터마크를 열쇠로 삼아 클라우드 저장소에 따로 보관한 매니페스트를 찾아오는 방식입니다. 이렇게 다시 찾을 수 있는 기록을 durable content credential이라고 부릅니다.

![원본 파일, 스크린샷, 남는 것을 왼쪽에서 오른쪽으로 그린 두 줄짜리 그림. 위 줄 hard binding은 원본 파일이 픽셀과 서명된 기록을 함께 담고 있다가, 스크린샷을 거치면 픽셀만 남고 기록이 사라져 출처 정보 없음이 됩니다. 아래 줄 soft binding은 픽셀 안에 워터마크 점무늬가 들어 있어, 스크린샷 뒤에도 그 무늬로 클라우드 저장소의 기록을 다시 찾아옵니다.](/images/posts/ai-watermarks-2026/hard-soft-binding.svg)

그래서 파일 서명도 결국 픽셀 워터마크를 빌려 씁니다. Adobe와 Digimarc가 2025년에 처음으로 서로 호환되는 durable credentials를 시연했고 오픈소스 워터마크 TrustMark가 어느 회사의 워터마크인지 알려 줬습니다.

C2PA에서 가장 큰 변화는 AI 쪽이 아니라 카메라 쪽에서 왔습니다. Google은 [Pixel 10의 Pixel Camera가 찍는 모든 JPEG에 Content Credentials를 붙입니다](https://blog.google/security/pixel-android-trusted-images-c2pa-content-credentials/). 사진마다 키와 인증서를 새로 쓰고 오프라인이어도 기기 안의 안전한 시계로 시각을 적습니다. Google은 이 결정의 이유를 이렇게 설명했습니다.

*Instead of categorizing digital content into a simplistic 'AI' vs. 'not AI' … media that comes with verifiable proof of how it was made or … media that doesn't.*

Google은 AI냐 아니냐 대신 만들어진 과정을 증명할 수 있는 미디어와 그렇지 못한 미디어로 나누자고 제안합니다.

기록이 남아 있어도 플랫폼이 보여 주지 않으면 독자는 모릅니다. 주요 플랫폼은 C2PA를 읽고 동시에 자체 판단을 섞습니다.

- **YouTube**: C2PA 2.1 이상으로 찍은 영상에 *Captured with a camera* 표시를 붙여 왔습니다. 2026년 5월 27일부터는 [AI 라벨을 자동으로 붙입니다](https://blog.google/intl/en-in/products/platforms/improving-ai-labels-for-viewers-and-creators/). 만든 사람이 밝히지 않아도 시스템이 사실적인 AI 사용을 크게 감지하면 라벨이 붙습니다. C2PA가 완전 생성 AI라고 적은 영상은 라벨을 뗄 수 없습니다.

## 뚫린 자리

세 방식 모두 공격을 받았습니다. 지우기, 위조하기, 진짜 서명을 가짜에 붙이기, 그리고 진짜를 가짜로 잘못 보기입니다.

픽셀 워터마크를 겨냥한 공격이 가장 많습니다. IEEE S&P 2025에 실린 [UnMarker](https://arxiv.org/abs/2405.08363)는 워터마크 검출기에 질의하지도 학습 데이터를 쓰지도 않고 이미지의 주파수 성분 세기를 흔들어 워터마크를 지웁니다. [IEEE Spectrum 기사](https://spectrum.ieee.org/ai-watermark-remover)에 따르면 SynthID는 79%가 지워졌습니다. Google DeepMind는 79%라는 수치에 반박했습니다.

이미지를 아예 다시 그리면 더 간단합니다. 이미지에 노이즈를 섞은 뒤 확산 모델로 복원하면 일부 보이지 않는 워터마크는 지워진다는 것이 [NeurIPS 2024 논문](https://arxiv.org/abs/2306.01953)에서 증명됐습니다. 오픈소스 도구 [Remove-AI-Watermarks](https://news.hada.io/topic?id=29702)는 Gemini의 보이는 로고는 0.05초 만에 지우고, SynthID는 SDXL로 다시 그려 지우며, C2PA와 IPTC 메타데이터도 함께 지웁니다.

글 워터마크도 다르지 않습니다. 앞의 동의어 실험이 그 예입니다. ICML 2024의 [Watermark Stealing in LLMs](https://arxiv.org/abs/2402.19361)는 50달러가 안 되는 비용으로 워터마크 규칙을 알아내 80% 넘는 성공률로 지우거나 위조했습니다.

지우는 쪽에도 대가가 있습니다. 2026년 [Removing the Watermark Is Not Enough](https://arxiv.org/abs/2605.09203)는 제거 공격 6종이 남긴 흔적을 포렌식 탐지기가 잡아낸다고 보고했습니다. 워터마크 제거, 화질 유지, 탐지 회피를 한꺼번에 만족한 결과물은 750개 중 1개뿐이었습니다.

반대 방향의 위협도 있습니다. Meta의 [WmForger](https://arxiv.org/abs/2510.20468)(NeurIPS 2025)는 워터마크가 든 이미지 한 장만 보고 다른 이미지에 같은 워터마크를 찍어 넣습니다. 이 방법이면 사람이 찍은 사진도 AI 이미지처럼 보이게 만들 수 있어서 워터마크를 지우는 것과는 다른 종류의 피해가 납니다.

파일 서명은 암호가 깨지지 않아도 뚫렸습니다. Nikon은 2025년 8월 Z6III 펌웨어 2.00에서 C2PA 서명을 넣었습니다. 그런데 다중노출 기능으로 다른 카메라의 RAW나 AI 이미지를 합성하면 결과물에 정품 서명이 붙는다는 사실이 드러났습니다. Nikon은 9월 5일 서비스를 멈추고 9월 21일 발급한 인증서를 모두 폐기했습니다.

Pixel 10도 뚫렸습니다. Neal Krawetz는 [HackerFactor 글](https://www.hackerfactor.com/blog/index.php?/archives/1102-C2PA-and-Pixel-Glitter-Milk.html)에서 루팅한 기기의 서명 프로그램에 임의의 이미지를 넘겨 AI 이미지에 정품 Google 서명을 붙였습니다. Adobe Inspect와 CAI Verify는 그 이미지를 카메라로 찍은 사진(*captured media*)으로 판정했습니다. 서명이 암호학적으로 맞아도 그 장면을 실제로 찍었는지는 따로 따져야 합니다.

검출기가 틀리기도 합니다. SynthID Detector가 전 세계에 열린 지 2주 만에 영국 팩트체크 기관 [Full Fact](https://fullfact.org/toolkit/google-synthid-detector-flagging-apparently-real-images/)가 영국 정치인 5명이 올린 진짜 사진이 AI로 판정됐다고 보고했습니다. Google은 그보다 앞선 10월 15일에 이미 서둘러 업데이트해 애매한 경우 'Unsure'로 표시하게 바꿔 두었습니다. 의심할 이유 없이 아무 사진이나 넣으면 오탐을 만날 가능성이 커진다고 Google 스스로 인정했습니다.

## 가짜 표시에서 진짜 증명으로

처음 질문에 한 줄로 답하면 이렇습니다. 단어 10%를 바꾸면 검출률이 92%에서 66%로, 25%를 바꾸면 17%로 떨어지지만 그래도 그 글은 사람 글이 되지 않습니다. 워터마크가 없어졌을 뿐입니다.

이미지와 영상도 사정이 같습니다. 어느 것도 이것이 AI로 만들어지지 않았다는 증명은 해 주지 못합니다. 지워질 수 있는 표시가 없다는 사실로는 아무것도 증명할 수 없습니다.

그래서 무게중심이 반대편으로 옮겨 가고 있습니다. Pixel 10이 AI와 상관없이 모든 사진에 서명하고 YouTube가 카메라로 찍은 영상에 따로 표시를 붙이는 방향입니다. 제가 보기에 앞으로 믿을 만한 표시는 '이건 AI가 만들었다'보다 '이건 이 기기로 이때 찍었고 이런 편집을 거쳤다' 쪽에서 나올 것 같습니다. 물론 Nikon과 Pixel 10 사례처럼 그 서명도 서명하는 기기를 믿을 수 있을 때만 의미가 있습니다.

오늘 독자가 직접 해 볼 수 있는 것은 세 가지입니다.

- **이미지·영상·오디오가 Google이나 협력사 AI로 만들어졌는지**: [SynthID Detector](https://blog.google/innovation-and-ai/models-and-research/google-deepmind/synth-id-ai-content/)나 Gemini 앱에 올려 봅니다. 로그인이 필요하고 'Unsure'가 나오면 판단을 보류합니다. 글은 검사하지 않습니다.
- **사진에 출처 기록이 있는지**: [Content Credentials 확인 페이지](https://contentcredentials.org/verify)에 올려 봅니다. 기록이 있으면 어떤 기기나 프로그램이 서명했는지 보입니다. 스크린샷이나 메신저를 거친 파일이면 기록이 없는 것이 보통입니다.
- **글**: 지금은 일반인이 워터마크를 확인할 방법이 없습니다. AI 탐지기 점수는 짐작일 뿐이고 비원어민의 글을 특히 자주 잘못 잡습니다. 워터마크가 안 나와도 사람이 썼다는 증명은 되지 않습니다.

## 참고 자료

**글 워터마크**

- [Kirchenbauer et al. — A Watermark for Large Language Models (ICML 2023)](https://arxiv.org/abs/2301.10226)
- [Dathathri et al. — Scalable watermarking for identifying large language model outputs (Nature, 2024)](https://www.nature.com/articles/s41586-024-08025-4)
- [Hugging Face — Introducing SynthID Text (2024.10.23)](https://huggingface.co/blog/synthid-text)
- [Google AI for Developers — SynthID](https://ai.google.dev/responsible/docs/safeguards/synthid)
- [ETH SRI — Probing the SynthID-text deployment on Gemini APIs (2026.10.21)](https://www.sri.inf.ethz.ch/blog/probing-synthid-gemini-apis)
- [The Decoder — OpenAI의 미공개 ChatGPT 글 탐지기 보도 정리 (2024.8)](https://the-decoder.com/openai-has-a-highly-accurate-chatgpt-text-detector-but-wont-release-it-for-now/)
- [OpenAI — 온라인 콘텐츠 출처에 관한 글 (2024.8.4 업데이트)](https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/)
- [OpenAI — Our approach to EU text provenance rules (2026.10.5)](https://openai.com/index/eu-text-provenance/)
- [Anthropic — How Claude's text watermarking works (2026.8.14)](https://www.anthropic.com/news/claude-text-watermark)
- [Claude 지원 문서 — How Claude marks AI-generated content](https://support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content)
- [Who Wrote this Code? Watermarking for Code Generation (ACL 2024)](https://arxiv.org/abs/2305.15060)
- [Jovanović, Staab, Vechev — Watermark Stealing in Large Language Models (ICML 2024)](https://arxiv.org/abs/2402.19361)

**AI 탐지기**

- [OpenAI — New AI classifier for indicating AI-written text (2023.7.20 갱신)](https://openai.com/index/new-ai-classifier-for-indicating-ai-written-text/)
- [Liang et al. — GPT detectors are biased against non-native English writers (Patterns, 2023)](https://arxiv.org/abs/2304.02819)

**픽셀 워터마크**

- [Google DeepMind — SynthID](https://deepmind.google/technologies/synthid/)
- [SynthID-Image: Image watermarking at internet scale (arXiv, 2025)](https://arxiv.org/abs/2510.09263)
- [Google — SynthID Detector 발표 (2025.5.20)](https://blog.google/innovation-and-ai/products/google-synthid-ai-content-detector/)
- [Google — How we're bringing AI image verification to the Gemini app (2025.11.20)](https://blog.google/innovation-and-ai/products/ai-image-verification-gemini-app/)
- [Google — Making it easier to understand how content was created and edited (2026.5.19)](https://blog.google/innovation-and-ai/products/identifying-ai-generated-media-online/)
- [Google — Google expands SynthID Detector (2026.10.7)](https://blog.google/innovation-and-ai/models-and-research/google-deepmind/synth-id-ai-content/)
- [The Decoder — SynthID Detector 공개 보도 (2026.10.7)](https://the-decoder.com/google-says-180-billion-images-and-videos-now-carry-synthid-watermarks-as-detector-goes-public/)
- [카카오 — SynthID 도입 보도자료 (2026.5.20)](https://www.kakaocorp.com/page/detail/12039)
- [MacRumors — iPhone의 SynthID 도입 보도 (2026.10.26)](https://www.macrumors.com/2026/10/26/iphone-synthid-watermarks/)
- [facebookresearch/videoseal](https://github.com/facebookresearch/videoseal)

**파일 서명과 플랫폼**

- [C2PA Technical Specification 2.5 (2026.10)](https://spec.c2pa.org/specifications/specifications/2.5/specs/C2PA_Specification.html)
- [C2PA — The C2PA Launches Content Credentials 2.3 (2026.2.23)](https://c2pa.org/the-c2pa-launches-content-credentials-2-3-and-celebrates-5-years-of-impact-across-the-digital-ecosystem/)
- [Content Authenticity Initiative — Digital watermarking for interoperable and durable Content Credentials (2025.6.2)](https://contentauthenticity.org/blog/digital-watermarking-interoperable-durable-content-credentials)
- [Google — Pixel·Android의 C2PA Content Credentials (2025.9.10)](https://blog.google/security/pixel-android-trusted-images-c2pa-content-credentials/)
- [YouTube — Improving AI labels for viewers and creators (2026.5.27)](https://blog.google/intl/en-in/products/platforms/improving-ai-labels-for-viewers-and-creators/)
- [TikTok 뉴스룸 — AI 생성 콘텐츠 표시 (2026.7.10)](https://newsroom.tiktok.com/helping-people-spot-and-understand-ai-generated-content-on-tiktok?lang=en-GB)
- [Content Credentials 확인 페이지](https://contentcredentials.org/verify)

**공격과 한계**

- [Kassis, Hengartner — UnMarker (IEEE S&P 2025)](https://arxiv.org/abs/2405.08363)
- [IEEE Spectrum — UnMarker 기사](https://spectrum.ieee.org/ai-watermark-remover)
- [Invisible Image Watermarks Are Provably Removable Using Generative AI (NeurIPS 2024)](https://arxiv.org/abs/2306.01953)
- [MarkNull (arXiv, 2026.8)](https://arxiv.org/abs/2608.10166)
- [Removing the Watermark Is Not Enough (arXiv, 2026)](https://arxiv.org/abs/2605.09203)
- [WmForger (NeurIPS 2025)](https://arxiv.org/abs/2510.20468)
- [wiltodelta/remove-ai-watermarks — SynthID 문서](https://github.com/wiltodelta/remove-ai-watermarks/blob/main/docs/synthid.md)
- [404 Media — Sora 2 워터마크 제거 사이트 (2025.10.7)](https://www.404media.co/sora-2-watermark-removers-flood-the-web)
- [heise — Nikon Z6III C2PA 인증서 폐기 (2025.9)](https://heise.de/-10667707)
- [HackerFactor — Pixel 10 C2PA 위조 (2026.8.25)](https://www.hackerfactor.com/blog/index.php?/archives/1102-C2PA-and-Pixel-Glitter-Milk.html)
- [Full Fact — SynthID Detector가 진짜 사진을 AI로 판정한 사례 (2026.10.21)](https://fullfact.org/toolkit/google-synthid-detector-flagging-apparently-real-images/)

**법과 규정**

- [EU AI Act 제50조 (재수록본)](https://artificialintelligenceact.eu/article/50/)
- [European Commission — Code of Practice on Transparency of AI-generated Content FAQ](https://digital-strategy.ec.europa.eu/en/faqs/code-practice-transparency-ai-generated-content)
- [국가법령정보센터 — 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법](https://www.law.go.kr/법령/인공지능발전과신뢰기반조성등에관한기본법)
- [국가법령정보센터 — 같은 법 시행령](https://www.law.go.kr/법령/인공지능발전과신뢰기반조성등에관한기본법시행령)
- [정책브리핑 — '인공지능기본법' 22일 시행…생성형 AI 결과물 '워터마크' 표시 의무 (2026.1)](https://www.korea.kr/news/policyNewsView.do?newsId=148958380)
- [국가인터넷정보판공실 — 人工智能生成合成内容标识办法 (2025.3.14)](https://www.cac.gov.cn/2025-03/14/c_1743654684782215.htm)
- [California SB 942](https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB942)
- [California AB 853](https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202520260AB853)
- [California SB 1000](https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202520260SB1000)
- [S.S. Rana — 인도 IT 규칙 2026년 개정 해설](https://ssrana.in/articles/government-notifies-information-technology-amendment-rules-2026/)
- [SCC Online — 인도 IT 규칙 2026년 개정 해설 (2026.2.12)](https://www.scconline.com/blog/post/2026/02/12/it-rules-2026-ai-and-intermediary-compliance/)

**긱뉴스**

- [SynthID Detector - AI 생성 미디어 워터마크 탐지 도구 (2026.10.9)](https://news.hada.io/topic?id=35030)
- [워터마크가 아니라 스파이마크 (2026.9.22)](https://news.hada.io/topic?id=34104)
- [MS Paint와 Photos, 로컬 AI 이미지에 서버 발급 GUID를 보이지 않는 워터마크로 삽입 (2026.8.25)](https://news.hada.io/topic?id=32852)
- [Claude의 '워터마크'가 글쓰기를 왜곡하는 방식 (2026.8.17)](https://news.hada.io/topic?id=32579)
- [AI 텍스트 워터마킹의 작동 원리 (2026.8.15)](https://news.hada.io/topic?id=32518)
- [Claude가 AI 생성 콘텐츠를 표시하는 방식 (2026.8.11)](https://news.hada.io/topic?id=32409)
- [Remove-AI-Watermarks: 이미지에서 AI 워터마크를 제거하는 CLI (2026.5.20)](https://news.hada.io/topic?id=29702)
- [OpenAI, 검증 도구와 함께 AI 이미지에 Google의 SynthID 워터마크 도입 (2026.5.20)](https://news.hada.io/topic?id=29700)
- [Gemini의 SynthID 워터마크를 역공학으로 탐지 및 제거하는 오픈소스 (2026.4.12)](https://news.hada.io/topic?id=28419)

대표 사진: [mk. s](https://unsplash.com/photos/KGDVTn9lYDE), Unsplash License.
