워터마킹

AI가 만든 글·이미지·오디오에 눈에 보이지 않는 신호를 심어, 나중에 검출 도구로 AI 생성물인지 확인할 수 있게 하는 기술이다. 딥페이크·허위 정보에 대응하거나 EU AI Act처럼 AI 생성물 표시를 요구하는 규제를 지킬 때 쓰며, 메타데이터나 AI 탐지기와 달리 콘텐츠 자체에 표시가 남는다.

텍스트는 단어 선택에, 이미지는 픽셀에 숨긴다

텍스트 워터마킹은 모델이 다음 단어(토큰)를 고를 때 비밀 키에 따라 특정 단어 쪽으로 확률을 살짝 기울이는 방식이다. 한 문장만 봐서는 티가 나지 않는다. 하지만 글이 길어지면 키를 아는 검출기가 이 치우침을 통계로 알아본다.

이미지와 오디오는 픽셀 값이나 소리 신호를 사람이 느끼지 못할 만큼 조금 바꾼다. 대표적인 예가 Google의 SynthID로, Gemini 같은 Google 모델이 만든 이미지와 텍스트에 이런 신호를 넣는다.

넣는 건 생성할 때, 확인은 같은 방식의 도구로

워터마크는 콘텐츠를 생성하는 순간에 넣어야 한다. 이미 완성된 글에 나중에 덧붙이는 기술이 아니다. 검출도 같은 방식과 같은 키를 아는 도구만 할 수 있다.

SynthID의 텍스트 워터마킹은 오픈소스로 공개되어 Transformers에서 쓸 수 있다.

지워질 수 있고, 안 나왔다고 사람이 쓴 건 아니다

번역이나 요약을 하거나 다른 표현으로 바꿔 쓰면 텍스트 워터마크는 크게 약해진다. 이미지도 많이 잘라내거나 다시 그리면 신호가 손상될 수 있다. 짧은 글은 단어 수가 적어 통계로 판단하기 어렵다.

그래서 워터마크가 검출되지 않았다고 해서 사람이 썼다는 증거가 되지는 않는다. 다른 회사 모델로 만들었을 수도 있고, 편집 과정에서 지워졌을 수도 있다. 과제나 지원서를 판정할 때는 이 결과 하나로 결론 내리지 말고, 메타데이터나 작성 과정 기록과 함께 보조 근거로만 쓴다.

생성 서비스는 심고, 받는 쪽은 확인한다

가장 흔한 쓰임은 생성 서비스가 결과물에 워터마크를 자동으로 심는 것이다. 대부분의 사용자는 직접 넣기보다, 받은 콘텐츠의 출처를 확인할 때 검출 도구를 쓰게 된다.