한 문장 요약: Anthropic이 향후 Claude 모델에 SynthID-Text 기반 워터마크를 전 세계적으로 적용하고 탐지 API를 제공할 계획을 공개했다.
무엇이 발표됐나
Anthropic은 8월 14일 향후 Claude 모델의 텍스트에 SynthID-Text 기반 워터마크를 넣겠다고 발표했다. EU AI Act의 AI 생성물 표시 의무에 대응해 지역을 나누지 않고 출시 시점부터 전 세계에 적용할 계획이다. 발표 당시 워터마크가 적용된 새 모델과 탐지 API는 아직 제공되지 않았고, API 세부 사항은 준비 중이었다.
이 방식은 응답에 보이지 않는 문자나 메타데이터를 덧붙이지 않는다. 추가 토큰도 만들지 않으며 사용자, 조직이나 대화 식별정보를 담지 않는다고 Anthropic은 설명한다. PNG·JPG·SVG 같은 지원 파일에는 별도로 암호화 서명된 C2PA 콘텐츠 자격 증명을 메타데이터에 붙일 예정이다. 파일 메타데이터 방식과 텍스트 생성 확률에 남기는 워터마크는 구분해야 한다.
샘플링 단계에 어떻게 신호를 넣나
언어 모델은 매 단계에서 다음 토큰의 확률분포를 만들고 그중 하나를 고른다. SynthID-Text는 워터마크 키와 직전 문맥을 이용해 의사난수 시드를 만들고, 원래 분포에서 뽑힌 의미상 가능한 후보 가운데 특정 선택 패턴이 남도록 샘플링한다. 탐지기는 같은 키로 문장을 다시 채점해 실제 토큰 열이 그 패턴과 얼마나 일치하는지 통계적 확률을 계산한다. 원문이나 전체 대화를 서버에 저장해 검색하는 방식과 달리, 탐지에 기반 모델 자체가 필요하지 않다는 점이 구조적 차이다.
Anthropic은 이 변화가 품질·가격·속도에 실질적 영향을 주지 않는다고 주장한다. 근거가 된 Google DeepMind의 2024년 논문은 약 2천만 건의 Gemini 응답을 대상으로 한 실서비스 A/B 평가에서 사용자 선호 차이가 통계적으로 유의하지 않았다고 보고했다. 다만 이는 Claude의 향후 구현을 직접 평가한 결과가 아니다.
제품 설계에서 달라지는 점
탐지 결과는 “Claude가 일부 작성했을 가능성”이지 저자 판정이 아니다. 사람 글인지, 다른 모델이 썼는지, 어느 사용자 대화에서 나왔는지도 알려주지 않는다. 따라서 교육·채용·부정 사용 탐지 시스템은 확률 점수와 임계값, 판정 보류 구간을 보존하고 다른 증거 및 이의 제기 절차와 결합해야 한다. 단일 양성 결과만으로 제재하는 설계는 거짓 양성의 피해를 키운다.
모델 공급자마다 키와 방식이 다를 수 있으므로 통합 탐지 계층도 필요하다. 생성 API의 모델·버전, 워터마크 적용 여부와 탐지기 버전을 함께 기록해야 회귀를 추적할 수 있다. C2PA 서명 검증과 텍스트 워터마크 검출을 하나의 참·거짓 필드로 합치기보다 서로 다른 출처 신호로 유지하는 편이 맞다.
한계와 검증 포인트
짧은 글은 통계적 증거가 부족하다. 사실 문장, 정확한 코드, 철자 교정처럼 가능한 다음 토큰이 거의 없는 구간에도 신호를 심기 어렵다. Claude가 사람 글을 가볍게 다듬은 경우 역시 모델이 선택한 단어가 적어 검출되지 않을 수 있다. 가벼운 편집에는 일부 신호가 남을 수 있지만 전면 재작성은 제거할 수 있다. 탐지 API가 공개되면 한국어 길이·장르별 거짓 양성률과 재현율, 번역·요약·동의어 치환 후 강건성, 낮은 temperature와 결정적 디코딩에서의 검출력을 직접 측정해야 한다.
공식 1차 출처