클로드 코드도 워터마크 남기지만, 확인 도구는 아직 없다

앤트로픽이 자사 AI 챗봇 클로드(Claude)가 생성하거나 처리한 텍스트에 눈에 보이지 않는 워터마크(디지털 표식)를 심겠다고 밝혔다. 유럽연합(EU) AI법의 투명성 코드가 8월 2일(현지시각) 시행에 들어가면서 나온 조치다. 앤트로픽은 이날 이후 출시되는 클로드 모델부터 텍스트와 파일에 기계가 읽을 수 있는 표식을 자동으로 남긴다고 설명했다. 적용 대상에는 챗봇 클로드뿐 아니라 개발자용 도구 클로드 코드, 협업 도구 클로드 코워크, 클로드 태그, 그리고 API까지 포함된다. 회사는 다만 워터마크가 있다고 해서 콘텐츠 전체가 AI로 만들어졌다는 뜻은 아니라며 기술의 한계도 함께 공개했다.

EU 규제가 앞당긴 투명성 조치

이번 발표는 EU AI법에 담긴 투명성 규정을 지키기 위한 것이다. 해당 규정은 이용자가 AI와 대화하는지 사람과 대화하는지 알 수 있도록, AI가 만들거나 수정한 콘텐츠에 기계가 인식할 수 있는 표식을 남기도록 요구한다. 위반 시 상당한 규모의 벌금을 물 수 있다.

앤트로픽은 월요일(현지시각) 샌프란시스코에서 이 기능을 처음 공개했고, 이어 화요일(현지시각) 클로드 고객지원 페이지에 관련 내용을 정식 게시했다. 앤트로픽은 “AI 생성 콘텐츠가 일상화되는 만큼, 콘텐츠의 출처에 대한 투명성과 신호는 사람들이 정보를 소비할 때 유용한 맥락을 제공할 수 있다”고 밝혔다. 앤트로픽을 포함해 오픈AI, 구글, 메타, 마이크로소프트, 미스트랄 등 190~200여 개 기업과 기관이 지난달 말(현지시각) EU의 이 자율 실천규범에 서명한 것으로 전해졌다. 회사 측은 이 워터마킹을 유럽에 한정하지 않고 전 세계에 적용하겠다고 밝혔다.

클로드 워터마크, 어떻게 작동하나

핵심은 사람 눈에 보이지 않는 표식을 백엔드 코딩을 통해 텍스트 자체에 녹여 넣는 방식이다. 앤트로픽은 “워터마크가 텍스트의 일부이기 때문에 복사해서 다른 곳에 붙여 넣어도 함께 옮겨지며, 일부 편집을 거쳐도 남아 있을 수 있다”고 설명했다. 이 표식은 모델 단계에서 적용돼 클로드, 클로드 코드, 클로드 코워크, 클로드 태그, API 등 어떤 제품이나 경로로 텍스트가 나오든 동일하게 존재한다는 점도 강조했다.

이미지 등 텍스트가 아닌 파일에는 오픈 표준 C2PA를 활용한 서명된 출처 메타데이터가 붙는다. JPG 같은 파일이 클로드에 의해 생성되거나 처리됐는지, 이후 조작이 있었는지를 이 메타데이터로 확인할 수 있다는 설명이다. 현재는 8월 2일(현지시각) 이후 출시된 모델에만 워터마크가 적용되지만, 앤트로픽은 이전 모델에도 이 기능을 확장 적용할 계획이라고 밝혔다. 다만 텍스트에서 워터마크를 제거하는 데 편집을 얼마나 해야 하는지는 명확히 공개되지 않았다.

“있어도 100% AI라는 보장 아니다”

앤트로픽은 워터마크나 메타데이터가 있다는 사실만으로 콘텐츠가 완전히 AI로 생성됐다고 단정할 수는 없다고 못박았다. 클로드로 원문을 교정, 번역, 요약한 경우에도 표식이 남기 때문이다. 회사는 “사람이 쓴 텍스트를 클로드에 입력해 교정, 번역, 요약, 파일 변환 등을 시키는 경우가 많다”며 “원래 아이디어나 텍스트, 데이터가 다른 출처에서 나왔더라도 결과물에는 클로드 표식이 남을 수 있다”고 밝혔다. 반대로 매우 짧은 텍스트나 대폭 수정을 거친 텍스트는 표식이 남지 않을 수도 있다.

앤트로픽은 표식이 감지되지 않는다고 해서 그 콘텐츠가 AI로 생성되지 않았다는 뜻도 아니라고 덧붙였다. 예컨대 클로드가 만든 이미지를 스크린샷으로 찍거나 다른 파일 형식으로 변환하면 메타데이터가 사라질 수 있다는 것이다. 회사는 이용자와 제3자가 클로드의 워터마크나 출처 메타데이터를 직접 확인할 수 있는 탐지 도구를 아직 내놓지 않았으며, 조만간 관련 세부 사항을 공개하겠다고만 밝혔다.

업계 전반으로 확산하는 콘텐츠 표시 경쟁

AI 생성 콘텐츠 표시는 앤트로픽만의 움직임이 아니다. 같은 날 음악 스트리밍 서비스 스포티파이는 AI로 만든 아티스트 페르소나를 명확히 표시하고, 이런 페르소나를 개인화 추천 목록에는 포함하지 않겠다고 발표했다. 다만 노래에 AI가 어느 정도 관여했는지 밝히는 것은 아티스트 자신의 선택에 맡기기로 했다.

앞서 AI 음악 플랫폼 수노(Suno)는 지난주 법적 분쟁이 잇따르자 자사 플랫폼에서 만든 트랙에 표식을 달겠다고 밝혔다. 뉴스레터 서비스 서브스택(Substack)도 지난달 AI 텍스트 탐지 업체 팬그램과 손잡고 AI 생성 콘텐츠를 표시하기 시작했다. 서브스택의 최고경영자 크리스 베스트는 사람들이 AI로 콘텐츠를 만들어 마치 직접 쓴 것처럼 꾸미는 행위를 가리켜 “클로드피싱(Claudefishing)”이라는 용어를 언급하기도 했다. 오픈AI는 지난달 이미지 생성물에 적용해온 자체 출처 표시 기술을 오디오 콘텐츠로도 확장했고, 이용자가 콘텐츠가 자사 도구로 만들어졌는지 확인할 수 있는 자체 검증 도구도 운영하고 있다. 구글은 자체 워터마킹·탐지 기술 신스ID(SynthID)를 개발해 애플, 엔비디아, 오픈AI 등 업계 전반이 이 표준을 채택하도록 요구하고 있다.

업계 전반에서 규제 대응과 이용자 신뢰 회복을 동시에 겨냥한 콘텐츠 표시 경쟁이 벌어지고 있는 셈이다. 다만 앤트로픽이 스스로 인정했듯 워터마크는 짧은 텍스트나 편집을 거친 콘텐츠에서는 쉽게 사라질 수 있고, 탐지 도구도 아직 나오지 않았다. 클로드 코드처럼 개발자가 직접 코드를 생성·수정하는 도구에서 워터마크가 실질적으로 얼마나 유지될지는 향후 공개될 세부 내용을 지켜봐야 할 대목이다.