다링파이어볼트(https://daringfireball.net)는 앤트로픽(Anthropic)이 클로드(Claude) 모든 모델이 생성하는 텍스트에 ‘워터마킹(watermarking)’을 적용할 계획이라고 밝힌 가운데, 이를 “문장(글쓰기) 오염”에 해당한다고 비판했다.
다링파이어볼트는 8월 17일 앤트로픽이 “AI가 생성한 콘텐츠를 클로드가 어떻게 표시하는지”를 설명하는 공지 제목을 달았으나, 처음에는 작동 방식에 대한 구체적인 설명이 없었다고 주장했다.
이어 당초 ‘보이지 않는 유니코드 문자’ 삽입 같은 방식일 것으로 추측했지만, 앤트로픽이 이후 다른 사이트에서 ‘클로드의 텍스트 워터마크가 어떻게 작동하는지’ 설명했다고 전했다. 이 설명에 따르면, 추론 시점에서 토큰 생성 결과에 “지문” 형태의 흔적이 남는 방식으로, 특정 단어 선택이 ‘그린(green)·레드(red)’ 목록에 따라 확률적으로 달라지게 만든다는 취지라고 밝혔다.
다링파이어볼트는 해당 기법이 문장 의미나 가독성을 해치지 않는다고 한 기존 주장과 달리, 실제로는 의미적 단어 선택에 개입해 텍스트를 “변형(adulteration)”할 계획이라고 비판했다. 또 워터마크 검출은 비밀 키를 가진 쪽이 각 토큰 생성 시점에서 단어가 어느 목록에 해당하는지 확인해 확률적으로 판단하며, 텍스트 분량이 충분할수록 판별 정확도가 높아진다고 설명했다.