AI로 만든 저품질 콘텐츠가 급증하면서 콘텐츠 플랫폼의 경쟁력이 생산이 아니라 배포 통제로 옮겨가고 있다고 서치엔진랜드가 분석했다. 플랫폼들이 AI 생성 여부를 표시하는 데서 나아가 탐지·노출 제한·수익화 차단에 나서고 있으며, 앤트로픽의 워터마킹은 이를 콘텐츠가 유통되기 전 단계로 끌어올린 사례라는 설명이다.
서치엔진랜드(Search Engine Land)는 8월 19일 분석 링크드인에서 최근 자신이 쓴 내용을 되풀이할 뿐 가치가 없는 댓글이 늘었다며, AI 활용을 허용하고 장려한 뒤 ‘슬롭’ 문제가 커졌다고 지적했다. 링크드인은 10주 동안 저품질 콘텐츠를 식별해 작성자의 즉각적인 네트워크 밖 확산을 제한하는 시스템을 배치했고, 이용자가 게시물과 댓글을 ‘AI 슬롭처럼 보임’으로 신고하는 기능을 시험했다. 게시물을 문체까지 바꾸던 ‘Enhance post’ 버튼은 없애고 문법만 고치는 교정 기능으로 대체했다.
기사에 따르면 슬롭 대응 시스템은 표적을 찾아내고, 노출을 낮추며, 적발 결과를 모델에 다시 반영하는 방식으로 작동한다. 서브스택은 팡그램을 사이트 전체에 적용해 글의 AI 사용 여부를 탐지하고, 유튜브는 반복적이고 저노력이며 감정을 조작하는 동영상의 수익화를 막는다. 유튜브는 2026년 1월 채널 11개를 종료하고 6개를 삭제해 누적 조회수 약 47억회, 구독자 3500만명, 연간 수익 약 980만달러를 없앴다고 소개됐다.
레딧은 표시보다 조작 방지에 초점을 맞춰 2026년 7월 AI 기반 탐지로 스팸성 조회수 2300만회를 차단하고 매일 약 200만건의 비정상 투표를 무효화한다고 밝혔다. 핀터레스트는 AI 생성물 표시와 함께 이용자가 특정 범주에서 ‘AI 수정’ 콘텐츠 노출을 줄일 수 있는 기능을 운영한다. 틱톡은 AI 표시와 보이지 않는 메타데이터 워터마크를 의무화했고, 2025년 11월 AI 콘텐츠 제한 기능을 도입한 데 이어 2026년 7월 AI 스팸 전용 계정 탐지를 시험했다. 메타(Meta)는 페이스북·인스타그램·스레드에 2024년부터 ‘AI 정보’ 표시를 붙였고 2026년 6월 광고까지 확대했지만 이용자 필터는 제공하지 않는다. 스포티파이는 스팸성 음원 7500만개 이상을 삭제하고 사칭 정책, 스팸 필터, 크레딧 내 AI 공개 절차를 적용했다.
앤트로픽(Anthropic)은 8월 11일 클로드(Claude)의 텍스트와 파일 출력물에 기계 판독이 가능한 워터마크를 모델 단계에서 전 세계적으로 적용한다고 발표했다. 이 표시는 API와 클로드, 클로드 코드뿐 아니라 AWS·구글 클라우드·마이크로소프트 파운드리를 통한 이용에도 남는다. 기사에서는 EU AI법 제50조가 생성형 AI 제공업체에 기계 판독 형식의 출력물 표시를 요구하고, 위반 시 최대 1500만유로 또는 전 세계 매출의 3%에 해당하는 벌금이 부과될 수 있어 이번 조치가 규제 대응이라고 설명했다.
다만 워터마크는 AI가 텍스트에 관여했다는 사실만 보여줄 뿐 품질을 판단하지는 않는다. 탐지에는 최소 약 100토큰이 필요하고 신스아이디(SynthID) 평가도 200토큰으로 잘라 진행됐는데, 링크드인 댓글은 보통 20~50토큰에 불과하다. 편집·바꿔쓰기·번역·다른 문장과의 결합으로 표시가 약해질 수 있으며, 2025년 ICML에서 발표된 바꿔쓰기 공격은 100만토큰당 0.88달러 비용으로 7개 워터마킹 방식에 거의 100% 성공했다. 오픈 웨이트 모델은 추론 과정에서 워터마크를 적용하므로 표시를 피할 수 있다. 제미나이(Gemini)는 2023년 8월부터 신스아이디 워터마크를 적용해 왔지만 큰 반발은 없었다. 결론적으로 AI 생성 여부와 저품질을 동일시해서는 안 되지만, 생산비가 거의 0에 가까워진 만큼 앞으로는 콘텐츠를 만드는 능력보다 목표 이용자에게 배포될 자격을 얻는 일이 더 중요한 병목이 될 것이라는 분석이다.