오픈AI(OpenAI)가 유럽연합(EU)에서 챗GPT(ChatGPT)가 생성한 텍스트에 워터마크를 기본 적용한다. IT 전문 매체 아스 테크니카는 10월 7일 오픈AI의 발표를 보도했다.
EU에서는 자동 적용, 다른 지역은 선택
워터마크는 앞으로 몇 주 안에 EU 이용자에게 순차적으로 적용될 예정이다. EU 밖에서도 기능을 제공하지만 기본 설정은 꺼져 있다. 오픈AI는 규제 당국이 요구하는 지역에서만 기본 적용하기로 했으며, 이번 조치는 지난 8월 시행된 EU AI법에 대응하기 위한 것이다.
EU AI법은 AI 모델이 만든 콘텐츠에 다른 도구로 감지할 수 있는 표시를 하도록 요구한다. 기존에는 신스ID(SynthID)와 C2PA 프로젝트 등 관련 표준이 있었지만, 기본적인 지식만 있어도 우회할 수 있다고 매체는 전했다. AI 생성물임을 안정적으로 판별하는 완전하고 신뢰할 만한 방법은 아직 없다는 설명이다.
텍스트그레인 탐지율은 수정량에 따라 하락
오픈AI의 워터마크 기술은 텍스트그레인(textGrain)이다. 회사가 공개한 기술 논문에 따르면, 사람이 읽을 때 눈에 띄지 않도록 단어 선택에 패턴을 넣고, 키를 가진 이용자가 전용 탐지 도구로 이를 확인하는 방식이다. 이 패턴은 결과물의 전반적인 품질을 크게 바꾸지 않는다.
오픈AI 자체 시험에서 텍스트그레인의 최고 탐지 성공률은 92%였다. 그러나 생성된 텍스트의 10%만 바꿔도 성공률이 거의 30% 낮아졌고, 20%를 수정하면 하락 폭이 거의 75%에 달했다. 짧은 글이나 번역문에서는 탐지 성공률이 더 낮은 것으로 나타났다. 탐지 도구는 일부 연구자와 기관에 제공하고, 다른 이용자는 승인 요청 절차를 거쳐 접근할 수 있도록 할 계획이다.
챗GPT·코덱스 앱에 우선 도입
이번 기본 적용은 챗GPT와 코덱스(Codex) 앱에 해당한다. API에서는 워터마크가 기본적으로 꺼진 상태로 제공되며, 이용자가 선택해 쓸 수 있는 것으로 보인다고 아스 테크니카는 전했다.
앤트로픽(Anthropic)은 8월 자사 모델이 만든 텍스트에 워터마크를 도입하면서 전 세계에서 사용하도록 설정했다. 오픈AI는 규제가 적용되는 EU에서만 기본값을 켜고 다른 지역에서는 선택 기능으로 제공한다. 다만 텍스트 일부를 고치거나 번역하면 탐지율이 떨어지는 시험 결과가 나온 만큼, 워터마크만으로 AI 생성 여부를 확실히 가려낼 수 있는지는 한계로 남는다.