미국 베스트셀러 소설 ‘대거마우스(Daggermouth)’에 대해 생성형 인공지능(AI·인간의 학습 및 추론 능력을 모방하는 컴퓨터 시스템) 탐지 기술의 불완전성으로 인한 창작자 명예훼손 논란이 불거진 가운데, 유럽연합(EU)의 포괄적 AI 규제법이 8월 2일 본격 시행되면서 AI 생성물 판별 및 저작권 투명성에 대한 제도적 통제가 가속화할 전망이다.
미국의 유명 월간 매체 디 애틀랜틱(The Atlantic)은 베스트셀러 소설 ‘대거마우스(Daggermouth)’가 생성형 AI 챗봇으로 작성된 최초의 AI 소설일 수 있다는 추측성 기사를 보도해 파문을 일으켰다고 디 애틀랜틱(The Atlantic)이 7월 29일 보도해 논란이 계속되고 있다. 이 보도는 미국 뉴욕 소재 스토니브룩 대학교(Stony Brook University)의 투힌 차크라바티(Tuhin Chakrabarty) 교수가 이끄는 연구진의 미간행 데이터와 관련 전문가들의 주장을 바탕으로 작성됐다.
북미의 독립 문학 및 도서 전문 미디어 플랫폼인 북리엇(BookRiot)도 “AI 탐지 소프트웨어 ‘팡그램(Pangram·문장 내 통계적 패턴을 분석해 생성형 AI 작성 여부를 판별하는 기술)’의 분석 및 희귀 표현 검증 결과 소설의 60%가 AI 작성으로 나타나 통계적으로는 인간이 직접 완전하게 작성했다고 보기 어렵다”고 지적했다.
“오탐지율 높고 검증 안 돼”… 법적 증거능력 쟁점 부각
반면 작가인 H.M. 울프(H.M. Wolfe) 측과 숏폼 동영상 플랫폼 틱톡(TikTok)의 서평 공간인 ‘북톡(BookTok)’ 커뮤니티는 팡그램 소프트웨어가 가진 높은 위양성(False Positive·실제 인간이 작성한 텍스트를 AI가 작성한 것으로 오판하는 오류) 오차율을 문제 삼았다. 또 이 연구가 동료 평가(Peer Review·학술 논문의 전문적 자격과 타당성을 검증하는 심사)를 거치지 않은 미완성 데이터라는 점을 지적하며 강력히 반발했다.
이 사건은 명백한 사실 확인이나 작가의 인정이 없는 상황에서 정황성 소프트웨어 측정치만으로 AI 활용을 단정 지어 명예훼손(Defamation·타인의 사회적 평가를 실추시키는 사실 또는 허위사실을 적시하는 행위)을 유발했는지 여부가 핵심 법적 쟁점으로 부각됐다. 과거 출판사의 서적 수거 조치와 작가의 직접 인정이 수반되었던 미아 발라드(Mia Ballard) 사태와 달리, 이 사건은 출판사의 제재나 작가의 인정 등 객관적 정황 증거가 전무하다.
법적인 문제는 복잡하다. 불완전한 AI 탐지 도구의 결과값을 유효한 법정 증거로 인정할 수 있는지와 관련한 증거능력(Admissibility of Evidence·법원에 제출된 증거가 사실 판단 자료로 쓰일 수 있는 법률상 자격) 문제와 장르 소설 특유의 클리셰를 AI 패턴으로 오인한 구체적 쟁점이 얽혀 있기 때문이다. 명확한 입증(Proof)이 없다면 이른바 마녀사냥의 위험과 매체의 무책임한 보도로 인한 허위사실 유포 책임 가능성도 제기된다.
유럽 AI 기본법 시행… 생성형 AI 모델 ‘투명성 의무화’로 근본적 해법 제시할까
EU AI 기본법에 따르면 EU 내에서 상용화되는 범용 AI 모델 개발사들은 모델 학습에 사용된 저작권 보호 콘텐츠와 데이터를 투명하게 공개해야 하며, 첨단 “프론티어” AI 모델을 개발하는 기업은 광범위한 사회적 위험을 식별하고 완화 조치를 이행해야 한다.
미국 생성형 AI 개발사인 오픈AI(OpenAI) 등 서구 주요 기술 기업들은 동참 의사를 밝혔으나, 미국 트럼프 행정부가 이 규제를 자국 기업에 대한 통상 공격으로 간주하고 반발할 수 있다는 우려도 제기된다.
학계와 법조계에서는 이번 EU AI법의 시행이 대거마우스 사건과 같은 무분별한 억측과 법적 갈등을 근본적으로 해소하는 제도적 분수령이 될지 주목하고 있다.
법적으로 상용 AI 모델의 학습 데이터와 작동 구조가 투명하게 공개되면, 개발사 차원에서 특정 창작물의 무단 학습 및 활용 여부를 입증하거나 추적할 확실한 법적 근거가 마련된다. 이에 따라 정황성 탐지 프로그램의 불확실한 오탐지 수치에만 의존해 무책임하게 명예훼손성 의혹을 제기하는 사태를 크게 줄일 수 있을 것으로 기대된다.
다만 최종 출판물 자체만을 보고 AI 활용 비율을 역추적하는 소프트웨어의 불완전성이 지속되는 한, 법정에서의 증거능력 확보는 별개의 과제로 남는다. 법조계에서는 AI 활용 여부를 입증하기 위한 엄격한 법적 증거 표준(Standard of Proof·사실 관계를 입증하기 위해 요구되는 증명의 정도)의 정립과 함께 무분별한 탐지 도구 남용 방지 가이드라인 마련이 필수적이라는 지적이 나온다.
Q&A
Q1. 소설 ‘대거마우스’를 둘러싼 논란의 핵심 법적 쟁점은 무엇인가요? A1. 작가의 직접 인정이나 출판사 제재 등 객관적 물증이 없는 상태에서, 오탐지율이 존재하는 AI 탐지 프로그램 데이터만을 근거로 AI 작성을 단정 짓고 보도해 작가의 명예를 훼손했는지 여부입니다.
Q2. AI 탐지 프로그램 ‘팡그램’ 분석 결과를 법적으로 신뢰하기 어려운 이유는 무엇인가요? A2. 인간이 쓴 글을 AI 생성물로 판정하는 ‘위양성’ 오차율이 높고, 장르 소설 고유의 클리셰 및 표준 문장 구조를 통계적 패턴으로 잘못 파악할 가능성이 크기 때문입니다.
Q3. 과거 ‘미아 발라드’ 사건과 이번 사태의 차이점은 무엇인가요? A3. 미아 발라드 사건은 출판사의 수거 조치와 작가의 인정이라는 객관적 정황이 있었으나, 이번 사태는 출판사 제재나 작가 인정 없이 단지 정황성 소프트웨어 측정 수치에만 의존하고 있다는 차이가 있습니다.
Q4. EU AI법 시행이 소설의 AI 작성 논란 해소에 어떤 영향을 미칠 수 있나요? A4. EU AI법은 개발사에게 학습 데이터 및 저작물 출처 공개를 의무화하므로, AI 모델 수준에서 투명성이 확보되어 사후 오탐지 프로그램 수치에만 의존한 무분별한 억측과 명예훼손 논란을 줄이는 법제도적 장치가 될 수 있습니다.
Q5. 향후 유사한 법적 분쟁을 예방하기 위해 법조계가 요구하는 대책은 무엇인가요? A5. 기술적으로 불완전한 AI 탐지 도구 수치의 법적 증거능력을 엄격히 심사하고, 명확한 입증을 위한 법적 증거 표준 정립 및 무분별한 소프트웨어 오남용 방지 가이드라인을 제정해야 합니다.
