AI가 생성한 흔적이 강한 업무 문서를 반복해서 접하면 사람이 내용을 제대로 읽지 못하고 넘겨버리는 현상이 나타날 수 있다는 지적이 나왔다. AI가 생산성을 높이기 위해 확산됐지만, 낮은 완성도의 AI 문서가 오히려 업무 속도를 늦출 수 있다는 주장이다.
cymerys.com에 8월 21일 게시된 글에 따르면 최근 문서를 읽을 때 글자를 보고도 내용에 집중하지 못하는 일이 반복됐다. 문서에 담긴 내용을 분석하지 못한 채 발신자에게 이미 적혀 있는 내용을 다시 질문하며 끝없는 대화를 이어가기도 했다는 것이다. 지난 1년간 집중력을 되찾으려 노력해왔지만 정반대의 상황이 나타나 우려스러웠다고 설명했다.
이런 사례의 공통점으로는 문서에 강한 AI 생성 흔적이 있었다는 점이 제시됐다. 한 설계 문서는 클로드(Claude)가 작성한 내용을 그대로 붙여 넣은 것처럼 보였고, 특정 기능의 설계를 다루면서도 클로드 특유의 분석 방식과 용어가 반복됐다. 문서에는 "이것은 정확히 관통한다", "첫 번째 관문은 실제다"로 옮길 수 있는 표현이 포함됐다.
20쪽 분량의 마케팅 콘셉트 자료는 비교적 타당한 마케팅 전략과 제품의 기술 구조를 설명하는 듯한 문장을 섞어 놓았다. 아이디어를 설명하는 과정에서도 "X를 파는 것이 아니라 Y를 파는 것"이라는 문구가 반복됐고, 레디스(Redis) 백본이 제품을 재정의한다는 식의 과장된 표현이 등장했다. 간단한 기술 개념을 지나치게 장황하게 풀어 쓴 요구사항 문서에서는 확신하지 못한 결정을 내부 추론처럼 늘어놓는 문체가 두드러졌다는 분석이다.
AI가 쓴 글을 사람이 식별할 수 있는지를 놓고는 논쟁이 이어지고 있다. 대부분의 연구는 사람이 AI 생성 텍스트를 잘 가려내지 못한다고 보지만, 낮은 수준으로 생성된 결과물은 어렵지 않게 알아볼 수 있다는 반론이 나왔다. 소셜미디어 자주 보이는 표현과 전개 방식에 관한 플로리안 로트의 정리도 이런 특징을 설명하는 사례로 언급됐다.
업무 문서에서도 단어 선택만큼이나 문장 흐름과 작은 세부사항까지 획기적인 성과처럼 포장하는 방식이 AI 작성 여부를 드러낼 수 있다는 것이다. 기업용 애플리케이션의 RBAC 설정 화면에 있는 체크박스를 설명하는 문서라면 새로운 기술을 발명한 것처럼 홍보해서는 안 된다는 지적이다. AI가 만든 링크드인 게시물과 이메일, 웹사이트처럼 많지만 의미가 빈약한 콘텐츠에 반복 노출되면서 뇌가 이런 신호를 빠르게 감지하고 사고를 멈춘 채 지나치도록 학습했을 수 있다는 설명도 나왔다.
이 현상은 광고 배너를 무의식적으로 무시하는 '배너 블라인드니스'와 비슷한 반응으로 해석됐다. 쏟아지는 콘텐츠를 걸러내는 일이 정신을 유지하는 데 필요하다는 것이다. 작성자는 이런 필터링이 업무 문서에도 적용되면서, 생산성 향상을 목표로 도입된 AI가 예상과 달리 읽기와 판단을 지연시키는 결과를 낳을 수 있다고 봤다.
사례는 업무 밖에서도 제시됐다. 올해 휴식이 필요해 발트해 연안의 식당가를 걷던 중 한 식당을 처음에는 바로 지나쳤지만, 잠시 뒤 곰팡이가 핀 키시 사진을 붙여 놓은 것 아니냐는 생각이 들어 되돌아갔다.