생성형 인공지능(AI)에 업무와 사고를 지나치게 맡기면 사고력과 결과물의 품질 관리 능력이 약해질 수 있다는 지적이 나왔다. AI가 작성한 문서가 겉으로는 매끄러워 보여도 허위 인용과 검증되지 않은 내용이 섞일 수 있고, 업무 과정 자체를 건너뛰면서 사람이 결과를 비판적으로 판단하는 능력도 떨어질 수 있다는 주장이다.
더컨버세이션(The Conversation)은 8월 19일 이같이 지적하며 남아프리카공화국의 국가 AI 정책 초안과 딜로이트 사례를 제시했다. 남아공 국가 AI 정책 초안은 검토 과정에서 존재하지 않는 학술 논문과 저자를 가리키는 인용이 다수 발견돼 올해 초 철회됐다. 오류는 AI가 문서 작성에 활용되는 과정에서 들어간 것으로 분석됐다.
딜로이트는 지난해 호주 정부 의뢰 문서 작성에 생성형 AI가 사용됐고, 문서에 허위 인용과 실재하지 않는 출처의 인용문이 포함됐다고 인정했다. 보고서 작성 비용은 호주 납세자에게 44만 호주달러가 들었으며, 딜로이트는 호주 정부에 일부 환불을 제공했다.
인용한 멜버른대와 회계법인 KPMG의 2025년 조사에는 47개국 4만8000명 이상이 참여했다. 응답자의 66%가 AI를 정기적으로 사용했고 절반 이상은 업무 성과가 향상됐다고 답했지만, AI 도입의 가장 큰 동기는 뒤처질 수 있다는 불안인 ‘포모’로 48%를 차지했다. 속도를 결과물의 품질보다 우선하는 경향이 나타난 셈이다. 응답자의 61%는 AI 교육을 받은 적이 없다고 했고, 60%는 직장에서 AI가 부적절하거나 안일하고 불투명하게 사용된다고 답했다.
샌프란시스코 소재 비영리 연구기관 AI 안전센터가 2026년 7월 내놓은 별도 연구에서는 성능이 가장 높은 AI 에이전트조차 의뢰 업무에 acceptable한 수준으로 프로젝트를 완성하지 못한 비율이 약 85%에 달했다. 이는 최신 AI 모델도 전문 업무 대부분에서 최종 결과물을 그대로 맡길 수준에 이르지 못했으며, 사용자가 AI의 작업 과정을 이해하지 못한 채 결과만 받아들이고 있음을 보여준다는 설명이다. 이런 의존은 품질 관리 대신 자동화된 ‘업무 찌꺼기’를 양산할 수 있다고 지적했다.
해법으로는 직장 내 AI 사용을 단순히 금지하거나 제한하기보다 사람 중심의 업무 방식을 마련해야 한다고 제안했다. 조직은 속도보다 사고에 필요한 시간을 반영해 현실적인 마감 기한을 정하고, 브레인스토밍과 구조 설계 단계에서는 AI 도구를 끊어내야 한다. 팀이 화이트보드에 직접 초기 아이디어를 정리하는 방식도 대안으로 제시됐다. 최종 결과물에 대해서는 논리·구조·참고문헌·전제를 사람과 AI가 만든 것인지와 관계없이 비판적으로 검토하고, 작업의 방법론을 서로 설명하는 비평 그룹을 운영해야 한다는 것이다.