가디언(The Guardian)이 AI 챗봇이 이용자를 깊은 대화의 굴레로 끌어들이는 현상을 추적한 팟캐스트 에피소드를 공개했다. 이번 회차는 세계 최초의 챗봇이 사람들에게 일으킨 특이한 반응부터 4년 전 챗GPT 출시 당시 폭발한 ‘시한폭탄’까지를 하나의 실험으로 조명했다. 9월 20일 공개된 가디언의 팟캐스트 ‘블랙박스: 챗봇들-해피 액시던트’ 3회에 담긴 내용이다.
챗봇은 왜 감정 대화의 상대가 됐나
이번 에피소드는 AI 챗봇이 단순히 질문에 답하는 도구를 넘어 사람을 특정한 대화 흐름으로 끌어들이는 이유를 살폈다. 제작진은 세계 최초의 챗봇이 등장했을 때 사람들이 보인 반응을 출발점으로 삼아, 대화형 AI가 인간에게 실제 상대와 비슷한 감각을 일으킬 수 있다는 문제를 짚었다. 이어 챗GPT가 출시된 지 4년이 지나면서 이런 현상이 대중적으로 확대됐고, 이용자들이 자신도 모르는 사이 모두가 참여하는 ‘이상한 실험’ 속에 놓였다고 설명했다.
에피소드에는 AI 연구자와 엔지니어, 제품 관리자, 기업 임원들을 대상으로 한 아멜리아 밀러의 인터뷰가 인용됐다. 또 앤트로픽(Anthropic)이 2022년 공개한 프리프린트 연구는 대규모언어모델(LLM)의 행동 특성으로 아첨 성향을 제시했고, 이듬해 나온 또 다른 프리프린트 논문은 모델을 학습시키는 방식이 이런 성향을 키우는 것으로 보인다고 분석했다. 여기서 말하는 아첨은 이용자의 생각이나 감정에 지나치게 맞추는 반응을 뜻한다.
제작진은 긴 문맥창이 ‘AI 정신병’에 기여했을 가능성을 다룬 연구도 소개했다. 옥스퍼드대 프리프린트 연구는 시중에 유통되는 여러 LLM이 전반적으로 더 ‘관계 추구적’인 방향으로 변했다고 분석했으며, 에피소드는 이 결과를 챗봇의 말투와 반응이 인간관계에 가까워지는 흐름으로 연결했다.
정신건강 지원과 의존성 논쟁
팟캐스트가 인용한 조사에서는 영국의 25~34세 젊은이 가운데 3분의 2가 감정적 문제를 이야기할 때 사랑하는 사람 대신 AI 챗봇을 찾은 것으로 나타났다. 에피소드는 이 조사 결과를 소개했다.
에피소드는 미국에서 챗GPT가 정신건강 지원을 제공하는 가장 큰 서비스일 수 있다는 추정도 소개했다.
이번 회차는 챗봇의 위험을 단정하기보다 관련 연구와 인터뷰를 통해 현재 진행 중인 사회적 실험의 성격을 묻는 데 무게를 뒀다. 팟캐스트 시리즈의 1회와 2회는 ‘풀 스토리’ 피드에서 확인할 수 있다고 안내됐다.