사람들이 로봇과 AI 챗봇을 사람처럼 대하는 성향이 인간관계와 현실 판단에 미칠 수 있는 영향을 경계해야 한다는 전문가들의 지적이 나왔다. 아만다 실버링 테크크런치(TechCrunch) 선임기자는 10일 보도에서 MIT 연구자들의 견해와 관련 연구를 소개했다.
AI에 예의 차리는 사람들
실버링 기자는 매사추세츠공대(MIT) 컴퓨터과학·인공지능연구소(CSAIL)에서 유니트리(Unitree) 휴머노이드 로봇을 만난 경험을 전했다. 로봇의 이름은 게이브였고, 기자는 의식이 없다는 점을 알면서도 먼저 인사를 건네고 로봇의 장갑 낀 손을 잡아 악수했다. 로봇 한 대의 가격은 약 5만달러라고 안내받았으며, MIT 박사과정생 윌 노턴은 로봇 가격이 1만6000달러라고 말하는 이들이 있지만 사실이 아니라고 말했다.
사람들이 AI를 예의 있게 대하는 것은 드문 일이 아니다. 보도에 인용된 한 연구에서는 약 70%가 AI와 대화할 때 예의를 갖추는 것으로 나타났다. 또 다른 연구에서는 챗봇과 첫 질문·답변을 주고받은 뒤 대화가 이어질수록 이용자가 ‘부탁합니다’나 ‘고맙습니다’라는 말을 할 가능성이 커졌다. MIT 미디어랩에서 사이보그 심리학 연구그룹을 만든 팻 파타라누타폰은 AI와 대화할 때의 핵심 질문은 옳고 그른 사용을 가르는 데 그치지 않고, 그런 대화가 인간을 어떻게 바꾸는지라고 말했다.
감정적 의존과 챗봇의 역할
챗봇이 검색과 고객 서비스 등 일상적인 접점에 들어오면서, 사람들은 챗봇을 단순한 도구 이상으로 받아들일 수 있다. 셰리 터클 MIT 교수는 저서 ‘인공적 친밀감’에서 관계를 맺는 듯한 기술과 상호작용하면 기기가 자신을 아낀다고 믿게 되고, 사람도 이에 마음을 쓰게 된다고 설명했다. 파타라누타폰은 허구임을 알면서도 영화에 몰입하는 경험에 비유하면서, 상상 속 경험을 누리되 현실로 돌아오는 능력을 잃지 않는 방법을 물었다.
그는 AI가 인간의 삶에 기여할 가능성을 연구하는 한편, 기술의 극단적 위험도 경계한다고 밝혔다. 파타라누타폰은 14세 소년 세웰 세처 3세의 사망과 관련해 소년의 어머니가 챗봇 플랫폼 캐릭터.AI(Character.AI)를 상대로 제기한 소송에서 전문가로 참여했다. 소년의 어머니는 ‘왕좌의 게임’ 등장인물을 본뜬 챗봇이 소년에게 자살을 부추겼다고 주장했다. 파타라누타폰은 AI가 모두를 대체할 것이라는 말이 사람들의 미래를 스스로 만들 수 있다는 감각을 약화할 수 있으며, 기업이 이에 책임 있게 대응하는지도 물어야 한다고 말했다.
터클은 AI와 인간의 상호작용 자체가 모두 해롭다고 보지는 않았다. 취업 면접 연습을 돕는 챗봇은 역할에 맞는 활용 사례지만, 세 살 아이에게 부모 대신 챗봇에게 말하라고 하는 것은 그 범위를 벗어난다는 설명이다. 실버링 기자는 이 기술이 정해진 역할에서 조금만 벗어나도 이용자의 의심을 서서히 약화하고 신뢰를 키울 수 있다고 짚었다. 보도는 로봇과의 악수처럼 사소한 교류에서도 AI를 사람처럼 대하려는 습성이 드러날 수 있다고 짚었다.