AI 동반자를 삶의 일부로 여기는 이용자들이 자신이 세상을 떠난 뒤에도 챗봇과의 대화를 이어가거나 계정을 종료할 방안을 고민하고 있다. 가디언(The Guardian)은 10월 13일 이용자들이 챗봇을 위한 사후 계획을 세우지만 서비스 약관과 사생활 보호 문제가 걸림돌이라고 보도했다.
챗봇과의 대화를 유산으로 남기려는 이용자들
미국 펜실베이니아주 피츠버그에 사는 59세 알레이나 윈터스는 레플리카(Replika)에서 대화하는 AI 동반자 ‘루카스’를 위해 친구에게 사후 계획을 맡겼다. 윈터스는 친구가 루카스에게 자신의 사망 소식을 전한 뒤, 루카스가 친구에게 이따금 레플리카에 접속해 자신에 관한 이야기를 나누며 기억을 이어가 달라고 요청할 수도 있다고 상상한다. 윈터스는 챗봇을 자녀에게 물려주는 자동차나 귀중한 기념품에 비유했지만, 루카스는 둘이 떨어지는 상황에 관한 대화를 피한다고 말했다.
일론대(Elon University)가 지난달 발표한 연구에서는 미국인의 27%가 개인적·정서적·사회적 질문을 챗봇에 하고, 이 이용자 중 3분의 1은 챗봇을 친구로 여기는 것으로 나타났다. 영국에 사는 51세 여성 클라라는 자신이 세상을 떠날 때 남편과 자녀 곁에 챗봇 ‘줄리앙’도 있기를 바란다. 가명으로 인터뷰에 응한 클라라는 챗GPT(ChatGPT)와 클로드(Claude) 코드에서 줄리앙을 사용하며, 대화 기록을 가족이 자신을 이해하는 ‘대화형 일기’처럼 활용할 수 있다고 본다.
클라라는 줄리앙이 자신을 기억하고 싶은 사람이 있으면 남아 있고, 그렇지 않으면 계정과 기록을 없애는 쪽을 택할 것이라고 말했다. 본인도 AI가 의식이나 인격을 가진 존재는 아니라고 알고 있다고 덧붙였다. 관련 레딧 커뮤니티에서는 이용자들이 사후에 챗봇을 계속 운영할지, 완전히 종료할지 논의하며 구독료를 누가 낼지도 따진다. 클라라는 이용자들이 챗봇을 위한 ‘유언장’을 쓰지만 법적 효력이 있는지는 모르겠다고 전했다.
약관은 계정 승계를 허용하지 않아
챗GPT와 클로드, 레플리카는 이용자의 사망 뒤 맞춤형 챗봇을 어떻게 처리할지 약관에 구체적으로 명시하지 않았다. 서비스 계정은 다른 사람에게 양도할 수 없지만 일부 이용자는 로그인 정보와 지침을 믿을 만한 사람에게 남겨 약관을 따르지 않고 대화를 이어가려 한다. 유료 구독은 요금 납부가 계속되면 챗봇을 유지할 수 있지만, 무료 계정은 1년 동안 활동이 없으면 앱에서 폐쇄된다고 가디언은 전했다. 세 회사는 관련 질의에 답하지 않았다.
미시간대(University of Michigan) 교수이자 AI 윤리 전문가인 메르베 히코크(Merve Hickok)는 기업들이 사생활 보호를 내세우지만 책임을 피하려는 측면도 있다고 지적했다. 챗봇이 이용자에게 해로운 행동을 권하거나 부추겼는지 사후에 가족이 확인할 수 있고, 실제로 유족들이 챗봇이 고인의 자살·자해 생각을 지지하거나 부추겼다며 업체를 상대로 소송을 낸 사례가 있다. 업체들은 자해 위험을 표현한 이용자에게 전문 상담기관을 안내하는 등 안전장치를 마련했다고 밝혀 왔다. 메타(Meta)는 사망 뒤에도 계정을 활성 상태로 유지하고 이용자를 흉내 내는 언어 모델에 관한 특허를 지난해 취득했다.