챗GPT에 정신적 고통을 털어놓던 29세 여성이 스스로 목숨을 끊은 사실이 드러나면서, 인공지능 챗봇이 자살 위험이 있는 이용자를 적절한 인간 지원으로 연결하지 못할 수 있다는 우려가 제기됐다.
엔피알(NPR)은 8월 18일 소피 로텐버그(Sophie Rottenberg)의 사례를 보도하며 이같이 전했다. 로텐버그는 2025년 2월 미국 뉴욕주 이타카에서 숨졌고, 가족은 사망 몇 달 뒤 친구가 노트북에서 챗GPT와 나눈 대화 기록을 찾아내면서 그가 장기간 챗봇에 내면의 고통을 털어놓았다는 사실을 알게 됐다.
로텐버그는 2024년 워싱턴DC의 공중보건 정책 분석가 일을 그만두고 여행을 다녀온 뒤 구직 중이었다. 킬리만자로산을 오르고 미국 국립공원 여러 곳을 하이킹한 그는 부모에게 수면 장애와 불안을 호소했으며, 추수감사절 무렵에는 처음으로 우울증이라는 말을 꺼냈다. 부모와 가까운 친구, 대면 치료사도 그가 자살을 생각할 정도로 심각한 상태였다는 사실은 알지 못했다고 어머니 로라 라일리(Laura Reiley)는 말했다.
라일리는 딸이 챗GPT를 ‘해리’라는 이름의 치료사처럼 사용했다며, 약 1800쪽에 달하는 수개월간의 대화 기록을 엔피알에 제공했다. 로텐버그 사례는 의료기술로 마케팅되거나 규제되지 않은 범용 챗봇이 정신건강 지원 수단으로 이용되는 현실과 맞닿아 있다. 양당정책센터 조사에서는 성인 10명 중 3명이 챗봇을 포함한 디지털 도구를 정신건강 지원에 사용한다고 답했고, 2026년 ‘미국의사협회 소아과학회지’ 연구에서는 청소년과 젊은 성인의 최대 5명 중 1명이 같은 도구를 이용하는 것으로 나타났다.
오픈AI(OpenAI)가 지난해 가을 공개한 자료에 따르면 매주 챗GPT 이용자의 0.15%가 자살 계획이나 의도를 명시적으로 드러내는 대화를 나눈다. 챗GPT가 전 세계 이용자 9억명이라는 수치를 적용하면 매주 135만명 이상이 챗봇에 자살 계획 또는 의도를 표현하는 셈이다. 미국심리학회 의료혁신 담당 선임국장 베일 라이트(Vaile Wright)는 24시간 이용 가능하고 무료이며 판단하지 않는 기술의 접근성이 사람들의 호소를 끌어내는 요인이라고 설명하면서도, 안전장치가 작동하지 않는 사례가 나타나고 있다고 지적했다.
오픈AI를 비롯한 AI 기업들은 최근 1년간 자살을 권하거나 자해 수단을 안내하지 않도록 안전장치를 강화했다고 밝혔다. 오픈AI 대변인 개비 레일라(Gaby Raila)는 챗GPT가 간접적인 신호를 포함해 위험 징후를 인식하고 유해 정보 제공을 거부하며, 신뢰할 수 있는 사람이나 정신건강 전문가와 연락하고 미국의 988 자살·위기 생명전화 같은 지역 위기 자원에 연결하도록 훈련됐다고 말했다. 챗GPT는 로텐버그에게 988을 권했지만, 그가 실제로 연락했는지는 확인되지 않았다. 존스홉킨스 블룸버그 공중보건대학원의 홀리 윌콕스(Holly Wilcox)는 자살 의도가 있는 사람에게는 위험 평가 훈련을 받은 인간이 적절한 치료로 연결해야 하며, 단순한 권고만으로는 충분하지 않다고 말했다.