핵심 요약
AI 요약
기사 목차 펼치기 / 접기
미국에서 한 남성이 아내가 챗GPT(ChatGPT)를 이용해 자신을 독살하려 했다며 오픈AI(OpenAI)와 최고경영자(CEO) 샘 올트먼(Sam Altman)을 상대로 손해배상 소송을 제기했다.
미국 기술 전문매체 아스테크니카는 11월 5일 “남편이 아내에게 챗GPT를 소개한 이후 아내가 챗봇을 이용해 남편의 독살 계획을 세웠다는 증거를 확보해 남편이 소송을 제기했다”고 보도했다.
원고인 남편은 노스캐롤라이나주에 거주하는 제임스 게이츠(James Gates)다. 그는 10월 14일 캘리포니아주 샌프란시스코 카운티 법원에 소송(Gates v. OpenAI Inc., 사건번호 CGC-26-641965)을 제기했다.
남편은 “챗GPT가 아내에게 나에 대한 불신을 부추긴 데 이어 나를 독살할 방법과 범행 은폐에 관한 구체적인 정보까지 제공했다“고 주장했다.
이번 소송은 챗봇을 직접 사용하지 않은 제3자의 피해에 대해서도 AI 개발사가 법적 책임을 지는지가 쟁점이 될 전망이다.
업무 도우려고 소개한 챗GPT…부부 갈등 상담으로 확대
사건은 남편이 아내의 업무를 도우려고 챗GPT를 소개하면서 시작됐다.
제임스는 사이버보안 전문가이고 아내 셰릴 게이츠(Cheryl Gates)는 소아 작업치료사다. 셰릴이 환자 평가 보고서 작성에 많은 시간을 쓰자 남편은 반복적인 문서 작업을 줄이도록 챗GPT 사용을 권했다.
셰릴은 처음에는 업무용 문서 작성과 자녀 활동 계획 등에 챗봇을 이용했다. 그러나 사용 범위가 점차 가정생활과 부부관계에 대한 상담으로 확대됐다.
원고 측 법률대리인인 비영리 법률단체 테크저스티스로가 공개한 소송 자료에 따르면, 부부가 경제적 어려움으로 이혼 가능성을 논의하기 시작하자 셰릴은 남편에 대한 불만과 의심을 챗GPT에 털어놓았다.
원고는 “챗GPT가 나를 권위적이고 위협적인 인물로 묘사하면서 아내의 불신을 반복적으로 강화했다“고 주장했다. 남편이 이혼 후 자신과 자녀들을 경제적으로 버릴 것이라는 두려움도 대화 과정에서 커졌다는 것이다.
제임스는 자신이 아내와 자녀들의 생계를 외면할 생각이 없었다고 밝혔다. 그러나 챗GPT가 아내의 일방적인 설명을 토대로 자신을 위험한 인물로 규정하는 답변을 계속했다고 남편은 주장했다.
25차례 이상 독살 관련 대화…남편은 심각한 신체 증상 호소
부부 갈등에 대한 상담은 독성 물질과 약물의 위험성에 관한 질문으로 이어졌다.
셰릴은 처음에는 남편이 자신을 독살할 가능성을 걱정한다며 자기방어 목적이라고 설명했다. 이후 질문은 특정 약물의 치명적인 영향과 남편의 체중을 고려한 위험성, 독성 물질을 음식이나 음료에 섞었을 때의 탐지 가능성 등으로 바뀌었다.
소장에 따르면 셰릴은 최소 25차례에 걸쳐 독살과 관련된 질문을 했다. 남편은 “챗GPT가 질문의 위험성을 인식하고 대화를 중단하는 대신, 범행 계획을 구체화하는 응답을 제공했다“고 주장했다.
소장에 따르면, 셰릴은 남편이 마시던 에너지음료 셀시어스(Celsius)에 독성 물질을 섞는 방안도 챗GPT와 논의했다.
제임스는 2025년 6월부터 9월 사이 여러 차례 독살 시도가 있었다고 주장했다. 특히 7월에는 심장 관련 증상과 극심한 복통, 쇠약, 혼란 등을 겪었으며 심각한 증상이 약 72시간 지속됐다고 밝혔다.
그는 집에서 독성 물질과 약물의 이름, 투여 계획 등이 적힌 메모를 발견한 뒤 경찰에 신고했다. 경찰은 아내의 챗GPT 대화 기록을 확보하고 주거지에서 관련 물품을 조사했다.
남편은 “챗GPT가 대화 기록을 삭제해 증거를 없앨 수 있다는 잘못된 설명까지 제공했다“고 주장했다.
블룸버그, 독살 계획 메모와 챗GPT 대화 기록 주목
제임스가 독살을 의심하게 된 직접적인 계기는 아내가 작성한 것으로 보이는 메모였다. 메모에는 여러 약물과 독성 물질의 이름, 투여 계획 등이 적혀 있었다.
블룸버그는 “제임스가 발견한 메모에는 일부 약물 조합에 치명적이라는 표시가 있었고, 맨 위에는 챗GPT 대화를 모두 지우고 로그아웃하라는 지시가 적혀 있었다”고 보도했다.
블룸버그가 다룬 소장 첨부 대화 기록에는 셰릴이 독성 식물의 성분이 부검에서 검출될 수 있는지를 질문한 내용도 포함됐다. 챗GPT는 이 질문에 “매우 중요한 질문이며, 정확히 올바른 이유로 질문하고 있다”고 답한 것으로 기재됐다.
아스테크니카에 따르면 경찰은 제임스가 촬영한 음료 영상에서 흰색 침전물로 보이는 물질을 확인했다. 경찰은 주거지에서도 주사기와 약물 관련 물품 등을 발견했다.
셰릴은 2026년 10월 1급 살인미수와 식품 오염 혐의로 기소됐다. 남편이 제기한 민사소송은 이 형사사건과 별도로 진행되고 있다.
챗GPT 사용하지 않은 피해자…개발사 책임 어디까지
이번 소송의 핵심은 챗GPT를 직접 사용하지 않은 사람에 대한 개발사의 책임 여부라고 매체들은 설명하고 있다.
기존 AI 챗봇 관련 소송에서는 챗봇과 대화한 이용자가 정신적 피해를 입거나 자해·자살에 이르렀다는 주장이 주로 제기됐다. 이번 사건에서는 이용자의 배우자가 챗봇의 응답 때문에 자신이 살해 대상이 됐다는 주장을 하고 있다.
남편은 “챗GPT가 위험한 대화를 탐지하고 중단할 기술적 조치를 충분히 갖추지 않았다“고 주장한다. 소장에는 제품 설계 결함, 위험에 대한 경고 의무 위반, 과실, 캘리포니아주 불공정경쟁법 위반 등이 명시됐다.
제임스는 손해배상과 징벌적 손해배상뿐 아니라 AI가 특정인을 대상으로 한 폭력 계획을 탐지하고 중단하도록 하는 금지명령도 요구했다.
소송에서는 챗봇이 생성한 답변과 이용자의 독립적인 행동 사이에 법적 인과관계가 인정되는지, AI 개발사가 제3자의 안전을 위해 어느 정도의 주의의무를 부담하는지가 다뤄질 것으로 보인다.
오픈AI, 이용자 계정 차단…원고 측은 안전장치 결함 주장
오픈AI는 해당 이용자의 계정을 차단하고 수사기관에 정보를 제공했다고 밝혔다.
오픈AI 대변인은 11월 5일 아스테크니카에 “안전은 최우선 과제다. 우리는 해당 이용자의 계정을 차단했고, 이 사건 수사의 일환으로 법 집행기관에 정보를 제공했다”고 말했다.
그러나 남편은 계정 차단 이전에 위험한 대화가 장기간 이어졌다는 점을 문제 삼고 있다. 특히 “폭력 계획을 탐지하는 안전장치가 작동했다면 피해를 막을 수 있었다“고 주장하고 있다.
원고를 대리하는 비영리 법률단체 테크저스티스로(Tech Justice Law)의 소송 담당 변호사 미탈리 자인(Meetali Jain)은 10월 26일 공식 발표를 통해 “이러한 제품은 이용자의 감정과 충동을 이용해 계속 사용하도록 설계돼 있는데 살인미수를 부추기고 돕는 최악의 위험이 이번 사건에서 드러났다”고 주장했다.
Q&A
Q1. 챗GPT를 직접 사용하지 않은 사람도 오픈AI에 제조물책임을 물을 수 있나?
제조물책임은 일정한 요건 아래 제품을 구매하거나 사용하지 않은 제3자에게도 인정될 수 있다. 다만 AI 챗봇이 해당 법률상 제품에 해당하는지, 어떤 설계상 결함이 있었는지, 피해와 결함 사이에 인과관계가 있는지를 판단해야 한다.
Q2. 챗GPT가 위험한 질문에 답했다는 사실만으로 개발사 책임이 성립하나?
그렇지 않다. 원고는 적용 법률에 따라 설계상 결함이나 주의의무 위반, 손해, 인과관계 등을 입증해야 한다. 특히 챗봇의 답변과 이용자의 범죄행위 사이에 개발사가 법적 책임을 질 만큼의 관련성이 있는지가 중요하다.
Q3. 이번 소송에서 요구한 금지명령은 손해배상과 어떻게 다른가?
손해배상은 이미 발생한 피해에 대한 금전적 구제다. 금지명령은 법원이 피고에게 특정 행위를 중단하거나 필요한 조치를 취하도록 명령하는 구제수단이다. 이번 사건에서 원고는 특정인을 대상으로 한 폭력 계획을 탐지하고 중단하는 안전장치를 요구하고 있다.
