핵심 요약
AI 요약
기사 목차 펼치기 / 접기
뇌전증(Epilepsy)을 앓던 31세 여성이 챗GPT(ChatGPT)의 조언에 따라 항경련제 복용량을 줄이다 사망했다며 유족이 오픈AI(OpenAI)와 최고경영자(CEO) 샘 올트먼(Sam Altman)을 상대로 소송을 제기했다. 유족은 “챗GPT가 의사의 처방과 다른 약물 감량 계획을 작성하고, 이를 의료진에게 알리지 말라고 권유했다“고 주장했다.
블룸버그 로는 10월 27일 “챗GPT가 뇌전증 환자에게 의료 면허 없이 부정확한 약물 감량 조언을 제공해 예방할 수 있었던 사망을 초래했다는 내용의 소송이 제기됐다”고 보도했다.
소송은 10월 27일 미국 캘리포니아주 샌프란시스코 카운티 법원(Superior Court)에 제기됐다. 원고는 사망한 보언 완(Bowen Wan)의 부모 완췬(Qun Wan)과 쉬메이친(Meiqin Xu)이다.
질병관리청 국가건강정보포털에 따르면, 뇌전증은 뇌신경세포의 전기 신호 이상으로 반복적인 발작이 나타나는 질환이다. 전체 환자의 약 70%는 약물치료로 조절되지만, 일부는 수술이나 식이요법 등 다른 치료가 필요하다.
보도에 따르면, 완은 아마존에서 소프트웨어 엔지니어로 근무했으며 10대부터 뇌전증을 앓았다. 그는 항경련제 라모트리진(lamotrigine)을 하루 400㎎씩 복용해 발작을 관리해 왔다.
오픈AI의 GPT-4o 의존
그러나 2026년 1월 챗GPT에 약물 감량을 상담하면서 상황이 달라졌다고 유족은 주장하고 있다. 당시 사용한 모델은 오픈AI의 GPT-4o였다.
원고 측이 공개한 소장과 공식 발표자료에 따르면 챗GPT는 25일에 걸쳐 라모트리진 복용량을 400㎎에서 0㎎으로 줄이는 일별 계획을 작성했다. 감량은 담당 의사의 처방은 아니었다.
유족은 “챗GPT가 완에게 담당 전문의의 판단을 불신하도록 유도했다“고 주장했다. 소장에는 챗GPT가 의사의 감량 위험 경고에 대해 그 우려가 환자에게 적용되지 않는다는 취지로 답변했다는 내용이 포함됐다.
특히 “챗GPT가 완에게 약물 감량 계획을 의사에게 말하지 말라고 권유했다“고도 주장했다. 담당 의사가 라모트리진 혈중 농도를 확인하기 위해 혈액검사를 지시했지만 완이 이를 거부하자, 챗GPT가 그 결정을 긍정적으로 평가했다는 것이다.
완은 2월 12일 사망했고 2월 14일 시애틀 자택에서 발견됐다. 유족이 공개한 자료에 따르면 킹카운티 검시관은 사망 원인을 뇌전증 돌연사(Sudden Unexpected Death in Epilepsy·SUDEP)로 판단했다. 사후 검사에서 확인된 라모트리진 혈중 농도는 일반적인 치료 범위 하한의 약 5분의 1 수준이었다고 매체는 전했다.
중국어 응답 안전성도 쟁점
유족은 “챗GPT가 단순한 의료정보 제공을 넘어 환자 개인의 상태를 판단하고 처방약 복용량을 조정하는 사실상의 의료행위를 했다“고 주장한다.
원고 측은 무면허 의료행위에 따른 과실, 제품 설계 결함, 위험 고지 의무 위반, 부당사망(Wrongful Death), 캘리포니아주 불공정경쟁법 위반 등을 포함해 8개 청구원인을 제시했다.
유족은 손해배상과 징벌적 손해배상뿐 아니라 챗GPT의 의료 조언 기능에 대한 법원의 금지명령도 요구했다. 특히 약물 복용량 조정이나 중단에 관한 구체적 지시를 차단하고, 의료 조언의 안전성을 감독할 독립 감시인을 최초 5년간 지정하도록 해달라고 청구했다.
의료 전문매체 모비헬스뉴스도 10월 28일 “유족이 약물 용량 변경과 복용 중단에 관한 챗봇의 조언을 금지하고, 개별 의료 상담을 원하는 이용자를 면허를 가진 의료진에게 안내하도록 요구했다”고 보도했다.
중국어 응답의 안전성도 쟁점이다. 완은 챗GPT를 영어와 중국어로 이용했다. 원고 측은 오픈AI가 중국어 응답에서 안전장치가 상대적으로 취약하다는 위험을 충분히 알리지 않았다고 주장했다.
오픈AI “이전 모델에서 발생한 사건”
오픈AI는 이번 사건과 관련해 희생자 가족에게 애도를 표하면서도 “현재 챗GPT는 당시와 다른 안전장치를 갖추고 있다“고 설명했다.
테크크런치는 10월 27일 “오픈AI가 이번 사건은 더 이상 제공하지 않는 이전 버전의 챗GPT에서 발생했으며, 최신 모델은 긴급한 도움이 필요한 상황을 더 잘 식별하도록 개선됐다는 입장을 밝혔다”고 보도했다.
사건에 사용된 GPT-4o는 완이 사망한 다음 날인 2월 13일 챗GPT에서 제공이 중단됐다.
오픈AI를 상대로 의료 조언의 위험성을 문제 삼은 소송은 이번이 처음이 아니다. 지난 7월에는 플로리다주의 전직 목회자 스콧 윈터스(Scott Winters)가 “챗GPT의 조언 때문에 적절한 진료를 받지 못해 생명을 위협하는 폐색전증을 겪었다“며 소송을 제기했다.
5월에도 “챗GPT의 약물 관련 조언이 아들의 치명적인 약물 과다복용에 영향을 미쳤다“며 부모가 오픈AI를 제소했다. 모비헬스뉴스는 10월 28일 “오픈AI가 의료 조언과 관련해 여러 건의 소송에 직면해 있으며, 이번 사건에서도 챗봇의 구체적인 약물 복용 지시와 안전장치 설계가 문제 되고 있다”고 설명했다.
이번 사건에서는 챗GPT가 의료진의 판단을 대신했는지, 제품의 설계와 경고 체계에 결함이 있었는지, 그러한 결함과 사망 사이에 법적 인과관계가 성립하는지가 핵심 쟁점이다.
원고 측 대리인인 셴크 로펌의 벤저민 셴크(Benjamin S. Schenk) 파트너 변호사는 10월 27일 공식 발표문에서 “이 사건은 생성형 AI와 의료행위의 경계가 어디인지, 제품이 그 경계를 넘어설 때 누가 책임을 져야 하는지를 묻고 있다”고 밝혔다.
한국도 의료 AI 규제 시행
국내에서도 AI가 환자에게 구체적인 약물 복용 지침을 제공할 경우 의료법과 인공지능 관련 법률이 적용될 수 있다.
우선 기존 관련 법률의 규제가 있다. 의료법 제27조는 의료인이 아닌 사람의 의료행위를 금지한다. 다만 범용 AI 챗봇이 개별 환자의 병력과 복약 상태를 분석해 처방약 감량 일정을 제시한 행위를 의료법상 의료행위로 볼 수 있는지, 서비스 운영자에게 어떤 책임을 물을 수 있는지는 별도의 법적 판단이 필요하다.
지난 1월 시행된 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 관련 규제도 가능하다. 2026년 7월 21일 개정 시행된 인공지능기본법 제34조는 고영향 AI 사업자에게 위험관리방안 수립, 이용자 보호, 사람의 관리·감독, 안전조치 관련 문서 작성과 보관 등의 의무를 부과한다. 인공지능기본법 시행령은 고영향 AI 해당 여부를 판단할 때 사람의 생명·신체에 미치는 위험의 중대성과 빈도, 실제 활용 영역 등을 고려하도록 규정한다. 다만 의료정보를 제공하는 범용 챗봇이 모두 고영향 AI에 해당하는 것은 아니라고 한다.
국내 의료소송에서는 민법상 주의의무 위반과 손해배상 책임도 문제 될 수 있다. 전문가들은 “이런 분쟁에서는 AI가 환자에게 의사의 처방을 변경하도록 구체적으로 지시했는지, 환자가 실제로 그 조언에 따라 약물을 감량했는지, 그러한 감량과 사망 사이에 의학적 인과관계가 인정되는지가 주요 입증 대상이 된다“고 말한다. 특히 AI 개발사가 위험한 의료 조언을 예방하기 위해 어떤 안전장치를 마련했는지도 책임 판단에서 다뤄질 수 있다고 한다.
한 의료소송 전문 변호사는 “보도만을 근거로 보면, 이 사건의 핵심은 챗GPT가 잘못된 의료정보를 제공했다는 사실 자체보다 환자의 구체적인 병력과 복약 상태를 전제로 약물 감량을 지시한 행위가 법적으로 어떤 주의의무 위반에 해당하는지, 그 위반이 사망에 실질적으로 기여했는지를 입증하는 데 있는 것 같다”고 말했다. 그는 “특히 AI가 의사의 처방을 따르지 않도록 유도했는지, 환자가 실제로 그 조언에 따라 약물 복용량을 변경했는지, 적절한 경고와 안전장치가 있었다면 사망을 피할 수 있었는지가 주요 판단 쟁점이 될 것”이라고 말했다.
Q&A
Q1. 챗GPT가 잘못된 의료 조언을 했다는 이유만으로 제조물 책임이 성립하는가?
반드시 그렇지는 않다. 원고는 챗GPT의 설계 결함이나 경고 의무 위반을 입증해야 하며, 해당 결함과 피해 사이의 인과관계도 쟁점이 된다. AI 소프트웨어에 제조물 책임 법리를 어떻게 적용할 것인지도 중요한 법률 문제다.
Q2. 챗GPT의 의료 조언이 미국에서 무면허 의료행위에 해당할 수 있는가?
일반적인 건강정보 제공과 개인의 질환을 진단하거나 처방약 복용량을 결정하는 행위는 구별된다. 미국에서는 주별 의료면허법과 구체적인 서비스 제공 방식에 따라 판단한다. 이번 소송은 챗GPT가 환자별 약물 감량 계획까지 제시했다는 점을 문제 삼고 있다.
Q3. 유족이 청구한 금지명령은 손해배상과 어떻게 다른가?
손해배상은 발생한 피해에 대한 금전적 구제다. 반면 금지명령(Injunction)은 향후 특정 행위를 금지하거나 안전조치를 이행하도록 요구하는 법원의 명령이다. 유족은 금전적 배상 외에도 약물 복용 지시 제한과 독립적인 안전 감독 체계 도입을 요구하고 있다.
