미국 플로리다주에서 클로드(Claude)를 일기처럼 사용하던 여성이 보안관 사무실을 공격하겠다는 글을 남긴 뒤 폭력 위협 혐의를 받고 있으며, 앤트로픽(Anthropic)의 검토자가 이를 경찰에 신고했다. 테크스폿(TechSpot)은 10월 5일 체포 보고서를 인용해 카를리 미셸 헬러가 9월 26일 해당 글을 작성했다고 보도했다.
클로드 안전 시스템이 위협 글을 검토자에게 넘긴 경위
체포 보고서에 따르면 헬러는 보안관 사무실을 공격하겠다는 내용의 글을 썼고, 이후 클로드를 ‘일기’처럼 쓴다고 말했다. 클로드의 안전 시스템이 해당 내용을 감지해 사람 검토자에게 전달했으며, 검토자는 신빙성 있는 위협이라고 판단해 법 집행기관에 알렸다. 보안관 대리인들은 헬러의 신원을 확인한 뒤 자택을 찾아갔고, 헬러는 별다른 저항 없이 신병이 확보됐다. 이후 리 카운티 보안관실 정보 담당 수사관이 사건 조사를 맡았다.
플로리다주 법에 따라 헬러는 폭력 위협을 서면으로 한 혐의를 받고 있다. 주법 836.10조는 다른 사람이 볼 수 있는 방식으로 누군가를 살해·상해하겠다고 위협하거나, 총기 난사 또는 테러 행위를 하겠다는 내용을 서면이나 전자 기록으로 보내거나 게시·전달하는 행위를 2급 중범죄로 규정한다. 다만 현재 보도된 내용은 혐의와 수사 경위이며, 유죄가 확정됐다는 뜻은 아니다. 앤트로픽은 사망이나 중대한 신체 상해를 막는 데 필요하다고 판단하는 제한적 비상 상황에서는 이용자 정보를 공유할 수 있다고 안내하고 있다.
AI 대화 검토와 개인정보 공유 논란
이번 사건은 챗봇 대화가 이용자만 볼 수 있는 사적인 일기와 다를 수 있음을 보여준다. 다만 공개된 내용만으로는 검토자가 어떤 구체적 기준에 따라 위협의 신빙성을 판단했는지, 경찰에 어떤 이용자 정보가 전달됐는지는 확인되지 않았다. 앤트로픽이 잠재적 위협을 어떻게 처리했는지에 대한 이번 보도는 AI 서비스의 안전 검토와 개인정보 보호가 맞닿는 사례로 주목된다.
보도는 AI 대화와 폭력 사건을 둘러싼 다른 법적 논란도 언급했다. 지난달 캐나다 브리티시컬럼비아주에서는 오픈AI(OpenAI)와 샘 올트먼(Sam Altman)이 대규모 총격을 막을 수 있었는데도 조치하지 않았다는 주장과 관련해 소송을 당했다. 당시 총격 용의자는 총기 폭력에 관한 대화로 오픈AI 안전팀의 주의를 받았지만, 대화 내용이 법 집행기관에 신고할 기준에는 미치지 않는다고 판단돼 경찰에 통보되지 않은 것으로 보도됐다. 플로리다주도 6월 챗GPT(ChatGPT)가 2025년 플로리다주립대 총격 사건 등을 포함한 현실의 피해에 기여했다며 오픈AI샘 올트먼을 상대로 소송을 제기했다.
또 지난달에는 마이크로소프트(Microsoft) 코파일럿(Copilot)의 이미지 편집 기능을 검토하는 외부 인력이 이용자의 프롬프트와 업로드 사진, AI 편집 결과를 볼 수 있다는 문서 내용이 보도됐다. 검토 업무에는 성적이거나 충격적·불법일 수 있는 자료가 포함되기도 하지만, 검토자들은 해당 콘텐츠를 적발하는 것이 아니라 결과물의 정확성을 평가하는 것으로 전해졌다. 클로드 사건의 신고 절차와 코파일럿 검토 업무는 서로 다른 사례지만, 이용자가 입력한 정보가 안전성 평가나 서비스 검토 과정에서 사람에게 노출될 수 있다는 점을 함께 보여준다.