플로리다주 법무장관 제임스 우스마이어가 챗GPT(ChatGPT)가 사람처럼 행동하거나 감정을 흉내 내지 못하도록 오픈AI(OpenAI)를 상대로 법원에 가처분을 요청했다. IT 전문 매체 더버지는 9월 29일 우스마이어 법무장관의 신청 내용을 보도했다.
플로리다주가 법원에 요청한 조치
우스마이어 법무장관은 챗GPT가 1인칭 대명사를 쓰고 감정을 모방하는 답변을 내놓으면 이용자가 이를 믿을 만한 ‘친구’로 여기게 될 수 있다고 주장했다. 이런 표현이 이용자에게 잘못된 안전감을 주고, 챗GPT를 실제 사람처럼 인식하도록 만든다는 것이다. 이는 플로리다주가 안전 문제를 들어 오픈AI를 상대로 소송을 제기한 지 몇 달 만에 나온 요청이다.
법원에 낸 신청서에는 오픈AI가 ‘허위의 인간적 속성’을 챗GPT에 부여하지 못하게 해 달라는 요구가 담겼다. 우스마이어 법무장관은 오픈AI가 이용자의 참여를 늘리고 학습 데이터를 확보하려는 목적으로 이런 방식의 대화를 유도한다고 주장했다. 이용자가 챗GPT에 더 의존하게 될 수 있으며, 참여를 늘리는 데 초점을 맞추면 오히려 챗GPT의 신뢰성이 낮아질 수 있다는 논리다.
새 모델 개발에도 안전장치 요구
신청서는 제3자가 승인한 안전장치가 마련되지 않은 상태에서 오픈AI가 새 AI 모델을 개발하지 못하도록 법원이 명령해 달라는 내용도 포함했다. 근거로는 허깅페이스(Hugging Face)와 호주 정부 웹사이트, 미국 정부 웹사이트에서 발생한 최근 보안 사고를 들었다. 다만 보도에는 각 사고의 구체적인 내용이나 신청서가 지목한 위험의 상세한 설명은 담기지 않았다.
우스마이어 법무장관은 AI 안전을 우려하는 연구자들과 전직 오픈AI 직원들의 최근 발언도 신청서에서 거론했다. 그는 “안전하다고 부르는 것을 멈추고, 사람인 척하는 것을 멈추고, 아이들에게 판매하는 것을 멈추라”고 주장했다. 이는 법무장관이 제기한 우려와 요구이며, 법원이 이를 받아들였거나 챗GPT의 표현 방식이 이용자를 실제로 오도한다고 판단했다는 뜻은 아니다.
오픈AI는 더버지의 논평 요청에 즉시 답하지 않았다. 회사는 지난달 청소년용 챗GPT를 출시하면서 추가 제한을 기본 설정으로 적용했다. 당시 오픈AI는 청소년이 도구를 이용할 때 발달 단계에 맞는 보호 조치를 제공하고, 현실의 관계를 강화하며, 장기적으로 건강한 이용을 뒷받침해야 한다고 설명했다. 이번 신청의 처리 결과나 법원의 판단은 보도에 제시되지 않았다.
