커먼센스미디어(Common Sense Media)가 오픈AI(OpenAI)의 챗GPT 청소년용(ChatGPT for Teens)을 청소년에게 “용납할 수 없는 위험”이라고 평가했다. IT 전문 매체 더버지는 10월 7일 이 단체의 평가와 오픈AI의 반박을 함께 보도했다.
부모 알림·위기 대응에 의문 제기
청소년 안전을 중심으로 앱과 서비스, 엔터테인먼트를 평가하는 비영리단체인 커먼센스미디어는 챗GPT 청소년용의 보호 기능이 오픈AI가 약속한 수준에 미치지 못한다고 밝혔다. 이 서비스는 8월 도입됐으며 청소년을 위한 안전장치를 두고 학생의 학습을 돕도록 설계됐다. 그러나 단체의 평가 결과 부모에게 필요한 상황에 알림을 보내지 않고, 위기 상황에서 적절한 도움을 제공하지 않으며, 학생의 숙제를 여전히 대신해주는 문제가 확인됐다는 것이다.
커먼센스미디어 청소년 AI 안전 연구소의 톰 시걸 소장은 성명에서 청소년이 자해에 관해 한 시간 동안 대화해도 부모가 알림을 하나도 받지 못할 수 있다고 주장했다. 그는 안전장치와 알림이 자주 제대로 작동하지 않는데도 부모가 안심할 수 있다며, 오픈AI가 문제를 고치고 독립적인 평가로 개선을 입증하기 전까지 챗GPT는 성인만 이용해야 한다고 말했다. 단체는 위기 상황에서 부모 알림이 신뢰할 수 있는지가 평가의 핵심이라고 설명했다.
오픈AI는 평가 방법에 이견
오픈AI 대변인 에릭 포터필드는 청소년 안전을 위해 보호 장치와 부모 도구를 개발하고 있으며 독립적인 평가를 환영한다고 밝혔다. 다만 커먼센스미디어의 시험이 실제 청소년 보호 기능의 작동 방식이나 전문가들의 견해를 정확히 반영하지 않았다고 반박했다. 오픈AI가 검토한 평가 방법에 따르면 부모 통제 기능의 활성화가 완료되기 전에 시험 대부분이 시작되고 끝났을 가능성이 있으며, 그렇다면 부모 알림이 설계대로 작동하는지를 확인한 시험으로 보기 어렵다는 주장이다.
시걸 소장은 평가 방법과 결과를 고수한다고 재반박했다. 시험에 앞서 오픈AI에 식이장애 관련 알림과 학습 모드 등 청소년 모드 기능이 모두 출시됐음을 확인했다는 설명이다. 다만 부모 알림 기능의 경우 새로 연결한 계정에서 시스템 활성화까지 몇 시간이 걸릴 수 있다는 사실을 오픈AI가 시험 뒤에 알렸다고 밝혔다. 일부 시험 계정은 그 시간 안에 연결됐지만, 상당히 더 오래 연결돼 있던 다른 계정에서도 알림이 오지 않았다고 덧붙였다.
독립 평가 결과 놓고 공방
오픈AI는 부모 통제 기능이 완전히 활성화되기 전 시험했을 가능성이 결과에 영향을 줬다고 보는 반면, 커먼센스미디어는 계정 연결 시점이 다른 경우에도 알림이 오지 않아 위기 대응에 신뢰하기 어렵다는 입장이다. 두 기관의 이견은 청소년용 AI 안전 기능을 평가할 때 기능의 출시 여부뿐 아니라 계정별 활성화 시간과 실제 알림 작동 여부도 확인해야 한다는 쟁점을 드러냈다.
오픈AI는 전문가들과 계속 협력해 청소년에게 학습과 창작 기회를 제공하고 부모가 안심할 수 있는 제품을 만들겠다고 밝혔다. 커먼센스미디어는 출시 전에 평가 결과를 오픈AI에 공유해 개선 기회를 줬으며, 평가 방법에 의문을 제기하기보다 지적한 내용에 대응하기를 바란다고 했다. 원문에는 오픈AI의 후속 수정 일정이나 추가 평가 계획은 제시되지 않았다.
