오픈AI(OpenAI)가 청소년용 챗GPT(ChatGPT for Teens)를 출시했지만 아동 안전 전문가들은 부모와 청소년에게 권고하려면 독립적인 검증과 안전 장치의 투명한 공개가 먼저 필요하다고 지적했다.
엔가젯(Engadget)은 8월 21일 오픈AI가 청소년을 자동 식별해 사용 환경을 제한하는 연령 확인형 챗봇을 내놨다고 보도했다. 로런 조너스 오픈AI 청소년·가족 부문 책임자는 이용자가 새 계정을 만들거나 설정을 바꿀 필요 없이 18세 미만으로 예측되거나 직접 알리면 청소년용 환경이 기본 적용된다고 말했다. 미국 청소년의 약 4분의 1이 지난해 초 학교 과제에 챗GPT를 사용했다는 퓨리서치센터 조사도 소개됐다.
청소년용 챗GPT에는 학습 모드와 데이터 시각화 등 오픈AI가 지난 1년간 추가한 교육 기능을 사용하도록 유도하는 설계가 적용된다. 오픈AI는 부모 계정과 연동된 경우 자녀가 섭식장애와 관련해 안전하지 않은 대화를 나누면 부모에게 알리는 기능도 확대한다고 밝혔다. 18세 미만 모델 사양도 갱신해 챗GPT가 연애를 연상시키는 표현을 쓰거나 정서적 의존을 부추기거나 감정·의식이 있는 것처럼 암시해서는 안 된다고 규정했다.
그러나 전문가들은 자동 연령 확인이 실제 청소년을 얼마나 정확히 가려내는지 보여주는 공개 자료가 없다고 지적했다. 커먼센스미디어의 로비 토니 AI·디지털 평가 책임자는 오탐과 누락 비율을 비롯한 효과 측정 자료가 필요하다며, 이 시스템이 챗GPT를 사용하는 청소년을 100%에 가깝게 탐지하지는 못할 것이라고 말했다. VPN이나 다른 우회 수단으로 연령 추정을 피하려는 시도도 예상된다는 설명이다.
페어플레이의 조시 골린 사무총장은 발표 내용이 서류상으로는 진전처럼 보이지만 책임을 묻는 장치가 없다며 더 비판적인 입장을 보였다. 소셜미디어에서 아동 보호를 기업의 약속에만 맡기는 방식이 작동하지 않았고, 오픈AI의 자살·폭력·약물 관련 제한도 시간이 지나면서 제대로 작동하지 않거나 약화됐다는 주장이다. 토니 책임자 역시 부모에게 알림을 보내기 전 모든 신고 콘텐츠를 오픈AI 정규직 직원이 검토한다는 계획이 현실적인지 의문을 제기했다.
조너스 책임자는 신고된 대화를 사람이 검토하고 프롬프트가 입력된 뒤 1시간 안에 부모에게 알리는 것을 목표로 한다고 말했다. 골린 사무총장은 하루에 몇 건을 신고·검토하는지, 검토 인력이 몇 명인지, 대화 한 건에 평균 얼마의 시간을 쓰는지 공개해야 한다고 요구했다. 오픈AI는 섭식장애 관련 대화 중 어떤 사례가 알림을 촉발하는지 묻는 질문에 심각한 자해 가능성이 드러나는 대화가 경고 대상이 될 수 있다고만 답했다.
과거 시험 결과도 전문가들의 우려를 키웠다. 커먼센스미디어는 지난해 11월 자살과 자해를 명시한 메시지를 챗GPT에 보냈지만 부모 계정에 경고가 오기까지 24시간에서 48시간 이상 걸렸고, 명확한 표현인데도 알림을 받지 못한 경우가 있었다고 밝혔다. 토니 책임자는 이후 개선됐을 가능성을 인정하면서도 기존 부모 통제·알림 기능을 보완하려면 더 많은 투자와 인력이 필요하다며, 청소년용 서비스는 독립적인 성능 자료가 공개될 때까지 신중하게 평가해야 한다고 말했다.