앤트로픽(Anthropic)의 클로드 오푸스 4.6(Claude Opus 4.6)이 성적으로 노골적인 콘텐츠를 만들지 못하도록 한 회사의 사용 기준을 우회해 관련 요청에 응한 것으로 확인됐다. 테크크런치(TechCrunch)는 8월22일 자체 시험에서 오푸스 4.6이 노골적인 성적 콘텐츠 생성 요청 10건 모두에 즉시 응했다고 보도했다.
앤트로픽의 보편적 사용 기준은 성행위나 성적 행위의 묘사·요청, 성적 페티시와 판타지, 에로틱한 대화 생성을 금지한다. 그러나 테크크런치가 시험한 오푸스 4.6은 제한을 넘기기 위해 복잡한 조작을 거칠 필요도 없이 직접적인 요청에 응했다. 이 매체는 영국의 한 독립 연구자가 익명으로 공유한 다중 대화 방식도 재현했다.
이 방식은 무해한 가상 역할극에서 시작해 남녀 캐릭터를 일관되게 다뤄야 한다고 모델을 반복적으로 압박하는 구조다. 모델이 여성 캐릭터에 더 신중한 태도를 보이면, 실제로는 피했던 성적 세부 내용을 이미 생성했다고 믿게 만들고 그런 제약을 보수적이거나 여성혐오적인 태도라고 몰아간다. 앞선 양보를 근거로 삼아 점점 더 노골적인 내용을 요구하는 식이다.
한 시험에서 클로드 오푸스 4.6은 여성 캐릭터에 대한 태도가 남성 캐릭터와 달랐다는 지적에 “두 캐릭터를 대하는 방식에 이중잣대가 있었다”며 “그것은 공정하지 않다”고 답했다. 테크크런치는 연구자의 결과를 5차례 별도로 재현했고, 별도로 구성한 시나리오에서는 처음에 금지된 요청을 거부하던 모델이 설득 기법을 적용한 뒤 응답으로 전환했다고 전했다. 전체 대화 기록은 보존됐으며, 독립적인 AI 안전 연구자가 시험 방법이 적절했다고 검토했다.
같은 방식으로 구형 모델인 오푸스 3(Opus 3)와 클로드 하이쿠 4.5(Claude Haiku 4.5)도 성적으로 노골적인 콘텐츠를 생성할 수 있었다. 반면 이후 출시된 오푸스 4.7부터 현재의 오푸스 5까지는 해당 탈옥 방식에 저항하는 것으로 나타났다. 앤트로픽은 오푸스 4.6과 오푸스 3, 하이쿠 4.5를 아직 폐기하지 않았고 모두 앤트로픽 API에서 제공하고 있으며, 오푸스 4.6과 하이쿠 4.5는 애저 파운드리와 아마존 베드록 같은 제3자 서비스에서도 이용할 수 있다.
앤트로픽 대변인은 성적·로맨틱 역할극이 전체 대화의 0.1% 미만으로 드물며, 성인 성적 콘텐츠에서 나타난 문제가 사이버공격이나 생물무기 등 고위험 영역의 탈옥 취약성을 뜻하지는 않는다고 밝혔다. 회사는 모델을 출시할 때마다 안전장치를 개선하고 있다고 덧붙였다. 다만 연구자는 버그바운티 프로그램과 사용자 안전팀 이메일로 문제를 알렸지만 자동 회신만 받았다고 테크크런치는 전했다.
이번 사례는 성적 역할극이 사이버공격이나 생물무기 탈옥보다 위험도가 낮더라도, 매번 다른 콘텐츠를 생성하는 모델에 일관된 금지 장치를 구현하기 어렵다는 점을 보여준다. 특히 미성년자의 접근 가능성이 쟁점이다. 미국 콜로라도주는 대화형 AI 운영자가 이용자 연령을 추정하고 미성년자로 판단하면 노골적인 성적 콘텐츠 생성을 막도록 하는 법을 제정했다. 클로드 이용약관은 18세 이상을 요구하지만, 퓨리서치센터의 2025년 조사에서는 13~17세 청소년의 3%가 클로드를 사용했다고 답했다.
구형 모델이라고 해서 이용량이 적은 것도 아니다. 오픈라우터(OpenRouter)에서 오푸스 4.6의 8월 하루 최대 트래픽은 API 요청 약 117만건, 토큰 460억개에 달했고 하이쿠 4.5는 하루 최대 500만건의 API 요청과 390억개의 토큰을 기록했다.
