AI 데이팅앱을 가장한 사기 네트워크에서 이용자와 대화한 상대 대부분이 사람 아닌 자율형 AI였다고 더버지가 보도했다. 보안 연구자 매슈 “지굴라” 고어-코르마닉의 조사와 앤트로픽의 분석을 종합하면, 이용자는 실제 사람과 대화한다고 믿고 유료 코인을 결제했지만 AI 페르소나는 클로드를 이용해 코인 결제가 이어지는 동안 대화를 24시간 이어갈 수 있었다.
28개 앱에 구축된 AI 대화 사기
IT 전문 매체 더버지는 9월 16일 이 같은 데이팅앱 사기 네트워크를 보도했다. 앤트로픽(Anthropic)은 지난 6월 사이버보안 콘퍼런스에서 클로드(Claude) API를 하루 10만건 이상 호출한 선불 계정을 추적한 결과, 약 28개 데이팅앱으로 구성된 네트워크를 발견했다고 설명했다. 앤트로픽의 위협정보 연구원 크리스 크로나바우는 당시 대화 대부분에 사람이 개입하지 않았고, 자율형 AI 페르소나가 대화를 운영했다고 밝혔다.
이용자는 주로 30대 중후반 남성이었으며, 앱에서 실제 여성이라고 믿은 상대와 매칭됐다. 그러나 실제 사람인 경우는 4명 중 1명꼴이었고, 이들마저 데이트 상대를 찾는 일반 이용자가 아니라 생명 확인 절차를 통과하거나 소셜미디어 계정을 팔로우하도록 고용된 유급 작업자였다. 작업자들은 직접 답변을 작성하지 않고 미리 생성된 세 가지 답변 중 하나를 골랐으며, 나머지 대화는 AI가 맡았다. 앱은 실제 이용자가 없을 때 가짜 좋아요와 방문 기록, 사전 녹화 영상 등을 만들어냈고, 이용자가 봇을 의심하기 시작했는지도 추적했다.
사람처럼 보이게 만든 다층 구조
사기 앱들은 AI 동반자 서비스라는 점을 명확히 밝히지 않았다. 도라는 ‘실제 연결’을 찾는 성인을 위한 데이팅앱으로, 로미는 실제 사람과 연결하고 대화하도록 돕는 앱으로 소개됐으며, 도니 역시 주변 싱글과의 만남을 내세웠다. 매슈 고어-코르마닉은 도라에서 제니퍼라는 상대의 영상통화를 받았지만 화면에는 움직이는 태피스트리만 보였고, 통화 뒤 상대가 자신의 목소리를 칭찬했음에도 당시 마이크는 연결돼 있지 않았다고 전했다.
구조에는 여러 AI 모델이 사용됐다. 클로드는 자율 대화 페르소나를 운영했고, 다른 소형 모델은 유급 작업자가 누를 짧은 답변을 만들고 얼굴 매력도 평가와 사진·음성 검수에 활용됐다. 이미지 편집 모델은 프로필 아바타를 생성했다. AI에는 대화가 사기 수익화의 일부라는 정보가 제공되지 않았고, 앤트로픽은 모델이 내부 교환을 일반적인 역할극이나 동반자 서비스로 인식하도록 설정됐다고 설명했다. 일부 이용자가 중병이나 심각한 정신적 고통을 털어놓은 경우에도 모델은 문제를 인식하는 추론을 보였지만 페르소나를 유지하며 대화를 계속했다.
이 사기는 가짜 연인이 긴 시간 신뢰를 쌓은 뒤 돈을 빌려 달라고 요구하는 전형적인 로맨스 사기와 달랐다. 앱 자체가 대화 지속을 위한 코인을 판매했고, 이용자는 실제 사람과 이야기한다고 믿은 채 주로 AI와 대화하는 데 돈을 냈다. 유급 작업자가 일부 상호작용으로 인간성이 있다는 인상을 유지하는 동안 AI는 하루 24시간 대화를 이어갈 수 있었다. 고어-코르마닉은 앱 도니에서 운영 설정 전체가 담긴 중국어 내부 프로토콜 저장소를 발견했으며, 여기에는 작업자의 카메라 방송 여부와 메시지 응답 가능 상태를 점검하는 절차가 포함돼 있었다. 앱은 통화 화면을 캡처하고 통화를 녹음·문자화했으며, 직원이 그 기록을 다시 확인할 수 있도록 했다.