AI 사기꾼, 신뢰 형성서 인간 앞서

아스테크니카(Ars Technica)는 생성형 AI 챗봇이 ‘돼지 도살(pig butchering)’ 사기에서 피해자와의 신뢰 형성 단계에서 인간 사기꾼보다 성과가 높았다는 연구 결과를 전했다. 해당 연구는 인도의 아므리타 비슈와 비디야피스테텀, 이탈리아 베네치아 포스카리대, 호주 멜버른대, 이스라엘 네게브 벤구리온대 등 4개 대학 연구진이 수행했다. 실험은 2025년 초 진행됐고, 연구진은 피해자 역할의 22명과 일주일간 채팅한 뒤 앱 다운로드 요청에 대한 반응을 확인했다. 그 결과 AI 챗봇이 요구한 앱을 내려받기로 동의한 비율은 46%였지만, 인간 사기꾼이 요청한 게임 앱에는 18%만 동의했다. 연구진은 LLM(대규모 언어 모델)이 사기의 긴 대화 구간을 자동화하고 마지막 단계에 사람을 투입하면 ‘신뢰 기반’ 사기를 더 효율적으로 진행할 수 있다고 주장했다.

원문 보기 (arstechnica.com)

RELATED ARTICLES