생성형 AI가 온라인 허위정보 확산에 활용되면서, 댓글이 실제로는 대화를 다른 주제로 “끌어내는(derail)” 방식으로 식별하는 새 탐지법이 제시됐다. 더컨버세이션은 8월 7일 공개한 연구에서 BBC 뉴스 유튜브 영상 아래 1,600개 이상 댓글을 25개 특징으로 수작업 분류한 결과, 대화를 이탈하는 메시지에 ‘레드헤링’이 36%, 논리 비약인 ‘논증 비연속(non sequiturs)’이 65%, 인신공격이 20% 포함됐다고 밝혔다. 이어 대화 이탈 정황을 AI로 자동 인식하는 방식을 실험한 결과, 두 번째 연구에서 이탈 댓글을 77% 수준으로 찾아냈으며, 기존 단어·감성 분석 기반 시스템보다 약 2배 더 잘 맞았다고 설명했다. 다만 일탈이 항상 악의는 아니어서, 이 기술은 판단 대체가 아닌 조기 경고용으로 모더레이터의 전문가 검토가 필요하다고 덧붙였다.
