앤트로픽(Anthropic)은 클로드(Claude)가 말레이시아 유권자를 겨냥한 정치 영향력 작전에 이용됐으며, 작전에는 X 계정 약 1000개와 가짜 매체, 조작 문서가 동원됐다고 공개했다. 가디언은 10월 1일 이 사례를 들어 AI가 동남아시아 선거에서 허위정보를 대량·맞춤형으로 퍼뜨릴 수 있다는 전문가들의 우려를 보도했다.
말레이시아 222개 선거구 겨냥한 조작 작전
앤트로픽이 9월 공개한 위협 평가 보고서에 따르면, 작전 주체들은 최근 말레이시아 주 선거에서 유권자를 겨냥하기 위해 인구조사와 선거 데이터를 활용했다. 인종·종교·왕실을 둘러싼 민감한 갈등을 파고들도록 말레이시아 전체 222개 연방 선거구의 정보를 이용한 것으로 나타났다. 이들은 ‘말레이시아 펄스(Malaysia Pulse)’라는 가짜 뉴스 매체와 X 계정 약 1000개, 조작 문서를 만들었다. 앤트로픽이 개입해 활동을 중단시키면서 작전은 효과를 거두지 못한 것으로 전해졌다.
보고서는 클로드가 가짜 소셜미디어 계정과 뉴스 사이트를 만드는 데 사용됐으며, 비슷한 활동이 6개 대륙의 이용자를 겨냥했다고 설명했다. 관여한 주체로는 정부와 정부 연계 선전 기관·국영 매체, 영향력 행사를 판매하는 민간 기업 등이 거론됐다. 가짜 매체는 말레이시아 언론의 기사를 긁어온 뒤 AI로 여러 차례 고쳐 가짜 필자를 붙여 다시 게시했다. 러시아와 중국의 국영 매체와 연계된 외국 매체 기사도 출처를 지운 채 재게시했다.
AI가 바꾸는 동남아 선거 허위정보
메타(Meta)에서 세계 선거 관련 공공정책 업무를 맡았던 케이티 하바스(Katie Harbath)는 AI를 쓰면 더 많은 콘텐츠를 개인별로 맞춰 더 빠르고 저렴하게 만들 수 있다고 말했다. 현재는 이를 유권자에게 전달할 소셜미디어 같은 유통 경로가 여전히 필요하다고 덧붙였다. 필리핀의 AI 연구 싱크탱크 시글라(Sigla)에서 활동하는 로신 팔로리나(Rossine Fallorina)는 AI가 과거의 ‘트롤 공장’과 비슷한 일을 하며, 이야기나 서사를 만드는 데 필요한 인력을 줄이고 확산 속도를 높인다고 설명했다.
동남아시아에서는 이미 정치적 허위정보에 AI가 활용된 사례가 나왔다. 오픈AI(OpenAI)는 지난해 필리핀 정치와 공직자에 관한 댓글을 만들어 소셜미디어에 올린 계정들을 차단했으며, 허구의 댓글 상당수는 페르디난드 마르코스 주니어(Ferdinand Marcos Jr) 대통령을 지지하는 내용이었다. 2024년 인도네시아 대선에서는 프라보워 수비안토(Prabowo Subianto) 당시 후보의 강경한 이미지를 누그러뜨린 AI 생성 만화 이미지가 큰 인기를 얻었다. 말레이시아에서는 미얀마 내전에서 피란한 로힝야 난민에 대한 혐오를 부추기는 데도 AI 콘텐츠가 쓰였다고 모나시대 말레이시아 캠퍼스의 벤 로(Ben Loh) 미디어 강사는 말했다.
말레이시아 총선은 2027년 말 치러질 수 있으며, 필리핀과 캄보디아는 2028년, 인도네시아는 그다음 해 선거를 앞두고 있다. 노팅엄대 아시아연구소 말레이시아의 브리짓 웰시(Bridget Welsh)는 AI가 정치적 양극화와 사회 분열을 부추길 수 있다고 우려했다. 하바스는 향후 AI 모델이 참고하는 대규모 언어 모델의 정보에 영향을 주기 위해 특정 정보를 대량으로 쏟아붓는 방식도 가능하다고 말했다. 앤트로픽은 확인된 정치 영향력 활동을 중단시키고, 안전장치를 강화했으며, 필요한 경우 당국 및 업계 파트너와 정보를 공유했다고 밝혔다.
