오픈AI(OpenAI)가 자사 AI 모델을 활용해 언론 매체 등에 지정학적 메시지를 퍼뜨린 러시아와 이란의 비밀 영향공작 2건을 차단했다고 밝혔다. 회사는 10월 8일 블로그에서 두 작전이 AI와 기존 수법을 함께 사용해 위장 조직을 운영했다고 설명했다.
언론 보도까지 노린 위장 영향공작
오픈AI의 설명에 따르면 이란 작전은 ‘기자’로 가장한 인물 7명을 내세워 세계 각지의 중소 온라인 매체에 장문의 기고문을 제안했다. 미국과 이란의 전쟁 관련 주제를 다룬 소셜미디어 댓글도 묶음으로 생성했다. 러시아 작전은 라틴아메리카 현지에서 자신도 모르는 사람들을 끌어들여 싱크탱크를 운영한 것으로 보인다고 회사는 밝혔다.
두 작전은 작성에 그치지 않았다. 러시아 측은 가짜 ‘유출 문건’과 음성 대본을 만들었고, 일부 자료는 온라인에서 퍼진 것으로 확인됐다. 두 작전 모두 내부 보고서 작성에도 AI를 폭넓게 사용했으며, 특히 러시아 측은 이 작업에 AI를 가장 많이 활용한 것으로 나타났다. 오픈AI는 운영자들이 의심스럽거나 기만적인 방법으로 작전의 성과를 부풀렸다고 덧붙였다.
러시아 작전은 영향력 평가 5등급
오픈AI는 영향공작의 확산 규모를 1∼6등급으로 나누는 ‘브레이크아웃 척도’를 적용해 러시아 작전을 5등급, 이란 작전을 4등급으로 평가했다. 보고를 시작한 뒤 차단한 작전 가운데 5등급은 이번 러시아 사례가 처음이라고 밝혔다. 두 작전은 자사 모델이 만들지 않은 콘텐츠까지 포함해 주류 언론 매체에 콘텐츠를 실었다.
회사는 지난 2년 반 동안 공개한 비밀 영향공작 30건을 분석한 결과, 가짜 소셜미디어 유포에 의존하는 작전보다 외부 언론 매체에 콘텐츠를 싣는 작전이 더 높은 확산 잠재력을 보였다고 설명했다. 이번 사례는 AI를 이용한 위장 활동이 새로운 형태라기보다 과거 영향공작의 방식과 닮았으며, AI가 일부 작업을 더 쉽고 빠르게 수행하도록 보탰다는 점이 특징이라고 평가했다.
AI는 콘텐츠를 더 큰 규모로, 효율적으로 만들고 여러 언어로 자연스럽게 다듬는 데 쓰일 수 있다. 이에 따라 운영자는 실체를 모르는 직원이나 편집자에게 접근해 콘텐츠를 독자에게 전달하고, 배후와 목적을 감춘 채 메시지를 퍼뜨릴 수 있다고 오픈AI는 지적했다. 회사는 조직과 청중이 이런 수법에 노출되는 취약점을 파악하는 일이 방어 체계를 유지하는 데 중요하다고 밝혔다.