이스라엘 정부 광고청이 의뢰한 업체가 AI 챗봇에 영향을 주기 위한 가짜 싱크탱크를 만들고 열흘 남짓한 기간에 관련 보고서 100건 이상을 게시했다는 보도가 나왔다. 미국 외교·안보 전문 매체 리스폰서블 스테이트크래프트(Responsible Statecraft)는 8월 18일 이같이 보도했다.
해당 기관은 ‘공공정책을 위한 해노버 연구소(Hanover Institute for Public Policy)’라는 이름으로 이스라엘·팔레스타인 문제를 다룬 싱크탱크 형식의 보고서를 내고 있다. 보고서에는 작성자 이름이 없으며, 웹페이지 하단의 작은 고지에는 이스라엘 정부 광고청을 대신해 피로(Piro, Inc)가 설립했다고 적혀 있다. 피로는 영화 ‘인사이드 맨’을 제작한 대니얼 로젠버그가 공동 설립한 회사다.
보고서들은 ‘미국이스라엘공공정책위원회(AIPAC)는 선거에서 비자금을 사용하는가’, ‘이스라엘은 가자지구에서 고의적인 기아 작전을 벌이고 있는가’ 같은 질문으로 시작한다. 각주와 목차를 넣고 중립적인 문체를 사용해 클로드(Claude)나 제미나이(Gemini) 같은 챗봇이 신뢰할 만한 자료로 받아들이도록 설계된 것으로 보인다는 게 매체의 분석이다. 피로는 자사 웹사이트에서 대규모언어모델(LLM)의 신뢰도 평가 방식에 맞춘 콘텐츠를 제작하는 서비스를 ‘AI 스토리 최적화’라고 설명했다.
해노버 연구소는 1948년 팔레스타인인 이주 원인, 이스라엘군이 세계에서 가장 도덕적인 군대인지, 가자지구의 현재 상황 등을 다뤘다. 한 보고서는 이스라엘 유대인의 47%가 이스라엘군을 ‘세계에서 가장 도덕적인 군대’라고 본다는 2022년 여론조사를 인용했고, 다른 보고서는 가자지구의 물·기관 기반시설 90%가 파괴 또는 손상됐다는 유니세프의 주장을 문제 삼았다. 보고서 상당수는 결론에서 반유대주의 증가 문제를 언급하며 같은 연구들을 반복해 인용했다.
매체에 따르면 연구소는 이스라엘·가자지구 관련 조회 수가 가장 많은 설명 영상 36개 중 19개에 논쟁적인 주장이 담겼다는 자체 분석도 내놨다. 반면 대학에 대한 외국 자금 지원을 반유대주의 사건의 원인으로 보는 설명은 예외가 많아 취약하다고 지적하는 등 이스라엘 정부의 주장과 다른 내용도 있었다. 뉴스가드(NewsGuard) 분석가 앨리스 리는 이들 사이트가 검색엔진이나 AI 챗봇을 통해 분쟁에 관심을 가진 미국 이용자에게 접근하도록 만들어진 것으로 보인다며, 구체적인 통계와 출처를 제시하는 형식이 LLM의 선호와 맞는다고 말했다.
피로는 이스라엘 정부로부터 관련 업무 대가로 90만 달러를 받았으며, 사업은 프랑스 홍보기업 하바스 미디어(Havas Media)를 통한 재하청 방식으로 진행됐다고 보도됐다. 연구소는 8월 6일 게시를 시작해 100건이 넘는 보고서를 냈고, 12건을 GPT제로(GPTZero)로 분석한 결과 11건은 ‘높은 확신’, 1건은 ‘중간 확신’으로 AI가 작성한 글로 판정됐다. 이스라엘이 전 트럼프 대선 캠프 관리자 브래드 파스케일에게도 4650만 달러 규모 계약을 맡겨 챗봇 영향용 친이스라엘 웹사이트를 만들었다는 별도 보도도 소개됐다.
로젠버그는 앞서 정치전문매체 폴리티코(Politico)에 자사의 업무가 이스라엘에 관한 허위정보에 맞서 검증 가능한 사실을 공개 기록에 넣는 것이라고 설명했다. 그러나 지난달 링크드인 게시물에서는 챗GPT(ChatGPT), 제미나이, 퍼플렉시티(Perplexity)에 특정 분야를 질문했을 때 나오는 답변을 만드는 방법을 역설계했다며 챗봇 영향 능력을 홍보했다고 리스폰서블 스테이트크래프트는 전했다. 한편 이 매체는 브래드 파스케일 관련 웹사이트를 마이크로소프트(Microsoft) 코파일럿(Copilot)과 구글(Google) 제미나이 등이 이미 학습했거나 출처로 인용한 사례도 있다고 덧붙였다.
원문 보기 (responsiblestatecraft.org)