구글이 위성 지도 서비스 구글 어스(Google Earth)에 탑재했던 인공지능(AI) 기반 위성 이미지 생성 기능을 전격 중단하며 생성형 AI가 야기할 정보 교란 위험성에 백기를 들었다고 사우스차이나모닝포스트(SCMP)가 8월 1일 이 보도했다.
구글은 알파벳(Alphabet) 산하의 미국 대표 빅테크 기업으로, 검색 엔진 및 지형 공간 서비스 시장에서 독보적인 지위를 차지하고 있는 시가총액 수조 달러 규모의 글로벌 정보기술 기업이다.
48시간 만에 철회… 허위 지형·군사 시설 조작 위험성 도마
중단된 기능은 구글 어스 기반의 3차원(3D) 위성·항공 지형 데이터에 최신 AI 이미지 생성 기술을 결합한 서비스다. 이용자가 텍스트 형태의 명령어(프롬프트)를 입력하면 수 초 만에 현실감 있는 가짜 장면을 생성해낼 수 있었다. 당초 구글은 부동산 계획 및 역사적 지형 변화 시각화 도구로 활용할 계획이었다.
그러나 출시 직후 오픈소스 정보(OSINT) 조사 기구와 디지털 수사 전문가들의 격렬한 비판에 직면했다. BBC는 자사의 정보 검증 전문 부서인 BBC 베리파이(BBC Verify)의 우려 보도 이후 구글이 기능을 중단했다고 전했다.
실제 언론과 연구원들의 자체 테스트 결과, 이 기능을 활용해 이란의 핵 시설 조작, 파리 에펠탑 붕괴 현장, 미·멕시코 국경의 이민자 캠프, 우크라이나 수도 내 러시아 탱크 등 국제적 파장을 부를 수 있는 오선전용 이미지들이 손쉽게 제작된 것으로 드러났다.
구글 측은 생성된 미디어에 식별 표지인 ‘신스ID(SynthID)’ 워터마크를 투입했으나 오남용을 막기엔 역부족이었음을 인정했다.
구글은 향후 오남용을 방지할 수 있는 강력한 안전장치(guardrail)를 개발할 때까지 해당 서비스를 일시 중단 상태로 둘 방침이다.
[Q&A] 구글 어스 AI 기능 중단 주요 쟁점
Q1. 구글 어스에 적용됐던 AI 생성 기능은 어떤 서비스인가요? A1. 구글 어스의 실제 위성 지도 데이터 위에 이용자가 문장을 입력하면 AI가 가짜 건물, 폭발 현장, 자연재해 등 가상의 지형과 이미지를 합성해 시각화해 주는 기술입니다.
Q2. 전문가들이 생성형 AI 지리공간 도구에 대해 우려한 이유는 무엇인가요? A2. 구글 어스는 수십 년간 언론과 안보 연구원들이 교차 검증을 위해 사용해 온 ‘표준 신뢰 자산’입니다. 실제 지도 위에 가짜 이미지가 결합되면 언론 및 공공의 사실 확인 작업을 심각하게 방해하고 오선전에 악용될 수 있기 때문입니다.
Q3. 구글은 왜 출시 이틀 만에 기능을 중단했나요? A3. 구글의 사용 정책을 위반하여 가짜 위성 스크린샷을 유포하는 사례가 다수 발견되었으며, 정보 유포 및 국가 안보 교란에 대한 국제적 비판이 급증함에 따라 긴급 대처에 나선 것입니다.
Q4. 구글이 제시했던 자체 허위 정보 방지책은 무엇이었나요? A4. 구글은 AI가 생성한 이미지 내부에 눈에 보이지 않는 디지털 식별 코드인 ‘신스ID(SynthID)’를 내장하고, 오정보 유포 금지 가이드라인을 제시했으나 실질적인 유포를 차단하지 못했습니다.
Q5. 향후 이 기능은 완전히 폐기되는 것인가요? A5. 완전 폐기가 아닌 ‘일시 중단(roll back)’ 조치입니다. 구글은 허위 정보 제작과 남용을 차단할 수 있는 고도화된 안전장치를 마련한 이후 재개 여부를 검토할 예정이라고 밝혔습니다.
