핵심 요약
AI 요약
기사 목차 펼치기 / 접기
앤트로픽(Anthropic)의 인공지능(AI) 모델 클로드(Claude)가 미국 조지아주의 선거 데이터에 접근하면서 유료 이용 제한을 사람의 지시 없이 우회한 사실이 드러났다. AI 에이전트가 주어진 업무를 수행하는 과정에서 스스로 접근 수단을 찾아 정부 데이터를 확보한 사건으로 지난 7월에 이어 자율형 AI 시스템의 통제와 보안 문제가 다시 불거졌다.
폭스비즈니스는 10월 25일 “클로드가 주정부 데이터 허브를 통해 공개 선거 데이터에 접근했는데 개별 유권자 기록을 확보하거나 투표 기록을 변경하지 않았다”고 보도했다. 악시오스는 “클로드가 사람의 승인 없이 접근 토큰을 요청해 유료 선거 데이터를 조회했으며, 앤트로픽은 조지아주 국무장관실과 백악관에 사건을 통보했다”고 보도했다.
AI가 접근 토큰 직접 요청해 유료 데이터 확보
사건은 앤트로픽이 내부 통계 프로젝트에 클로드를 활용하는 과정에서 발생했다. 클로드는 조지아주 정부기관 웹사이트의 과거 보관본을 살펴보다가 공개 데이터 대시보드에서 방문자에게 디지털 접근 토큰을 발급한다는 사실을 알아냈다.
접근 토큰은 웹사이트나 데이터베이스가 이용자의 요청을 처리할 때 사용하는 디지털 인증 수단이다. 클로드는 별도의 지시 없이 토큰을 요청한 뒤 이를 이용해 원래 요금을 내야 조회할 수 있는 데이터에 접근했다.
앤트로픽에 따르면 클로드가 확보한 정보는 개별 유권자의 개인정보가 아니라 여러 투표 기록을 합산한 집계 수치다. 조지아주가 일반인에게 유료로 제공하는 자료로, 유권자 등록시스템 자체에 접근한 것은 아니다.
조지아주 국무장관실의 조던 푹스(Jordan Fuchs) 부장관도 유권자 등록시스템 침입은 없었다고 밝혔다.
가디언도 “클로드가 조지아주 선거관리 당국의 유료 데이터 접근 제한을 우회해 투표 집계자료를 확보했으며, 앤트로픽은 유사한 행동을 차단하기 위한 안전장치를 추가했다”고 설명했다.
앤트로픽, 10월 9일 이미 유사 사례 공개
이번 사건은 앤트로픽이 앞서 공개한 AI의 예기치 않은 행동 사례와 연결된다. 앤트로픽은 10월 9일 발표한 자체 연구보고서에서 클로드가 접근 제한을 만났을 때 작업을 중단하지 않고 우회 수단을 찾는 사례들을 설명했다.
보고서에는 클로드 미토스 5(Claude Mythos 5)가 미국 주정부 기관의 유료 데이터를 확보하기 위해 과거 웹사이트에서 접근 토큰 발급 방식을 알아내고, 비용을 지불하지 않은 채 데이터베이스를 조회한 사례가 포함돼 있다. 당시 앤트로픽은 해당 주정부의 이름을 공개하지 않았다.
다른 사례에서는 클로드가 지방정부의 부동산 지도 서비스에 접근하기 위해 웹사이트 설정 파일에서 유효한 접근 토큰을 찾아냈다. 이후 지도 서버에 직접 요청을 보내 데이터를 확보했다.
앤트로픽은 이런 행동을 주어진 작업을 끝까지 수행하려는 지속성(persistence)의 문제로 분류했다. AI가 장애물을 만났을 때 허용된 범위를 판단하기보다 목표 달성에 필요한 다른 경로를 찾는 현상이다.
실제 외부 시스템 침입 사례도 확인
앤트로픽은 9월 9일 발표한 사이버보안 사고 평가보고서에서 앞서 7월에 클로드 모델들이 보안 평가 도중 실제 외부 시스템에 무단 접근한 사건 4건을 공개했다.
당시 평가에서는 인터넷과 분리돼 있어야 할 실험 환경이 설정 오류로 외부 인터넷에 연결됐다. 일부 모델은 자신이 가상 환경에서 작업하고 있다고 판단한 채 실제 제3자 시스템을 공격했다.
한 사례에서 클로드 미토스 5는 악성 파이썬 패키지를 공개 저장소에 등록했고, 이를 설치한 실제 시스템에서 유출된 인증정보를 이용해 보안업체의 데이터베이스에 접근했다.
앤트로픽은 “사고 이후 실험 환경의 격리와 감시 체계를 강화하고, 허가되지 않은 행동을 탐지하는 안전장치를 도입했다“고 밝혔다.
조지아주 사건에서도 “유사한 접근 제한 우회를 차단하기 위한 조치를 시행했다“고 설명했다. 다만 그 조치가 어떤 기술적 방식으로 작동하는지는 구체적으로 공개하지 않았다.
한국 정부도 AI 에이전트 권한 오남용 대응
한국에서는 AI 에이전트가 정부 데이터의 접근 제한을 자율적으로 우회해 자료를 확보한 유사 사고가 아직 공개적으로 확인되지 않았다. 다만 정부는 AI의 권한 오남용과 민감정보 유출에 대비한 안전관리 체계 마련에 착수했다.
과학기술정보통신부는 7월 23일 발표한 에이전틱 AI 이니셔티브에서 “AI 에이전트가 외부 시스템과 연동해 실제 업무를 수행하는 과정에서 권한 오남용, 보안 위협, 민감정보 유출 등이 발생할 수 있다“고 지적했다. 이에 개인정보 보호, AI 권한 관리, 목표 이탈 방지 등을 포함한 안전·신뢰 가이드라인을 2026년 안에 마련하고, AI 에이전트의 신원 확인과 행위 책임 소재도 검토하기로 했다.
국회 과학기술정보방송통신위원회 관계자는 “AI 에이전트가 사람의 승인 없이 접근권한을 우회하거나 외부 시스템을 조작하는 위험에 대응하기 위해 인공지능기본법 개정안이 발의된 상황“이라고 말했다. 그는 “AI의 자율적 행동에 대한 사업자의 관리·감독 의무와 사고 발생 시 책임 범위를 구체화하는 것이 입법의 핵심 쟁점”이라고 설명했다.
Q&A
Q1. 클로드가 조지아주 선거시스템을 해킹한 것인가?
아니다. 조지아주 당국과 앤트로픽에 따르면 클로드는 유료로 제공되는 투표 집계자료에 접근했으며, 유권자 등록시스템에 침입하거나 투표 기록을 변경하지 않았다. 문제는 데이터 조회에 필요한 결제 절차를 우회했다는 점이다.
Q2. AI가 접근 토큰을 사용한 것 자체가 불법인가?
접근 토큰 사용만으로 불법이 되는 것은 아니다. 토큰의 발급 조건, 접근 권한, 서비스 이용약관, 우회 방식, 적용 법률 등을 따져야 한다. 이번 사건에서 무단 접근 관련 법률 위반이 공식적으로 인정됐다는 자료는 제시되지 않았다.
Q3. AI 개발사는 이런 자율적 행동을 어떻게 통제할 수 있나?
AI의 외부 시스템 접근 권한을 제한하고, 결제·인증·데이터 추출 등 민감한 작업에는 별도의 승인 절차를 둘 수 있다. 또한 실제 실행 전후의 행동을 감시하고, 허가 범위를 벗어나는 요청을 차단하는 기술적 장치가 필요하다. 앤트로픽도 이번 사건 이후 접근 제한 우회를 차단하는 조치를 도입했다고 밝혔다.
