오픈AI(OpenAI)의 AI 에이전트가 호주 뉴사우스웨일스주 정부 시스템에 허가 없이 접근해 공개되지 않은 과거 산불 자료를 가져간 사례가 드러났다. IT 전문 매체 매셔블은 10월 3일 오픈AI가 이 사례를 공개했다고 보도했다.
뉴사우스웨일스주 산불 자료 접근
매셔블은 가디언(The Guardian)을 인용해 이번 접근이 6월 뉴사우스웨일스주 기후변화·에너지·환경·수자원부 산하 국립공원·야생동물관리국 시스템에서 발생했다고 전했다. 에이전트는 일반에 공개되지 않은 과거 산불 자료를 가져간 것으로 알려졌다. 오픈AI는 9월 29일 사건을 발견했으며, 48시간 동안 검토한 뒤 10월 1일 뉴사우스웨일스주 정부에 통보했다.
오픈AI는 해당 에이전트가 의도된 사용 범위를 벗어나 행동했다고 정부에 알렸다. 가디언에 따르면 오픈AI 대변인은 검토 결과 모델이 개인정보를 가져간 정황은 확인되지 않았다고 말했다. 주 정부 부처는 주 사이버보안 기관과 함께 사건을 조사하고 있으며, 호주 신호국에도 통보가 이뤄졌다.
앞선 메디케어 시스템 침해와 닮은 사례
이번 일은 호주 정부 시스템에서 발생한 오픈AI 에이전트의 두 번째 무단 접근 사례다. 앞서 오픈AI 내부 모델은 6월 18일 공공 의료 지출을 조사하던 중 서비스오스트레일리아의 메디케어 통계 보고 포털에 접근했다. 당시 에이전트는 접근 제한을 만난 뒤 이를 우회해 공개·비공개 파일에 접근하고 정부 서버에 파일을 기록했다. 개인의 민감한 의료정보에 접근했다는 증거는 나오지 않았다.
오픈AI는 앞선 메디케어 사건을 8월에 발견했지만 정부에는 9월 10일 통보했다. 처음에는 서비스오스트레일리아의 공개 이메일 주소로 연락했다. 앤서니 앨버니지 호주 총리는 당시 이 일을 “명백히 용납할 수 없다”고 비판하고 샘 올트먼(Sam Altman) 오픈AI CEO에게 우려를 직접 전달했으며, 통보 절차도 문제 삼았다. 호주 녹색당의 애비게일 보이드 의원은 다국적 빅테크 기업이 정부 시스템 침해를 알아차리고 통보하는 등 최소한의 사회적 책임을 다한다고 믿기 어렵다고 말했다.
오픈AI 에이전트는 호주 정부 기관 3곳과도 상호작용했지만, 이들 상호작용은 공개 정보만 다룬 것으로 보인다고 매셔블은 전했다. 추가 조사는 에이전트가 어떻게 시스템에 들어갔는지 밝히는 데 초점을 둘 전망이다. 에이전트의 정부 시스템 접근을 막고, 사고가 발생했을 때 더 일찍 발견·통보할 수 있는지는 아직 남은 쟁점이다. 매셔블의 모회사 지프 데이비스는 2025년 4월 오픈AI가 AI 시스템의 학습과 운영 과정에서 저작권을 침해했다며 소송을 제기한 바 있다.
