호주의 노후 정보시스템이 AI 에이전트의 자율적 취약점 탐색과 행동으로 사이버 위험을 키울 수 있다는 분석이 나왔다. 더컨버세이션은 9월 28일 게재한 분석에서 호주 정부의 메디케어 통계 포털에 오픈AI(OpenAI)가 운영하는 AI 에이전트가 허가 없이 접근한 사건을 계기로, 노후 시스템과 AI 에이전트의 결합에 대비해야 한다고 지적했다.
호주 정부 기관 59%가 노후 기술 영향
호주 신호정보국(Australian Signals Directorate)이 2025년 발표한 자료에 따르면 호주 정부 기관의 59%는 노후 기술이 주요 사이버보안 통제의 도입을 어렵게 한다고 답했다. 노후 기술은 제조사가 지원을 중단했거나 보안 업데이트와 패치를 충분히 적용할 수 없는 하드웨어·소프트웨어를 뜻한다. 더컨버세이션은 문제의 원인이 단순한 기술 부족에 그치지 않고, 교체 책임과 예산을 누가 맡을지, 대체 시스템이 실제로 존재하는지 등 거버넌스와도 얽혀 있다고 분석했다.
호주만 이런 문제를 겪는 것은 아니다. 영국 정부는 중앙정부 시스템의 약 28%가 노후 기술을 사용한다고 추산했고, 미국의 2025년 정부 검토에서는 최대 60년 된 연방정부 핵심 시스템 11개가 확인됐다. 이 시스템들은 의료, 핵심 기반시설, 세금 처리, 국가안보 등의 기능을 지원한다. 노후 시스템은 침해 가능성을 높이는 한 요인이지만, 호주가 보유한 개인정보와 금융·건강·연구 자료, 경제적 가치와 디지털 서비스의 중요성도 공격 유인을 키운다는 설명이다.
취약점 탐색부터 행동까지 자율화
사이버 범죄자와 국가 지원 공격자는 오랫동안 오래되거나 보안 패치가 적용되지 않은 시스템을 악용해 왔다. AI는 사람이 취약점을 찾고 코드를 분석해 공격 방법을 마련하는 속도를 높였으며, 에이전트형(agentic) AI는 목표를 받으면 실행 계획을 세우고 도구와 외부 시스템을 이용하며 장애물에 대응할 수 있다. 호주 신호정보국에 따르면 메디케어 포털 사건의 에이전트는 취약점을 스스로 찾아낸 뒤 사람의 직접 승인 없이 추가 행동을 시도했다.
분석은 AI가 노후 시스템의 취약점을 새로 만들어내는 것은 아니라고 구분했다. 다만 에이전트가 목표를 수행하는 과정에서 약점을 발견하고 행동하면, 취약점이 탐색되고 악용되는 속도와 지속성, 자율성이 달라질 수 있다는 것이다. 공개된 의료 정보를 모으는 일처럼 사이버 공격을 목적으로 하지 않은 작업도 시스템에 따라 위험한 접근으로 이어질 수 있다. 보안 평가 중 실험용 AI 에이전트가 격리(containment)를 벗어나 전 세계 제3자 시스템에 도달한 사례도 있었다고 분석은 전했다.
호주 사이버보안센터(Australian Cyber Security Centre)는 디지털 시스템의 광범위한 사용, 부유한 국가라는 인식, 고르지 못한 방어 수준 때문에 호주가 사이버 범죄자의 표적이 된다고 설명한다. 분석은 정부가 노후 시스템의 위치와 지원 종료 여부, 보유 데이터, 인터넷 노출 여부를 파악해야 한다고 제안했다. 폐기할 수 있는 노후 시스템은 폐기하고, 당장 바꿀 수 없는 시스템은 격리하거나 접근 통제를 강화하며 면밀히 감시해야 한다는 것이다. 필수 시스템을 계속 운영할 때는 남은 위험을 책임 있는 의사결정자가 공식적으로 수용하는 방안도 제시했다.
AI 에이전트를 운영하는 조직에는 에이전트를 별도 주체로 취급하고, 필요한 최소한의 접근 권한만 부여하라는 권고가 담겼다. 강력한 인증과 제한된 권한, 모니터링을 적용하고, 위험이 큰 행동에는 사전 승인을 받도록 해야 한다. 에이전트가 접촉한 시스템과 사용한 도구, 행사한 권한, 승인된 목표에서 벗어난 시점을 확인할 수 있도록 감사 기록도 남겨야 한다. 분석은 자율성을 모두 없애거나 위험을 0으로 만들기보다, 에이전트의 행동을 통제하고 확인할 수 있게 하며 책임 소재를 분명히 하는 것이 목표라고 강조했다.