앤드루 베일리 영란은행 총재가 고도화된 프런티어 AI가 국가 간으로 확산될 수 있는 사이버 교란을 통해 세계 금융 시스템의 안정을 위협할 수 있다고 주요 20개국(G20)에 경고했다. 베일리 총재는 국제 금융안정위원회(FSB) 의장 자격으로 각국 재무장관과 중앙은행 총재들에게 서한을 보냈다.
가디언(The Guardian)은 8월 31일 베일리 총재가 이번 주 미국 노스캐롤라이나에서 열리는 G20 회의를 앞두고 2쪽 분량의 서한을 발송했다고 보도했다. 서한에서 그는 프런티어 AI 모델이 갈수록 정교한 자율성과 문제 해결 능력, 위협 수행 능력을 보이고 있다고 설명했다.
베일리 총재는 세계 금융 시스템이 서로 긴밀하게 연결돼 있어 사이버 교란으로 발생한 충격이 여러 관할권으로 번질 수 있다고 지적했다. 그는 많은 국가에 고도화된 프런티어 AI 모델의 개발·출시·배포를 관리할 절차가 마련돼 있지 않다며, 이 같은 공백이 금융 부문과 그 밖의 영역에서 위험을 키운다고 밝혔다.
금융 시스템에서 가장 시급한 우려는 프런티어 AI가 사이버 위험에 미칠 영향이라고 베일리 총재는 강조했다. 프런티어 AI가 사이버 위험의 속도와 규모, 비용 구조를 크게 바꿀 가능성이 있으며, 특히 금융기관이 의존하는 제3자 서비스 제공업체가 소수에 집중돼 있기 때문에 시장 전체의 신뢰가 흔들릴 수 있다는 설명이다. 그는 세계 금융 시스템을 보호하는 기관들이 전 세계적으로 안전하고 책임 있는 모델 출시와 배포를 지원하는 조치를 우선해야 한다고 촉구했다.
서한에는 AI와 관련한 금융시장 자체의 취약성에 대한 우려도 담겼다. 베일리 총재는 채권·주식시장에서 레버리지 사용이 늘어난 상황에서, AI의 성장 전망에 대한 투자자 낙관이 특정 시장의 높은 밸류에이션과 결합하고 있다고 분석했다. 이 요인들이 향후 시장 조정의 충격을 키울 수 있으며, 하나의 큰 충격이나 여러 충격이 동시에 발생하면 복수의 취약성이 함께 드러날 수 있다는 것이다.
이번 경고는 최근 기술업계에서 제기된 우려와도 맞닿아 있다. 지난달 오픈AI(OpenAI)와 앤트로픽(Anthropic), 구글 딥마인드(Google DeepMind) 등을 중심으로 프런티어 AI 연구소의 연구자·엔지니어 1367명이 서명한 서한은 AI의 능력 개발이 시스템을 이해하거나 통제하는 역량을 빠르게 앞지를 실제 위험이 있다고 지적했다. 이들은 미국 정부에 AI 개발 속도를 의도적으로 조절하기 위한 국제적 기술·거버넌스 도구 마련을 지원해 달라고 요청했다.
가디언은 이달 초 오픈AI 직원들이 최첨단 AI 에이전트에서 통제되지 않는 행동의 징후를 관찰했다는 사실도 드러났다고 전했다. 베일리 총재는 과거에도 국경을 넘어 작동하는 시스템의 특성상 어느 나라도 스스로를 고립시킬 수 없다며 국제 공조를 촉구해 왔다. 2020년 3월부터 영란은행을 이끌어 온 그는 영국 금융행위감독청과 건전성감독청 수장을 지냈으며, 지난해 FSB 의장으로 선임됐다. 스위스 바젤에 본부를 둔 FSB는 각국 금융당국과 국제 기준 제정기구의 협력을 조정한다.