영란은행 총재 앤드루 베일리(Andrew Bailey)가 인공지능(AI) 위험에 대응하려면 규제보다 취약점과 안전장치를 찾는 엄격한 시험부터 시작해야 한다고 밝혔다. BBC는 9월 30일 베일리 총재의 발언을 보도했다.
베일리 “AI 위험 시험으로 찾아야”
베일리 총재는 서브스택에 처음 기고한 AI가 초래할 위험은 “실재하며 점점 더 중요해지고 있다”고 진단했다. 다만 AI 개발을 중단하거나 금지해서는 안 된다며 “혜택은 막대하다”고 했다. 개발을 이어가되 위험에 개입할 수 있는 체계와 AI가 작동할 경계를 마련해야 한다는 설명이다.
그는 취약점을 찾고 위험을 억제할 보호장치를 마련하기 위해 엄격한 시험이 필요하다고 강조했다. 시험 과정에서는 실패가 생기고 모델이 예상과 다르게 행동할 수 있지만, 그런 일이 시험의 실패를 뜻하는 것은 아니라고 했다. 오히려 예기치 않은 행동이 나타날 수 있기 때문에 시험이 필요하다는 취지다. 영국에는 AI 안전연구소가 설립됐으며, 베일리는 AI 시험과 관련한 중요한 작업이 진행 중이고 이것이 일련의 기준 마련에 도움이 될 것이라고 말했다. 다만 시험의 속도를 높여야 한다고 덧붙였다.
기업은 자체 안전 책임…규제는 향후 과제
최근 몇 주간 AI의 빠른 발전이 초래할 위험과 인류에 미칠 영향을 둘러싼 논의가 커졌다. 앤트로픽(Anthropic)과 오픈AI(OpenAI) 등 주요 AI 기업 경영진은 개발 속도를 늦추고 위험을 평가해 안전장치를 마련하기 위한 국제 공조를 촉구했다. 오픈AI는 최근 안전 우려를 이유로 최신 AI 모델을 공개하지 않겠다고 발표했다.
반면 도널드 트럼프 미국 대통령은 AI 개발 속도를 늦추자는 주장에 반대해 왔다. 미국이 중국보다 AI 경쟁에서 앞서고 있다며 “누가 AI에서 이기느냐가 승자를 가를 것”이라는 취지로 말했다. 이후 주요 AI 기업들이 참석한 정상회의를 주최한 뒤에는 경영진이 AI 위험을 막기 위한 “도덕적 구속력이 있는” 문서에 서명했다고 밝혔다. 합의에 따라 각 기업은 자사 기술의 안전을 책임진다.
베일리 총재는 시험을 향후 규제의 대안으로 봐서는 안 된다고 했다. 시간이 지나면서 더 공식적인 규제 체계가 마련될 수 있지만, 자신의 견해로는 규제가 출발점은 아니라는 것이다. 그는 AI 개발을 멈추기보다 먼저 시험을 통해 취약점과 위험을 확인하고, 개입 체계와 AI가 작동할 경계를 마련해야 한다고 밝혔다. 다만 시험 과정에서 실패와 예상 밖의 모델 행동이 발생할 수 있다며 신중한 접근도 주문했다.