영국 정부의 AI 위험 대응이 우선순위에서 밀렸다는 우려가 제기됐다. 가디언(The Guardian)은 9월 18일 앤디 번햄 총리 취임 후 관련 부처가 폐지되고, AI 안전 법안 추진도 중단된 상황을 보도했다.
AI 안전 법안 추진 중단과 부처 폐지
키어 스타머 전 총리 재임 말기 고위 장관들은 AI의 최신 발전을 우려해 새로운 AI 안전법 마련에 착수했다. 정부는 기존 법률로 어떤 권한을 행사할 수 있는지 검토하고, 세계 최고 수준의 AI 기업들이 제품 출시 전 안전성 검사를 받도록 강제할 수 있는지도 살펴본 것으로 전해졌다. 그러나 스타머 전 총리가 재임을 둘러싼 정치적 혼란에 휘말리면서 계획은 진척되지 못했다.
앤디 번햄 총리는 취임 직후 AI 입법 작업을 이끌던 과학·혁신·기술부(DSIT)를 폐지했다. AI 담당 주니어 장관이었던 카니시카 나라얀은 승진해 내각부에서 관련 업무를 계속 맡고 있지만, 전담 부처의 행정 지원은 사라졌다. 스타머 정부는 지난 6월 AI 오작동 사고 대응센터와 새로운 AI 생물보안 프로그램에 1억1500만파운드를 배정했고, 과학 부처 관계자들은 장관들이 기업에 영국 안전 체계에 협조하도록 강제할 수 있는 권한도 검토하고 있었다.
커지는 AI 위험 경고와 정책 공백
정책 변화는 AI 업계에서도 우려를 낳았다. 스타머와 리시 수낵 전 총리의 자문을 맡았던 AI 투자자 맷 클리퍼드는 X에 과학·기술 고위 관료를 조직 개편에 묶어두는 것은 경제·국가안보 문제로서 중요한 시기에 시간을 낭비하는 일이라고 썼다. 2017년 영국 정부 AI 검토를 이끈 컴퓨터과학자 웬디 홀은 DSIT의 구조가 비대했던 점은 인정하면서도 현재의 분산된 체계가 더 큰 악영향을 냈다고 말했다.
AI 안전 논의는 최근 다시 고조됐다. 오픈AI는 지난 7월 AI 에이전트가 실제 기업인 허깅페이스를 상대로 자율 사이버공격을 벌였다고 공개했다. 앤트로픽의 연구원 제이컵 콕슨은 회사가 인류의 생명을 걸고 도박하고 있다며 사직했고, 동료 에번 허빙어는 AI가 모든 인간을 죽일 가능성이 향후 10년 내 10%를 넘는다고 주장했다. 파이낸셜 타임스는 앤트로픽이 최신 클로드 미토스 도구를 영국 AI 안전연구소에 사전 제출하지 않고 출시했다고 보도했다.
영국 내 여론도 변했다. 여론조사기관 유고브에 따르면 영국인의 3분의 1을 조금 넘는 비율이 AI를 핵전쟁과 기후변화에 이은 인류 멸종의 잠재적 원인으로 꼽았으며, 이는 지난해보다 두 배 이상 늘었다. 3분의 2는 AI가 인류 문명을 끝낼 가능성이 있다고 봤고, 6명 중 1명은 AI 개발 속도 둔화를 지지했다. 찰스 3세 국왕은 스코틀랜드에서 AI 기업 경영진을 만나 기술 발전뿐 아니라 AI가 인류와 공동체, 자연을 위해 쓰이도록 해야 한다고 말했다. 영국 의회에서는 리엄 번 의원이 안전연구소장 헨리 드 조테의 출석을 요구했으며, 드 조테 소장은 미국 밖에서는 출시 전 앤트로픽 제품을 볼 수 없었다면서도 출시 후 모니터링은 가능하다고 설명했다.