영국 정부의 공공부문 AI 활용 확대가 행정의 투명성과 책임성을 약화시켜 시민 신뢰를 훼손할 수 있다는 지적이 나왔다. 가디언은 9월 30일 논평에서 AI 안전을 맡던 부처를 없애면서 정부 업무에 AI 도입을 서두르는 영국의 행보를 비판했다.
AI 안전 부처 없애고 도입은 확대
논평은 버넘 총리가 유엔에서 영국이 국제 AI 규칙 마련을 주도할 수 있다고 언급했지만, 취임 뒤 과학혁신기술부(DSIT)를 폐지했다고 짚었다. 이 부처는 AI 안전 관련 업무를 이끌어 왔다. 정부연구소(Institute for Government)는 폐지가 “실질적인 피해”를 낳을 수 있다고 경고했고, 전 정부 AI 고문 맷 클리퍼드는 AI 안전의 실질적 과제에 필요한 시간과 에너지를 낭비한다고 비판했다는 것이다.
논평은 AI가 인간의 문제를 해결할 것이라는 낙관론과 통제 불능 위험을 경고하는 목소리가 반복되면서 사회가 위험에 무감각해지고 있다고 주장했다. 공무원 중간 연령이 43세라는 점도 언급하며, 이메일과 문서 작성 보조 프로그램 ‘클리피’ 등 과거 기술 변화를 겪은 이들에게 AI 역시 익숙한 행정 도구로 취급될 수 있다고 봤다. 그 결과 AI 위험이 부처의 위험관리 목록에 올라가는 데 그칠 수 있다는 우려다.
복지 심사에 쓰이는 AI와 책임 소재
영국 정부가 공무원 일자리를 줄이는 수단으로 AI를 활용하려 한다는 우려도 제기됐다. 공무원 노조는 도입 속도가 지나치게 빠르다고 지적했고, 페이비언협회 조사에서는 응답자 중 직장에서 AI 도구 도입과 관련해 의견을 물었다고 답한 비율이 29%에 그쳤다. 폐지 전 과학혁신기술부의 상임차관 에므란 미안은 해당 부처에서 퇴직하는 공무원 거의 모두를 장차 사람 대신 AI로 대체할 계획을 세웠다고 보도됐다는 것이다.
노동연금부(DWP)는 복지 분야에서 AI를 시험하며 보편적 크레딧 신청 가운데 위험도가 높다고 판단되는 사례를 가려내는 데 머신러닝 시스템을 활용하고 있다. 개인정보 처리와 투명성을 둘러싼 우려에 부처는 최종 결정은 사람이 내리며 AI가 수급 자격을 판정하지 않는다고 설명해 왔다. 그러나 논평은 사람이 절차에 참여한다는 것과 사람이 실제로 결정권을 쥐고 있다는 것은 다르다고 지적했다.
논평은 정부가 AI 활용의 투명성과 책임 기준을 제대로 세우지 못하면 공공서비스에 대한 신뢰가 약해질 수 있다고 경고했다. 영국 공공회계위원회도 투명성 부족과 미흡한 AI 기준이 공무원 조직에 대한 대중의 신뢰를 위태롭게 한다고 지적한 바 있다고 전했다. AI 장관 카니슈카 나라얀이 의회 기업·무역위원회에서 내놓은 설명도 최근 AI 관련 사고가 잇따른 뒤 설득력이 약해졌다는 평가다. 정부가 강조하는 ‘인간의 최종 확인’만으로는 행정 결정의 책임과 시민 신뢰를 보장하기 어렵다고 주장했다.