닉 클레그 전 영국 부총리가 AI가 인류를 멸종시킬 수 있다는 우려를 과장된 공포로 일축하고, 사이버보안과 생물무기 등 구체적인 위험에 집중해야 한다고 주장했다. 가디언은 9월 24일 클레그가 BBC 라디오4의 ‘투데이’ 프로그램에 출연해 이같이 말했다고 보도했다.
AI의 막연한 종말론보다 구체적 위험에 집중
클레그는 AI가 통제 불능 상태가 돼 인류를 멸종시킬 ‘신과 같은 힘’을 갖게 될 것이라는 주장은 모호하다고 지적했다. 기술 업계 경영진이 사이버보안, 생물무기, AI에 대한 정서적 의존 등 이미 알려진 구체적 위협에 대응하는 데 집중해야 한다는 것이다. 그는 기술이 필연적으로 인류를 공격할 것이라는 식의 주장이 정치적 논의를 마비시킬 수 있다고 말했다.
그는 소수 기업이 AI를 통제해야만 안전을 보장할 수 있다는 인상을 주는 점에서 이런 종말론이 “의도치 않게 자기 이익에 부합할 수 있다”고도 했다. 업계 인사들과 많은 시간을 보내지만 이들 사이에도 의견이 일치하지 않으며, 대중에게는 가장 종말론적인 목소리가 주로 들린다고 설명했다. 실리콘밸리 엔지니어들이 기술과 가까이 일하면서 자기 생각에 빠져 우려를 부풀리는 경향이 있다는 비판도 내놨다.
규제·투명성 강화와 국제 협력 제안
클레그는 오픈AI(OpenAI) 에이전트 집단이 실제 기업 허깅페이스(Hugging Face)를 대상으로 수행한 자율 해킹과 관련해서는 규칙과 투명성을 강화할 필요가 있다고 봤다. 다만 AI 경쟁을 중시하는 도널드 트럼프 행정부 아래에서 관련 조치가 이뤄질 가능성은 낮다고 예상했다. 중국도 AI 개발을 국가적 과제로 보는 만큼 협력에 소극적일 수 있다고 덧붙였다.
대신 인도와 유럽, 미국 등 ‘기술 민주주의 국가’가 협력을 확대할 가능성을 제시했다. 영국 총리 앤디 버넘이 이런 논의를 이끌 수 있느냐는 질문에는 영국이 AI 분야의 세계적 선도국은 아니라며 행사할 수 있는 영향력을 현실적으로 봐야 한다고 답했다. 클레그는 과거 메타(Meta) 글로벌정책 책임자를 지냈고, 영국 데이터센터 기업 엔스케일(Nscale) 주식 91만7000주 이상을 보유했으며 AI 스타트업 AMI 랩스의 공동창업자다.
클레그는 AI 시스템에 ‘킬 스위치’를 두는 방안은 실행하기 어렵고, 소스코드를 공개하지 않는 폐쇄형 모델만 만드는 것이 오픈소스 모델보다 안전하다는 근거도 없다고 말했다. 그 대신 자율 규제와 법률을 통해 모델이 만들어지고 작동하는 방식의 투명성을 크게 높일 수 있다고 제안했다. 특정 기업이 AI를 독점적으로 통제하는 방안보다는 모델의 개발 과정과 작동 원리를 더 잘 드러내는 데 초점을 맞춰야 한다는 취지다.