영국 자유민주당 대표 에드 데이비(Ed Davey)가 초지능 AI 개발을 중단·통제하기 위한 국제 비확산조약과 원자력 관련 국제기구를 본뜬 새 AI 안전기구 설립을 제안할 예정이다. 데이비 대표는 22일 브라이턴에서 열리는 자유민주당 전당대회 연설에서 초지능 AI를 핵무기 경쟁에 비유하며 국제적 대응을 촉구할 계획이라고 가디언이 보도했다.
초지능 AI 개발 중단·통제 촉구
데이비 대표는 전당대회 마지막 날 기조연설에서 초지능 AI 개발에 대한 세계적 일시 중단을 요구할 예정이다. 그는 초지능 AI가 인류 전체를 파괴할 수 있는 기술이 될 가능성을 핵무기 경쟁에 견주면서, 개발 속도를 늦추고 안전장치를 마련해야 한다고 주장할 계획이다. 가디언은 AI 연구자들이 인공지능이 10년 안에 인류를 멸망시킬 수 있다고 경고해 왔다고 전했다.
새 국제 AI 안전기구는 국제원자력기구(IAEA)를 모델로 하며 영국에 본부를 두는 방안이 거론됐다. 데이비 대표는 원자폭탄을 소수 억만장자의 자율 규제에 맡기지 않았다는 취지로 말하고, IAEA 역시 국가들이 인류를 파괴할 수 있는 기술을 공동으로 통제하기 위해 설립됐다고 설명할 예정이다. 그는 AI의 미래가 안전장치 없이 미국 캘리포니아와 중국 베이징의 극소수 부유층과 권력자에 의해 결정되고 있다고 비판할 계획이다.
트럼프 행정부·빅테크 의존 비판
데이비 대표는 마크 저커버그(Mark Zuckerberg), 샘 올트먼(Sam Altman), 일론 머스크(Elon Musk) 같은 기술기업 인사들에게 AI 안전을 맡길 수 없다고 강조할 예정이다. 자유민주당은 핵무기와 기후변화처럼 인류의 존립을 좌우하는 문제를 소수의 강력한 인물에게 맡겨서는 안 되며, AI도 국제적 협력 아래 관리해야 한다는 입장이다.
영국 총리는 도널드 트럼프(Donald Trump) 미국 대통령의 유엔 총회 연설을 앞두고 미국과의 새로운 AI 협력 계획을 발표했다. 그러나 데이비 대표는 이 계획이 AI 위협의 규모에 크게 미치지 못하며, 기술기업의 영향력 아래 있는 트럼프 행정부에 영국이 더 의존하게 만들 위험이 있다고 비판할 예정이다. 그는 앤디 번햄(Andy Burnham)이 트럼프와 기술기업 인사들에게 문제 해결을 기대하고 있다고도 공격할 계획이다.
자유민주당은 빅테크 부담금과 온라인 범죄 전담기구 신설도 제안했다. 이 기구는 아동 성착취물, 마약·무기 거래, AI로 만든 딥페이크 음란물 등을 다루게 된다. 당내무 담당 대변인 맥스 윌킨슨(Max Wilkinson)은 메타(Meta)의 스마트 안경이 여성 등을 동의나 경고 없이 촬영할 수 있다며 사용 규제를 약속했다. 데이비 대표는 앞서 3개월 동안 유류세를 ℓ당 10펜스 인하하고 버스 요금 상한을 3파운드에서 1파운드로 낮추는 방안도 내놨다.