조너선 미치 옥스퍼드대 혁신·지식교류 교수는 1972년 국제 AI 연구자 모임이 자동화에 따른 정치적 폭정과 인간 자율성 훼손, 사회적 강압 확산을 경고했지만 당시 우려가 외면됐다고 지적했다.
더 가디언(The Guardian)은 8월 26일 독자 의견란에 미치 교수와 캘럼 브라운 글래스고대 역사학과 명예교수의 편지를 실었다. 두 사람은 질 르포어 하버드대 교수의 AI 관련 경고 논의를 계기로 AI의 사회적 위험을 과거의 논쟁과 연결해 설명했다.
미치 교수는 르포어 교수의 논의가 미국 중심적이라고 평가하면서 1972년 이탈리아에서 AI 연구자 등이 윤리적·사회적 영향을 논의하기 위해 국제 모임을 열었다고 썼다. 이 모임은 코모 호수의 빌라 세르벨로니에서 열려 ‘세르벨로니 그룹’으로 불렸으며, 미치 교수의 아버지인 도널드 미치 당시 에든버러대 기계지능학과장이 이끌었다.
그룹은 자동화가 초래할 수 있는 정치적 폭정, 인간의 자율성 약화, 광범위한 사회적 강압에 대한 초기 우려를 정리했다. 미치 교수는 이런 경고에 아무도 귀 기울이지 않은 이유 가운데 하나로 영국의 연구비 삭감을 들었다. 영국은 라이트힐 보고서 이후 이듬해 머신러닝과 로봇공학, AI 연구 지원을 줄였고, 이후 자료를 통해 이 보고서가 연구비 삭감을 위한 목적으로 마련됐다는 점이 기록됐다고 설명했다.
연구자들은 이에 따라 보다 즉각적으로 산업에 적용할 수 있는 연구에 집중해야 했다. 인문학 분야 전문가까지 포함해 세르벨로니 그룹을 다시 소집하려던 도널드 미치의 시도도 성사되지 못했다. 미치 교수는 르포어 교수가 지적한 자유시장 속 AI 수용과 통제되지 않은 기계를 우려하는 현대 인문주의자들의 대립이 이미 수십 년 전부터 나타났다고 봤다.
브라운 교수는 별도의 편지에서 미국 사상가 루이스 멈퍼드를 사례로 들었다. 멈퍼드는 사람을 대규모로 해치는 기계와 같은 도시의 무제한 확장을 억제하는 데 평생을 바쳤고, 영국의 인문주의자 프레더릭 J 오스본과 30년 넘게 편지를 주고받으며 도시계획 체계를 발전시켰다는 설명이다.
브라운 교수는 멈퍼드가 자동화된 기계가 도시 생활과 마찬가지로 인간을 수동적이고 목적 없는 존재로 만들 수 있다고 봤다고 덧붙였다. 이어 인간은 모든 형태의 수동성을 유도하는 힘에 저항해야 한다며, AI가 실제로는 그다지 영리하지 않고 몇 가지 적절한 문제만 풀게 해도 인간의 강점인 지식보다 데이터에 집착하는 한계가 드러난다고 주장했다.