미국 역사학자 질 르포어의 신간은 인공지능(AI)과 거대 기술기업의 권력이 자유민주주의를 약화시키고 사회 질서를 바꿀 수 있다고 경고한다. 르포어는 소수의 억만장자가 자동화 정부와 인간의 초월을 꿈꾸는 한편, 이미 공론장이 사기업 플랫폼으로 넘어갔다고 진단했다.
미국 역사학자 질 르포어(Jill Lepore)가 신간 ‘더 라이즈 앤드 폴 오브 디 아티피셜 스테이트(The Rise and Fall of the Artificial State)’에서 AI가 자유민주주의에 가하는 위협을 다뤘다고 가디언(The Guardian)이 8월 19일 서평에서 보도했다. 퓰리처상 수상자인 르포어는 지구와 그 거주자의 복지와 우선순위가 맞지 않을 수 있는 남성 중심의 민간 기술기업들이 막대한 권력을 쥐면서 문명을 파괴할 수 있다고 주장한다.
르포어가 말하는 ‘인공 국가’는 소수의 엘리트가 생물학적·행성적 제약을 넘어 헌정 민주주의와 자유주의 국민국가, 나아가 인간 자체를 버리고 자동화와 기계 통치, AI로의 대체를 추구하는 환상을 포함한다. 동시에 대중의 관심을 수익화하는 일이 최우선 가치가 된 사기업 플랫폼으로 공론장이 이동한 현실도 가리킨다. 소셜미디어 피드가 상품 구매나 정치적 입장 변화를 유도하도록 이용자의 행동을 조작한다는 점은 이미 널리 알려졌으며, X에는 국가·비국가 행위자와 범죄·기업 세력이 조종하는 봇이 활동하고 있다. 이들이 분노를 자극하는 콘텐츠를 알고리즘으로 확산해 시민을 양극화한다는 설명이다.
서평에 따르면 르포어는 인공 국가를 단순한 공상이 아니라 소수의 ‘21세기 상인 군주’가 세운 실제 계획으로 본다. 일론 머스크(Elon Musk), 마크 저커버그(Mark Zuckerberg), 제프 베이조스(Jeff Bezos), 피터 틸(Peter Thiel), 샘 올트먼(Sam Altman)이 기후변화보다 우주여행이나 중국과의 AI 경쟁을 위한 연산 능력 확대에 집중한다고 지목했다. 에너지를 대량 소비하는 데이터센터로 지구를 뜨겁게 만든 뒤 화성으로 탈출하거나 뉴질랜드 벙커에 숨고, 냉동한 뇌를 업로드한다는 구상도 언급했다.
르포어는 냉전기의 편집증적 공상과학에서 기술자유지상주의의 뿌리를 찾고, 고대 메소포타미아의 인구조사부터 아이작 아시모프 등의 공상과학까지 과거와 현재를 잇는 사례를 제시한다. 다만 가디언은 AI와 로봇이라는 범주에 서로 다른 기술을 한데 묶으면 분석이 부정확해진다고 지적했다. 러시아 국가 운영 챗봇의 극우 선동과 신약 개발에 쓰이는 머신러닝 모델, 주방용 로봇청소기와 어린이가 있는 주택을 폭격하는 드론을 같은 범주로 볼 수 있느냐는 것이다. 르포어는 기술 자체보다 민주적으로 마련된 개발·이용 전략의 부재가 문제라고 했지만, 결론에서 제시한 ‘접속을 끊고 자연·동물과 연결하라’는 권고만으로는 부족하다는 평가를 받았다.