가디언(The Guardian)이 인공지능(AI) 산업의 성장과 위험을 함께 이해할 수 있는 책 10권을 추천했다. 기술 낙관론과 인류 멸망론이 맞서는 상황에서 AI 기업의 역사, 데이터센터의 환경 영향, 감시 기술과 정치적 논쟁을 다룬 책들이다. 가디언은 AI 업계가 학교 교실과 법 집행기관까지 도구를 확산하고 미국 전역에 데이터센터를 세우는 동시에, 업계 관계자들의 극단적인 위험 경고와 매출 급증이 공존하고 있다고 설명했다.
AI 산업의 성장과 현실을 다룬 책들
추천 목록의 첫머리에는 카렌 하오의 『AI의 제국(Empire of AI)』이 올랐다. 이 책은 오픈AI(OpenAI)의 성장과 앤트로픽(Anthropic)의 설립, 오픈AI 최고경영자 샘 올트먼(Sam Altman)과 일론 머스크의 결별을 취재해 미국 주요 AI 기업들이 현재의 산업 지형을 만든 과정을 다룬다. 가디언은 일부 내용이 업계 내부 사정에 치우쳐 보일 수 있지만, 핵심 기업에 대한 취재가 충실하다고 평가했다. 카트리나 맨슨의 『프로젝트 메이븐(Project Maven)』은 미군과 팰런티어(Palantir)가 자율 무기와 감시 시스템을 구축한 과정을, 파리 마르크스의 『하이퍼스케일(Hyperscale)』은 AI 데이터센터가 지역사회와 지구 환경에 미치는 물리적 부담을 파고든다.
카슈미르 힐의 『당신의 얼굴은 우리 것이다(Your Face Belongs to Us)』는 온라인 이미지로 거대한 데이터베이스를 만든 얼굴인식 기업 클리어뷰 AI(Clearview AI)와 수사기관·기업의 감시 권한 확대를 조명한다. 에밀리 M. 벤더와 알렉스 한나의 『AI 사기극(The AI Con)』은 AI가 곧 인간의 모든 능력을 뛰어넘거나 새로운 생명체가 될 것이라는 주장을 과장된 홍보로 규정한다. 두 이런 담론이 데이터 도용과 감시 자본주의를 정당화하고 인간의 창의성을 낮게 평가해 부유한 이들의 수익을 키운다고 비판한다.
인류 멸망론과 기술 권력의 정치학
AI가 인류를 파괴할 수 있다고 우려하는 관점을 보려면 엘리에저 유드코스키와 네이트 소어스의 『누군가 만든다면 모두가 죽는다(If Anyone Builds It, Everyone Dies)』와 닉 보스트롬의 『초지능(Superintelligence)』이 제시됐다. 전자는 이른바 ‘둠어’의 대표적 저작으로 소개됐지만, 가디언은 현재 AI가 실제 사회에서 어떻게 작동하는지보다 거대한 사고실험에 의존한다고 지적했다. 후자는 2014년 출간된 초기 AI 논의의 핵심 저작으로, 초지능 AI가 사회를 위협할 수 있다는 주장의 발전 과정을 이해하는 데 도움이 된다고 평가했다. 다만 저자인 스웨덴 출신 철학자 보스트롬의 과거 인종차별적 발언과 학술 활동을 둘러싼 논란도 함께 언급됐다.
헨리 키신저와 에릭 슈밋, 크레이그 먼디, 엘리너 룬드가 쓴 『창세기: 인공지능, 희망과 인간 정신(Genesis: artificial intelligence, hope, and the human spirit)』은 AI가 설명 없이 답을 내놓는 능력 때문에 이성의 시대가 흔들릴 수 있다고 전망한다. AI 기업이 사회·경제·군사·정치 권력을 독점하거나 AI가 전능한 ‘철학자 왕’이 될 가능성도 제기한다. 팰런티어 최고경영자 알렉스 카프와 니컬러스 자미스카의 『기술 공화국(The Technological Republic)』은 기술 지도자를 철학자 왕처럼 세워야 한다는 주장을 담은 선언문으로, 가디언은 문체와 내용에 비판적이면서도 기술 경영진이 AI를 새로운 핵무기처럼 바라보는 방식을 보여준다고 설명했다. 이번 목록은 AI를 둘러싼 낙관과 공포 어느 한쪽에만 기대기보다 산업의 역사와 감시, 환경, 권력 문제를 함께 읽어야 한다는 취지로 구성됐다.