AI 종말론 경고를 둘러싼 분석이 앤트로픽 연구자 제이컵 콕슨의 퇴사와 경고를 25년 역사의 합리주의 공동체와 연결해 짚었다. 해당 분석은 AI 안전론을 이끄는 인물과 조직, 의례와 논쟁을 추적하며 이들이 인류의 미래에 대한 공적 신뢰를 요구하는 배경을 조명했다.
개인 웹사이트에 게재된 분석은 9월 8일 앤트로픽 연구자 제이컵 콕슨(Jacob Coxon)이 회사를 그만두며 남긴 논의를 시작한다. 콕슨은 오픈AI와 앤트로픽에서 3년간 대규모 AI 모델의 사전학습 연구를 맡았으며, 지분이 확정되기 두 달 전 회사를 떠났다고 분석은 전했다. 그의 하루 만에 1억회 이상 조회됐고, “AI를 만드는 사람들은 10년 안에 AI가 우리 모두를 죽일 수 있다고 진지하게 믿는다”는 내용이 담겼다.
앤트로픽 연구자의 경고와 확산
앤트로픽의 정렬 과학을 이끄는 에번 허빙어(Evan Hubinger)는 콕슨의 주장에 동의하며 자신도 10년 안에 AI가 인류 전체를 죽일 가능성을 10%보다 높게 본다고 밝혔다고 분석은 설명했다. 이후 미국 의회 의원 20여명이 대응 필요성을 언급했고, 자체 프런티어 AI 연구소를 세우는 일론 머스크(Elon Musk)는 이를 심리전이라고 불렀다. 분석은 주류 언론이 뒤따라 보도하면서 논란이 빠르게 확산됐다고 덧붙였다.
분석의 핵심은 이 경고가 실리콘밸리의 특정 인터넷 하위문화인 합리주의 운동에서 나왔다는 주장이다. 이 운동은 사람들이 더 명확하게 사고한다고 자부하는 공동체로 소개됐으며, 구성원과 동문들이 AI 연구소와 안전 연구기관, 관련 자선단체에 참여해 왔다. 분석은 이들의 논쟁과 인간관계, 성적 관념까지 AI 안전의 의미를 정하는 조직 구조와 얽혀 있다고 묘사했다.
세속적 의례와 AI 파국론의 연결
사례로는 2025년 12월 버클리의 한 음악회장에서 열린 세속적 동지축제가 제시됐다. 약 500명이 모인 행사에는 밴드와 28명 합창단, 의례적 낭독이 마련됐고, 인류의 과거에서 불확실한 미래로 이동하는 순서에 따라 조명이 하나씩 꺼졌다. 행사를 조직한 레이먼드 아널드(Raymond Arnold)는 웹 개발자이자 게임 디자이너, 음악가로 소개됐으며, 마지막 어둠 속에서 “우리가 살아남지 못할 것 같다”고 말했다.
아널드는 2011년 뉴욕 아파트에서 19명의 친구와 새로운 세계관을 위한 휴일 행사를 시험한 뒤 이를 공개 공연인 ‘오늘보다 밝게'(Brighter Than Today)로 발전시켰다. 이후 행사는 북미와 유럽 등으로 확산됐고, 세속적 동지축제(Secular Solstice)는 합리주의 공동체의 주요 연례행사가 됐다. 그는 현재 레스라이트(LessWrong)와 라이츠헤이븐(Lighthaven)을 운영하는 데 관여하며 자신의 역할을 ‘마을 사제’에 비유했다고 분석은 전했다.
아널드는 2025년 AI 재앙 가능성을 50%보다 높게 추정했고, 기존 의례가 멸종을 건강하게 받아들이기에 충분하지 않다고 우려한 것으로 소개됐다. 분석은 이 공동체 주변에서 해리 포터 팬픽을 활용한 모집 통로, 강압적이었다는 평가를 받은 심리 워크숍, 더 똑똑한 아이를 낳자는 프로그램, 머스크의 전 연인 그라임스(Grimes)와 연계된 AI 파국론 활동 등이 이어진다고 주장했다. 다만 이는 제품 출시나 정책 결정이 아니라, AI 안전론을 둘러싼 인물·조직·문화의 연결고리를 추적한 분석이며 구체적인 향후 일정이나 가격 계획을 제시한 내용은 아니다.