하버드대 심리학자 스티븐 핑커(Steven Pinker)가 인공지능(AI)이 인류를 멸망시킬 수 있다는 우려는 과장됐다며, 종말론적 경고보다 독립적인 감독과 책임성에 기반한 안전공학이 필요하다고 주장했다. 더디코더는 9월 29일 핑커가 퀼렛(Quillette)에 공개서한을 게재했다고 보도했다.
핑커 “지능이 지배 욕구를 뜻하진 않아”
핑커의 서한은 정신과 의사이자 기술 블로거인 스콧 알렉산더(Scott Alexander)가 공개 토론을 제안한 데 대한 답변이다. 핑커는 토론을 거절하면서 그런 행사를 “관객 스포츠”라고 표현했다. 그는 AI가 인류를 멸망시킬 것이라는 시나리오가 지능과 지배 욕구를 혼동하고, AI가 하나의 목표에 광적으로 매달릴 것이라고 전제한다고 지적했다.
그가 든 사례는 종이 클립을 더 많이 만들려는 AI가 인간을 희생시키는 ‘종이 클립 최대화기’ 시나리오다. 핑커는 이런 가정이 AI의 지능이 높다는 사실만으로 인간을 지배하거나 제거하려는 동기가 생긴다고 보는 오류를 담고 있다고 주장했다. 과거 AI의 발전 가능성을 낙관했던 그는 대규모 언어 모델(LLM)이 실제로 얼마나 유능해질지 과소평가했다고도 인정했다.
실제 위험에는 안전공학과 통제가 필요
핑커는 AI 기업들이 제품을 무책임하게 서둘러 출시할 가능성 역시 예상하지 못했다고 밝혔다. 더디코더는 역설적으로 AI 위험을 경고해온 공동체 출신 인사들이 이런 출시 경쟁을 주도하고 있다고 전했다. 다만 기사에는 관련 기업이나 인사의 구체적인 이름은 제시되지 않았다.
핑커가 심각하게 보는 위험은 생물테러, 사이버 공격, 통제되지 않는 AI 에이전트다. 그는 종말론적 수사가 이런 위험에 대응하는 데 도움이 되지 않는다고 주장하며, 독립적인 감독과 법적 책임, 인간의 통제를 바탕으로 한 차분한 안전공학을 대안으로 제시했다. 구체적인 제도 설계나 시행 일정은 서한에 담기지 않았다.
알렉산더는 6월 자신의 블로그에서 AI가 인류를 멸망시킬 확률을 20%로 제시하고, 안전 연구 강화와 AI 개발 속도를 늦추기 위한 국제 협약을 요구했다. 두 사람은 AI의 실존적 위험을 둘러싼 진단과 대응 수단에서 차이를 보인다. 핑커의 주장은 위험을 낮게 봐도 된다는 뜻이라기보다, 종말론적 전망보다 실제 위협에 대응할 감독·책임·통제 체계를 마련해야 한다는 데 초점을 둔다.