핵심 요약
AI 요약
기사 목차 펼치기 / 접기
수학자 폴 코언(Paul Cohen)이 1966년 쿠르트 괴델(Kurt Gödel)에게 단도직입으로 물었다. 선택공리의 독립성을 1940년대에 이미 증명했느냐는 질문이었고, 논리학계에는 괴델이 그 문제를 부분적으로 풀었다는 소문이 오래 돌고 있었다.
괴델은 1966년 코언과의 대화에서 연속체가설은 몰라도 선택공리는 성공했다고 답했지만, 어떻게 했는지는 한마디도 하지 않았다. 이듬해 괴델은 편지에서 그 말을 사실상 거둬들였다.
시험지에 정답만 적고 풀이 칸은 비워 두었다.
60년이 지난 2026년 가을 그 풀이 칸을 들여다본 것은 앤트로픽(Anthropic)의 AI 클로드(Claude)다. 클로드의 답은 “거의 그렇다”였다. 정의 하나가 틀렸고, 맞는 정의는 그보다 2년 앞선 노트에 적혀 있었다.
1963년, 괴델은 ‘좋은 연극’을 봤다고 답했다
이야기는 수학의 규칙 하나에서 시작한다. 선택공리(axiom of choice)는 상자가 무한히 많아도 상자마다 원소를 하나씩 골라 새 묶음을 만들 수 있다고 받아들이는 규칙이다. 당연해 보이지만, 다른 공리로부터 끌어낼 수는 없다. 양말 서랍이 끝없이 늘어서 있어도 서랍마다 한 짝씩 집을 수 있다고 정해 두는 것과 같다.
잠깐, 독립성은 뭘까? 어떤 공리가 나머지 공리들로 증명되지도 반증되지도 않을 때 그 공리는 독립(independence)이라고 한다. 넣어도 모순이 생기지 않고(무모순성, consistency), 빼도 모순이 생기지 않는다는 두 가지를 모두 보여야 한다.
괴델은 1938년 앞쪽 절반을 해냈다. 선택공리를 넣어도 수학이 무너지지 않는다는 것을 보였고, 1940년 이 결과를 단행본으로 냈다. 나머지 절반은 1963년 코언이 강제법(forcing)이라는 새 기법으로 채웠다. 강제법은 기존 모형에 새 원소를 덧붙여 선택공리가 성립하지 않는 수학의 우주를 직접 지어 보이는 방법이다.
괴델이 문을 열어 둬도 집이 멀쩡하다고 보였다면, 코언은 문을 닫아도 멀쩡하다고 보였다.
코언이 1963년 편지로 증명을 보내자 괴델의 답장은 이랬다.
“당신의 증명을 읽는 일은 정말 좋은 연극을 볼 때처럼 즐거웠다.” — 쿠르트 괴델, 1963년 코언에게 보낸 편지
코언은 이 업적으로 1966년 필즈상을 받았고, 같은 해 괴델에게 앞의 질문을 던졌다.
1966년의 ‘성공했다’, 1967년의 편지
코언은 훗날 쓴 회고 「The Discovery of Forcing」에서 그해의 대화를 적었다. 괴델이 선택공리의 독립성을, 그것도 집합에 계층을 두어 논리적 역설을 피하는 유형 이론(type theory)이라는 제한된 틀 안에서 부분적으로 풀었다는 소문이 논리학계에 널리 퍼져 있었다. 직접 묻자 괴델은 선택공리에서는 성공했다고 했지만 방법은 끝내 알려 주지 않았다.
1967년 괴델의 편지는 다른 이야기를 했다. 1942년에 결과를 얻긴 했지만, 지금 재구성할 수 있는 것은 선택공리가 아니라 구성가능성 공리(axiom of constructibility)의 독립성뿐이고 그것도 유형 이론에서라는 내용이었다. 코언은 이 편지가 1966년에 들은 말과 어긋난다고 적었다.
이듬해 그 수험생은 풀이를 다시 써 보려다 다른 문제를 풀었다고 털어놓은 것이다.
괴델은 1978년 세상을 떠날 때까지 그 풀이를 내놓지 않았다. 괴델 전집의 서신 권이 나온 뒤인 2003년에도 논리학자 메일링리스트에서는 1942년 유형 이론의 선택공리 독립성 증명이 “수수께끼로 남아 있다”는 말이 오갔다.
단서는 코언 쪽에 하나 있었다. 코언은 괴델의 1940년 단행본에서 선택공리가 필요 없는 정리마다 별표가 쳐진 것을 보고, 코언 추모사에 기록된 대로 괴델이 독립성 증명을 염두에 두고 표시해 둔 것이라고 짐작했다. 코언은 나중에 그 보조정리들을 자기 증명에 실제로 썼다.
속기로 쓴 1009쪽, 일주일에 한 쪽
풀이가 남아 있다면 그곳은 괴델이 1940년대 초에 쓴 4~16번 연구노트 13권이었고, 문제는 글씨였다. 1~3번 노트는 1937~38년 빈에서 쓴 것이다. 노트 1009쪽의 상당 부분이 독일어 속기의 하나인 가벨스베르거(Gabelsberger) 속기로 적혀 있다.
글자는 그대로 남았는데 읽는 법을 아는 사람이 손에 꼽히는 일기장이었다.
이 글씨를 옮겨 적은 사람은 헬싱키대의 논리학자 얀 폰 플라토(Jan von Plato)다. 폰 플라토는 속기를 독학으로 익혔고, 자신이 그 글을 읽을 수 있는 전 세계 여섯 명 가운데 하나(one of only six people who can read it in the world)라고 말했다. 2017년부터 9년 동안 평균 속도는 일주일에 한 쪽이었다. 폰 플라토는 본지에 하루에 여러 쪽을 옮길 수도 있지만 몇 달씩 그렇게 이어 가기엔 너무 버겁다고 했다. 1940~42년 노트를 이해하는 데 걸리는 시간도 한 쪽에 일주일쯤이라고 했다.
작업은 유럽연구위원회(ERC)가 지원한 두 사업에 걸쳐 이뤄졌다. 전사는 GODELIANA에서, 나머지는 HERITAGE(The hidden heritage of modern logic)에서 진행했다고 폰 플라토는 설명했다. GODELIANA 소개 페이지는 처음부터 괴델의 “1942년 선택공리 독립성 증명”을 노트에서 찾아낼 수 있는 결과의 예로 들고 있었다. 찾을 것은 알았지만 다 읽는 데 시간이 걸렸다.
노트에는 괴델 자신의 채점도 남아 있어, 여백 곳곳에 “falsch!”(틀림)와 “schlecht!”(나쁨)가 적혀 있다.
2026년 9월 이틀 만에 나온 650쪽 해설
전환점은 2026년 8월 프랑스에서 열린 AI·정리증명 학회였고, 그 자리의 컴퓨터과학자들이 폰 플라토에게 클로드를 써 보라고 권했다.
속기를 AI가 읽은 것은 아니다. 폰 플라토는 14일 본지 이메일 질의에 답하면서 “AI의 도움으로 괴델의 속기를 읽으려던 진지한 시도들은 실패했다”(serious attempts to read Gödel’s shorthand with the help of AI have failed)고 밝혔다. 조금도 놀라지 않았다면서, 짧은 가디언(The Guardian) 기사에서는 이 점이 분명하지 않았다고 덧붙였다.
클로드가 읽은 것은 사람이 옮긴 글이다. 폰 플라토는 처음에는 클로드 맥스(Claude Max) 요금제를 썼고, 지금은 클로드 오푸스 5.5(Claude Opus 5.5)를 쓴다고 했다. 클로드에게는 자신의 전사본 전부와 출간·미출간 원고 수천 쪽, 일부 독일어판, 그 밖의 연구 저작을 모두 읽게 했다. 질문은 세 단계로 깊어졌다. 처음에는 괴델의 선택공리 독립성 증명을 설명해 달라고 했고, 다음에는 더 자세히 풀어 달라고 했고, 마지막에는 수학 연구 논문 형식의 엄밀한 증명을 요구했다.
결과를 본 폰 플라토는 가디언 인터뷰에서 “말문이 막혔다”(I was flabbergasted)고 말했다.
“며칠 만에 노트 전체에 대한 650쪽짜리 해설을 받아 봤다. 한 쪽씩 확인해야 했지만, 사실상 사람이 할 수 없는 일이다.” — 얀 폰 플라토, 가디언 인터뷰
1000쪽에 흩어진 퍼즐 조각을 한 탁자 위에 한꺼번에 펼쳐 놓은 일과 닮았다.
60년 묵은 그 질문의 답은 “거의 그렇다”(yes, almost)였다. 증명은 1942년 여름과 가을에 쓴 14~16번 노트에 있었고, 거기 쓰인 정의 하나가 틀렸다. 폰 플라토는 맞는 정의가 1940년 봄의 「논리와 기초」(Logik und Grundlagen) 연작에 적혀 있다고 본지에 밝혔다. 가디언 인터뷰에서 그는 괴델이 “한 걸음 앞에 있었다”(He was just one step away)고 했다.
열쇠는 다 깎아 놓았는데 톱니 하나가 어긋나 있었고, 맞는 톱니는 2년 전 서랍에 들어 있었다.
폰 플라토는 클로드가 재구성한 증명을 Coq에 넣어 확인했고, 증명은 통과했다. Coq는 수학 증명을 컴퓨터 언어로 옮겨 한 단계씩 기계가 확인하는 증명 보조기(proof assistant)다. 이렇게 확인하는 일을 형식 검증(formal verification)이라고 하며, 손으로 푼 계산을 계산기로 한 줄씩 다시 두드려 보는 일과 같다.
폰 플라토가 답장에서 가장 힘주어 말한 것도 이 대목이다. 대중 매체 기사는 이 점을 한 번도 짚지 않는다고 했다.
“이 점이 수학에 쓰는 AI를 다른 모든 AI 활용과 가른다. 결과를 AI와 무관하게 검증할 수 있다.” — 얀 폰 플라토, 본지 이메일 답변
클로드는 무엇을 찾았고 무엇을 하지 않았나
선택공리는 첫 과제였을 뿐이다. 클로드는 노트 전체에서 괴델이 증명이나 스케치, 아이디어 가운데 하나라도 남긴 정리 663개를 추렸다. 663개는 후보 목록이고, 모두가 완결된 증명은 아니다.
폰 플라토가 본지에 밝힌 판정은 이렇다. 약 400개는 제대로 된 증명이 나왔고, 200개는 ‘수리’됐다. 약 50개는 거짓이었다. 거짓 가운데 일부는 괴델이 여백에 “falsch!”라고 적어 둔 바로 그 정리다. 8개는 증명 시도를 버텨 내 아직 열려 있다. 그중 2개는 오랫동안 매달렸던 정리다.
수리는 여러 뜻이다. 괴델이 적지 않은 가정을 보태거나, 괴델이 진술한 결과가 성립하도록 조건을 좁히는 일 등으로, 답은 맞는데 문제의 조건을 덜 적어 둔 시험지를 고쳐 쓴 셈이다.
정리는 괴델이 진술한 그대로 옮겼다. 폰 플라토는 Coq나 Agda 같은 증명 보조기가 증명의 연역 관계를 엄격하게 따지기 때문에, 형식화된 증명마다 그 뒤에 깔린 가정이 함께 드러난다고 설명했다. 컴퓨터로 증명을 시도하는 데는 비용이 많이 들어 할 수 있는 일에 한계가 있지만, 전체 결과는 분명하다고 했다.
이번 작업은 사람이 속기를 옮겨 적고, 클로드가 그 글을 읽고 연결하고, 증명 보조기가 결과를 거르는 세 단계로 이뤄졌다. 번역가가 옮긴 원고를 편집자가 엮고 교정기가 걸러 낸 책과 같다.
폰 플라토가 꼽은 남은 과제도 있다. 1970~80년대에야 알려진 결과를 괴델이 먼저 적어 둔 사례가 수십 개이고, 아직 추적하지 못한 논리학 주제가 14개다. 물리학과 우주론을 다룬 노트도 남아 있다.
그러면 괴델이 증명했다고 볼 수 있나
조심해야 할 대목이 여기다. Coq를 통과한 것은 클로드가 정의를 고쳐 재구성한 증명이다. 괴델이 그 증명을 머릿속에 완성해 두었다는 것과는 다른 이야기다.
노터데임대 논리학자 조엘 데이비드 햄킨스(Joel David Hamkins)는 이번 결과가 “놀랍고 역사적으로 흥미롭다”(remarkable and historically interesting)고 평가했다. 그러면서 “어디까지가 클로드고 어디까지가 괴델인지 가리는 일은 역사가의 몫”(how much is Claude and how much is Gödel is a job for the historians)이라고 덧붙였다.
깨진 도자기를 붙인 뒤 어디까지가 원래 그릇인지 가르는 일과 닮았다.
햄킨스는 본지에 이 말의 뜻이 보도에 비친 것보다 좁았다고 설명했다. 새로 만든 형식 증명이 괴델이 노트에 쓴 것과 얼마나 가까운지 묻고자 했을 뿐, 비판할 뜻은 없었다고 했다. 자연어로 쓴 증명을 형식화하면 대개 크게 달라질 수 있고, 세부에서는 언제나 달라지기 때문이다. 폰 플라토가 노트를 옮긴 일은 “환상적”(fantastic)이라며 그의 작업을 전적으로 지지한다고 했다.
괴델의 1966·1967년 발언에 대해서는 폰 플라토도 “확정된 입장이 없다”(I have no definitive position)며 판단을 아꼈다. 다만 코언의 증명을 본 괴델이 왜 이 문제를 다시 꺼냈는지, 왜 1942년의 자기 방식으로 증명을 마무리하지 않았는지는 추측해 볼 수 있다고 했다. 수리 200개를 누가 어떻게 했는지도 답장에 구체적으로 나오지 않았다.
검증 자료도 아직 공개 전이다. 폰 플라토는 괴델의 노트를 인쇄본으로 펴내면서 쓴 순서대로 정리한 항목 목록과 번호 붙은 정리 목록을 함께 싣고, 이어 이 자료를 해설하는 별책을 낼 계획이다. 별책은 정리를 누르면 정확한 진술과 검증 과정을 따라갈 수 있는 디지털판이 될 가능성이 크다. 모든 내용은 전문가 그룹의 검토를 거친다. 목표는 2028년이지만, AI가 내놓은 해설을 사람 논리학자들이 훑는 데 걸리는 시간에 달렸다고 했다.
괴델은 끝내 그 풀이를 누구에게도 말하지 않았다. 클로드가 며칠 만에 이어 붙인 650쪽이 책이 되려면, 이제 사람 논리학자들이 그것을 한 쪽씩 읽어야 한다.