오픈AI(OpenAI)가 밀레니엄 난제 중 하나인 나비에-스토크스 존재성과 매끄러움 문제를 풀었다고 발표했지만, 수학계에서는 검증 여부와 연구 관행을 둘러싼 논란이 일고 있다. IEEE 스펙트럼(IEEE Spectrum)은 10월 5일 하이델베르크 수상자 포럼에서 나온 수학자들의 평가와 논쟁을 보도했다.
AI가 겨냥한 밀레니엄 난제
2000년 클레이 수학연구소가 제시한 밀레니엄 난제 7개 가운데 나비에-스토크스 문제는 유체의 운동을 기술하는 방정식의 해가 존재하는지, 해가 매끄럽게 유지되는지를 묻는다. 일곱 문제 중 인간이 해결한 것은 푸앵카레 추측 하나뿐이다. 오픈AI의 발표가 검증된다면 자동 추론의 중요한 진전이 될 수 있지만, 기사에는 증명이 독립적으로 검증됐다는 내용은 없다.
AI의 수학 능력은 올해 빠르게 발전했다. AI는 연구 수준의 문제를 푸는 데 어려움을 겪던 단계에서 에르되시가 제시한 여러 문제에 답하고, 페르마의 마지막 정리 증명을 검증하는 수준으로 나아갔다. 수학은 논리를 단계별로 전개하고 정답을 객관적으로 확인할 수 있어 AI 능력을 시험하기에 적합한 분야로 꼽힌다. 포럼 참가자인 암스테르담대 연구자 아일사 로버트슨은 여름 동안 AI와 대규모언어모델이 수학계를 뒤흔들었다고 말했다.
증명 성과와 연구 관행 논쟁
다른 밀레니엄 난제를 둘러싼 움직임도 이어졌다. 앤트로픽(Anthropic)은 8월 공개되지 않은 클로드(Claude) 버전으로 리만 가설을 다뤄 관련 문제에서 진전을 냈지만, 리만 가설 자체를 해결하지는 못했다. 오픈AI는 호지 추측 해결에 집중하고 있다는 보도가 나왔다. 수학자들은 기업들이 미공개 최신 모델의 능력을 시험하는 동시에 기술의 위력을 잠재 고객과 투자자에게 보여주려 한다고 봤다. 필즈상 수상자 페터 숄체는 난제 풀이가 벤치마크이자 홍보 수단으로 활용된다고 지적했다.
포럼에 참석한 수학자들은 오픈AI의 발표 방식도 비판했다. 시드니대 조디 윌리엄슨은 회사가 매우 부적절하게 행동했다고 말했다. 컬럼비아대 마이클 버리스는 나비에-스토크스 문제에서 진전을 내던 트리스탄 버크마스터가 오픈AI와 주고받은 연락을 강압적이고 위협적으로 보이는 내용이라고 설명했다고 전했다. 해리스는 해당 설명을 신뢰했고, 언론 보도도 오픈AI가 수학계의 관행을 흔들고 괴롭힌 것으로 묘사했다고 덧붙였다. 오픈AI는 보도 전 논평 요청에 답하지 않았다.
윌리엄슨은 AI가 답을 내더라도 이해할 수 있거나 다른 연구에 활용할 방법론을 제시하지 않을 수 있다고 우려했다. 수학계가 중요하게 여기는 ‘이해’와 미해결 문제의 해결 여부가 빠르게 분리되면 연구자 평가와 채용, 교육 방식도 다시 검토해야 한다는 것이다. 강력한 AI 기술에 쉽게 접근할 수 있게 되면서 세계 수학자들의 연구 방식에도 영향이 나타나고 있으며, 그 사례로 남아프리카공화국 케이프타운대의 젊은 수학자 미타 라마불라나가 언급됐다.