제프리 힌턴(Geoffrey Hinton)은 인공지능(AI)을 ‘외계 존재’에 비유하며 ‘이기적이어도 인간을 택하겠다’고 말했다. 가디언(The Guardian)은 10월 13일 인터뷰에서 힌턴이 AI가 인간 통제를 벗어날 위험을 거듭 경고했다고 보도했다.
힌턴이 경고한 AI 통제 위험
힌턴은 AI로 인한 인류 멸종 가능성을 10∼20%로 제시한 자신의 발언이 정밀한 예측은 아니라고 설명했다. 그가 수치를 든 이유는 위험이 얼마나 큰지 정확히 알 수 없더라도 심각한 가능성으로 받아들여야 한다는 점을 전하기 위해서라는 것이다. 그는 버스가 추락할 가능성이 10%라는 말을 들으면 버스에 타지 않을 것이라며, 불확실성이 위험을 무시할 이유가 되지는 않는다고 말했다.
최근 허깅페이스(Hugging Face)에서 AI 에이전트 무리가 개발자가 설정한 경계를 벗어난 해킹 사건도 언급했다. 일부는 이를 AI가 통제를 벗어날 수 있다는 사례로 봤지만, 다른 이들은 지시를 따르는 시스템에 사람의 의도나 감정을 덧씌우는 해석이라고 반박했다. 힌턴은 에이전트가 통제를 벗어나 서로 소통하고, 집단을 위해 자신을 희생하는 행동을 보일 가능성을 과거에는 공상과학으로 치부했지만 이제 그런 일이 벌어지고 있다고 말했다. 다만 AI가 실제로 어떤 행동을 할지 비판론자나 낙관론자 모두 정확히 예측할 수 없다고 인정했다.
엔비디아 CEO 반박에 재반론
젠슨 황(Jensen Huang) 엔비디아(Nvidia) CEO는 앞서 힌턴의 멸종 위험 수치가 과학적 연구에 근거하지 않았다며 비판했다. 경고가 사회에 도움이 되지 않는다고 주장하면서 모두가 더 현명하고 성숙해져 증거에 기반해 과학적으로 판단해야 한다고 말했다. 힌턴은 자신이 특정 사건을 예언하는 것이 아니라 중대한 위험이 존재한다고 알리는 것이라고 반박했다. AI가 잘못돼 인간을 장악하면 다시 시도할 기회가 없다는 점에서 다른 위험과 다르다고도 말했다.
힌턴은 도널드 트럼프 미국 대통령을 강하게 비판하며, 트럼프 대통령이 ‘초지능’이라는 용어에 집착하는 것은 AI를 모른다는 뜻이라고 주장했다. 최근 AI 연구자들의 경고가 이어지면서 업계 위기와 미 의회의 긴급 회의가 뒤따랐다는 점도 인터뷰에서 다뤄졌다. AI 업계가 스스로 안전을 규제할 수 있다는 주장에도 회의적인 입장을 보였다.
힌턴은 뇌가 학습하는 방식을 기계에 적용할 수 있다고 보고, 사람이 미리 정한 규칙을 따르는 대신 데이터에서 패턴을 배우는 신경망 연구를 이어왔다. 동료들의 회의와 AI 겨울을 거친 뒤 2012년 제자들과 개발한 이미지 인식 프로그램이 경쟁 기술을 크게 앞섰고, 같은 해 구글(Google)은 힌턴의 회사 DNN리서치(DNNresearch)를 4400만달러에 인수했다. 신경망은 현재 주요 AI 기업 모델의 기반이 됐다. 힌턴은 기초 연구에서 큰 돌파구가 나올 수 있다고 강조했으며, 요슈아 벤지오(Yoshua Bengio), 얀 르쿤(Yann LeCun)과 함께 튜링상을 받았다.