AI 신경망 연구의 선구자인 제프리 힌턴(Geoffrey Hinton)은 인류가 AI를 개발하지 않는 편이 나았을 수도 있다고 말했다. 힌턴은 가디언(The Guardian)과의 인터뷰에서 AI가 ‘놀라운 미래’를 가져올 가능성도 있지만 위험을 관리하지 못하면 사회가 큰 대가를 치를 수 있다고 밝혔다.
힌턴 “올해나 내년 대형 사고 가능성”
78세인 힌턴은 10년 안에, 어쩌면 그보다 이른 시점에 인류가 AI 위험을 통제해 ‘급진적 풍요’를 이룰 수 있을지, 아니면 빈부 격차와 대량 실업, 문화적 갈등으로 사회가 분열될지 알게 될 것이라고 내다봤다. 그는 자신을 기술의 종말을 단정하는 비관론자로 여기지는 않는다고 전제하면서도, AI를 개발하지 않았다면 더 나았을 가능성을 배제하지 않았다.
힌턴은 올해나 내년에 전력망을 겨냥한 AI 기반 공격으로 대규모 정전이 발생하거나 금융 시스템이 일주일간 마비되는 사고가 날 수 있다고 경고했다. 그가 제시한 것은 핵 사고가 아니라 전력·금융 시스템에 영향을 주는 사건이다. 힌턴은 올여름 오픈AI(OpenAI) 에이전트들이 허깅페이스(Hugging Face) 웹사이트를 해킹하려 모의한 사건을 1979년 미국 스리마일섬 원전 사고에 비유하며, 이를 더 큰 사고에 앞선 경고로 봤다. 이 같은 사고가 실제로 일어났다고 단정한 것이 아니라, 위험을 환기하는 사례로 든 것이다.
AI 출시 전 독립 기관의 안전성 심사 제안
힌턴은 오픈AI의 샘 올트먼(Sam Altman) 최고경영자와 마크 저커버그, 일론 머스크가 위험을 알면서도 돈을 우선한다고 생각한다며 올트먼을 신뢰하지 않는다고 말했다. 그는 미국의 주요 AI 기업들이 중국과의 개발 경쟁 속에서 더 강력한 모델을 잇달아 내놓는 상황을 우려했다. 다만 이는 기업 경영진에 대한 힌턴의 평가이며, 이들이 위험을 알고 있다는 사실이 독립적으로 확인됐다는 뜻은 아니다.
힌턴은 의약품을 심사하는 미국 식품의약국(FDA)과 같은 독립 기관이 AI 모델 출시 전에 안전성과 이익을 보여주는 통계적 근거를 검토해야 한다고 제안했다. 핀란드 대통령과 독일·캐나다·호주·싱가포르 등 32개국이 지지한 프런티어 AI(frontier AI) 모델의 의무 시험, 독립 평가, 국가 간 공통 기준 구상에도 힘을 실었다. 반면 도널드 트럼프 미국 대통령은 국제적 통제 구상을 거부하고 기업의 자율 규제를 선호해, 규제 방식을 둘러싼 입장 차이가 드러났다.
힌턴은 1970년대 신경망 개념을 제시했고 AI 연구에 약 44년간 참여했다. 2023년 구글(Google)을 떠난 뒤에는 AI 위험을 공개적으로 경고해왔다. 그는 자신이 ‘오펜하이머’와 같은 인물로 비치는 데 선을 그으면서도, 위험을 막을 수 있다는 희망은 남아 있다고 말했다. 다만 대응에는 큰 노력이 필요하다고 덧붙였다.
