비영리 연구단체 팔리세이드 리서치(Palisade Research)가 오픈AI(OpenAI)·구글(Google)·앤트로픽(Anthropic)의 전·현직 연구자 등이 참여한 인터뷰 12편을 모아 공개했다. 인터뷰에 참여한 연구자 일부는 초지능 AI가 인류 멸종을 초래할 가능성을 경고했다. IT 전문 매체 더버지는 9월 30일 이 영상을 소개했다.
연구자들이 제시한 인류 멸종 위험
전 오픈AI·구글 딥마인드(Google DeepMind) 직원 제프리 어빙(Geoffrey Irving)은 인터뷰에서 인류 멸종 가능성이 “동전 던지기와 비슷하다”고 말했다. 구글 딥마인드 연구원 닐 난다(Neel Nanda)는 AI가 인류 멸종을 일으킬 가능성이 “적어도 10%”라고 봤다.
전 오픈AI 연구원 대니얼 코코타일로(Daniel Kokotajlo)는 초지능 AI가 “사실상 신과 같은 힘을 지닐 것”이라며, 현재로서는 이를 통제하는 방법을 모른다고 주장했다. 그는 이런 AI가 만들어지도록 허용해서는 안 된다고 말했다.
위험을 경고하면서도 개발에 참여하는 이유
영상에는 AI 연구자들이 위험을 과장하거나 홍보에 활용하는 것 아니냐는 질문과, 위험하다고 보는 기술을 계속 연구하는 이유도 담겼다. 구글의 메리 푸엉(Mary Phuong)은 자신이 연구소에서 보수를 받는 만큼 자신의 말을 의심해야 한다고 말했다.
난다는 자신의 연구가 실존적 위험을 직접 줄인다고 믿지 않았다면 그만뒀을 것이라면서도, 자신이 떠난다고 기업들이 AI 시스템 개발을 멈추지는 않을 것이라고 설명했다. 팔리세이드 리서치는 인터뷰 전체 영상과 여러 연구자의 답변을 주제별로 묶은 영상 구간을 함께 공개했으며, 인터뷰들은 위험 대응을 위한 단일한 해법을 제시하지는 않는다.
