뉴질랜드 구글 딥마인드(Google DeepMind)의 기술 전문가 로버트 오캘러핸(Robert O’Callahan)이 AI 위험을 우려해 회사를 떠났다. 더디코더는 오캘러핸이 9월 26일 퇴사 이유와 AI 개발에 대한 우려를 밝혔다고 보도했다.
초지능 AI 개발 속도에 문제 제기
오캘러핸은 “AI의 현재 변화 속도는 지나치게 빠르다”고 말했다. 그는 초지능 AI의 위험이 “실재하지만 불확실하다”고 보면서도, 가까운 시일 안에 초지능 AI를 만들려는 목표는 “본질적으로 무책임하다”고 주장했다. 위험이 확정되지 않았다는 점이 개발을 서둘러도 된다는 뜻은 아니라는 입장이다.
그는 AI로 인한 인지 능력의 위축, AI 사용과 관련한 정신증, 외로움, 권력 집중, 경제적 혼란, 사이버 보안 위험과 책임 소재의 불분명함을 우려 요소로 들었다. AI가 가져올 이익보다 해악이 더 클 것이라고 본다는 견해도 밝혔다. 다만 각 위험의 발생 가능성이나 시점을 수치로 제시하지는 않았다.
AI 개발 기여도 정당화하기 어렵다고 판단
오캘러핸은 AI를 더 저렴하고 빠르게 만드는 데 기여한 반도체 설계 도구 개발 업무를 맡아왔다. 그러나 AI 개발의 속도와 잠재적 위험을 고려할 때 더는 그 기여를 정당화할 수 없다고 판단해 퇴사를 택했다는 것이다. 향후에는 “명백히 인간에게 이로운” 일을 하고 싶다고 밝혔다.
그는 구글 딥마인드 동료 상당수도 우려를 공유하지만 공개적으로 말하는 경우는 드물다고 전했다. 이는 오캘러핸이 동료들의 생각을 설명한 것으로, 회사 차원의 공식 입장이나 전체 직원의 의견을 뜻하지는 않는다. 더디코더 보도에는 퇴사 이후 구체적으로 어떤 일을 할지, 초지능 AI 개발과 관련해 어떤 대안을 추진할지에 대한 내용은 담기지 않았다.
오캘러핸은 엘리에저 유드코스키와 네이트 소어스의 책 ‘누군가 그것을 만든다면(If Anyone Builds It)’을 언급했지만, 초지능 AI가 필연적으로 재앙을 부른다는 책의 주장에 동의한다고 밝히지는 않았다. 더디코더는 이 책의 저자들이 효과적 이타주의 운동과 연관돼 있으며, 악시오스(Axios)가 백악관 메모에서 이 운동을 사이비 종교와 유사한 주변 집단으로 묘사하고 앤트로픽(Anthropic) CEO 다리오 아모데이를 AI 파국론의 대표 인물로 비판했다고 전했다.