필즈 메달리스트 야콥 침머먼이 오픈AI에 합류해 AI 안전 분야에서 일한다. 더디코더(The Decoder)는 8월 8일 보도에서 침머먼이 토론토대 수학자로, 최근 필즈 메달을 받았고 AI가 사회를 크게 바꿀 기술인 만큼 안전에 더 많은 노력이 필요하다고 말했다고 전했다. 그는 수학자들이 AI를 이해하는 데 기여할 수 있으며, AI는 현재도 주로 경험적 방식으로 작동해 실제 동작을 보장하는 장치가 적다고 주장했다. 침머먼은 지난해 ‘옴니사이드 이벤트(omnicide events)’를 다룬 논문도 공개했으며, AI가 인간 멸종에 기여할 수 있는 시나리오를 제시했다고 더디코더는 전했다. 그는 공황이 해답은 아니지만 위험을 정직하게 평가해야 한다고 말했다. 더디코더는 데미스 하사비스(Demis Hassabis) 전 딥마인드(DeepMind) 최고경영자(CEO)가 최신 수학 성과를 진전으로 보되 ‘알파고’의 ‘무브 37’ 같은 근본적 돌파구는 아직 아니라고 평가했다고 덧붙였다. 하사비스는 밀레니엄 문제처럼 더 어려운 과제를 AI가 풀 수 있을지에 대해 “안 될 이유가 보이지 않는다”고 말했다고 전했다. 오픈AI의 새 모델 ‘애스트라(Astra)’도 밀레니엄 문제 급 난제에서는 실패했지만, 시간이 지나면 가능할 수 있다는 취지다.
