구글과 구글 딥마인드 연구진이 인공일반지능(AGI)을 둘러싼 논의를 넓히기 위한 딥마인드 연구소를 출범시켰다. 연구소는 AGI의 경제·안전·평가 기준을 다룬 4편의 글을 공개하고, 프런티어 AI 모델에 대한 외부 평가와 투명성 확보 방안을 제시했다.
테크크런치에 따르면 구글과 구글 딥마인드 연구진은 수요일 연구소를 출범시켰다. 딥마인드 공동창업자 샤인 레그(Shane Legg), 구글 임원 제임스 마니카(James Manyika), 구글 딥마인드 회장인 데미스 허사비스(Demis Hassabis)가 이사로 참여하며, 레그는 편집 책임자를 맡는다.
AGI 논의와 첫 연구 주제
연구소는 구글과 구글 딥마인드 내부의 견해뿐 아니라 전 세계 연구 공동체의 서로 다른 관점을 드러내는 것을 목표로 한다. 연구소 설립 발표문은 AGI를 둘러싼 관계자들이 항상 같은 의견을 내지는 않으며, 빠르게 변화하는 프런티어 AI 분야에서 새로운 데이터와 정보가 쌓이면 기존 입장을 바꿀 수도 있다고 설명했다. 첫 공개 자료는 잠재적인 AGI 충격에 대응하기 위한 경제 정책, 사람이 읽을 수 있는 모델 추론 과정의 보존, 인간의 번영을 위한 원칙, 프런티어 AI 모델 평가 체계 등 4개 주제를 다룬다.
딥마인드 안전 연구자인 로힌 샤(Rohin Shah)와 안카 드라간(Anca Dragan)은 모델의 단계별 추론을 사람이 확인할 수 있는 투명성의 범위가 줄어드는 현상이 불가피하지 않다고 주장했다. 새로운 구조를 적용한 고성능 모델일수록 내부 작동을 감시하기 어려워질 수 있는 만큼, 개발자와 규제 당국이 안전성과 투명성 사이의 절충 문제를 직접 다뤄야 한다는 취지다. 연구진은 모델이 읽을 수 있는 추론 기록을 내놓지 않은 채 수행할 수 있는 순차 계산량인 ‘불투명한 직렬 깊이’를 제한하거나, 투명성이 낮은 시스템도 같은 수준으로 감시할 수 있음을 개발자가 입증하는 방안을 제시했다.
프런티어 AI 외부 평가 제안
허사비스는 가장 앞선 AI 모델을 평가하는 미국 주도 표준 기구를 제안했다. 그의 구상에 따르면 개발사는 출시 최대 30일 전에 모델을 자발적으로 제출해 평가받고, 평가 체계가 효과적인 것으로 확인되면 미국에서 프런티어 모델을 배치하기 위한 요건으로 평가 통과를 요구할 수 있다. 초기에는 AI 기업들과 협의해 평가 항목을 설계하지만, 이후에는 기업이 사전에 답을 맞출 수 없도록 공개되지 않은 독립 평가인 ‘보류형 테스트’를 개발한다는 계획이다.
허사비스는 안전 상황의 심각성에 따라 이 체계를 단계적으로 강화할 수 있다고 설명했다. 필요할 경우 프런티어 AI 개발사들이 공동으로 개발 속도를 늦추는 방안도 포함될 수 있다는 것이다. 이번 연구소의 글들은 AI 안전 논의가 막연한 우려를 밝히는 단계에서 벗어나 정보 공개, 외부 검증, 안전장치가 뒤처질 경우의 공동 속도 조절처럼 구체적인 제안을 검토하는 방향으로 이동하고 있음을 보여준다. 테크크런치는 이런 변화가 앤트로픽 최고경영자 다리오 아모데이(Dario Amodei)의 프런티어 AI 개발 속도 조절 요구에 업계 지도자들이 일부 호응한 시점에 나타났다고 전했다.