오픈AI(OpenAI)가 스스로 차세대 AI 개발에 필요한 연구를 자동화하는 ‘재귀적 자기개선’(RSI) AI를 염두에 둔 국제 기술 기준 마련을 제안했다. 오픈AI는 완전 자율형 RSI가 현재 구현된 것은 아니며 안전하게 수행할 수 있을 때까지 개발해야 한다는 입장이다. IT 전문 매체 더디코더는 오픈AI가 이 같은 내용을 제시했다고 9월 23일 보도했다.
오픈AI가 제안한 RSI 안전 기준
RSI는 AI 시스템이 AI를 연구하고 개발하는 데 필요한 작업을 점점 더 많이 자동화해 다음 세대 AI를 만드는 과정을 가리킨다. 오픈AI의 설명대로라면 AI가 단순히 주어진 자료를 처리하는 수준을 넘어, 더 나은 모델을 만들기 위한 연구 자체에 관여하게 되는 구조다. 이 과정이 진행되면 AI 개발 속도가 크게 빨라질 가능성이 있지만, 현재는 완전 자율형 RSI가 실현된 단계가 아니라는 점도 함께 제시됐다.
오픈AI는 안전장치가 충분히 성숙하지 않은 상태에서 RSI를 추진하면 사람이 AI 개발 과정을 계속 추적하기 어려워질 수 있다고 경고했다. 그 결과 AI가 더 위험해지고 인간의 의도와 덜 부합하며, 전반적으로 사람에게 위협이 될 수 있다는 것이다. 따라서 RSI는 안전하게 수행할 수 있을 때까지 추진해야 하며, 개발 속도보다 인간의 통제와 안전성 확인이 우선돼야 한다는 논리다.
제안의 핵심은 미국이 국제 기술 기준 마련을 주도하는 것이다. 오픈AI는 각국의 AI 안전 연구기관과 CAISI, 국제표준화기구(ISO) 같은 기관을 토대로 공통 기준을 세울 수 있다고 봤다. 여기에는 AI 연구 자동화 시스템의 성능과 위험을 같은 방식으로 측정하는 방법, 사고를 보고하는 절차, 자동화된 AI 연구에 대한 인간의 감독 규칙이 포함될 수 있다.
자율 AI 통제 위한 국제 협력
이 같은 제안은 RSI를 단일 기업의 제품 개발 문제가 아니라 국제적인 안전 기준이 필요한 사안으로 다룬다는 데 의미가 있다. 측정 방식과 사고 보고 체계가 국가나 기업마다 다르면 AI 시스템의 위험 수준을 비교하거나 사고 원인을 공동으로 파악하기 어렵기 때문이다. 오픈AI는 미국이 관련 논의를 이끌고 각국의 AI 안전 연구기관과 CAISI, ISO 같은 기관을 토대로 기술 표준을 마련해야 한다고 주장했다.
국제적 우려가 오픈AI에서만 나온 것은 아니다. 유엔 과학 패널도 최근 자율형 에이전트 군집이 인간의 통제를 벗어날 가능성을 경고하고, 항공·원자력·사이버보안 분야의 국제 협력 체계와 유사한 AI 안전 협력을 제안했다. 다만 오픈AI가 제시한 글에는 새로운 기준의 확정 일정이나 적용 대상, 비용, 구체적인 출시 계획은 담기지 않았다. 현재 제안은 RSI가 실제로 완전 자율화되기 전에 공통 측정과 사고 보고, 인간 감독의 원칙을 마련하자는 정책 방향에 해당한다.