오픈AI(OpenAI)가 연구용 AI 작업을 추적하고 안전·보안 문제가 생기면 중단하는 중앙 시스템 ‘컨트롤 룸(Control Room)’을 구축했다. 오픈AI는 11월 9일 자사 블로그에서 시스템이 연구 인프라에 이미 적용됐으며, 중단 결정 뒤 최대 35초 안에 모델 출력을 막는다고 밝혔다.
연구용 AI 작업 추적·중단
컨트롤 룸은 모델 학습을 위한 에이전트형(agentic) 샘플링과 평가, 데이터 처리 등 연구 인프라에서 이뤄지는 추론 작업을 추적한다. 연구 작업을 감시하는 모니터링 시스템과 연동돼 잠재적 문제가 감지되면 해당 작업을 중단할 수 있다. 오픈AI는 최근 DNS 관련 사고도 모니터가 포착한 사례로 들었다.
연구자가 작업을 시작하면 작업 코드가 컨트롤 룸에서 작업 식별번호를 받는다. 모델에 토큰 생성을 요청할 때 추론 엔진은 이 식별번호를 컨트롤 룸에 보내 작업이 계속 허용되는지 확인한다. 중단된 작업이면 요청이 거부돼 추가 출력이 차단된다. 하나의 작업이 여러 모델과 엔진을 이용하더라도 같은 식별번호로 통제하는 방식이다.
중단 결정부터 최대 35초
중단 지시를 받은 뒤 모델이 더는 출력을 내지 못할 때까지 걸리는 시간은 최대 35초다. 오픈AI는 이 지연이 필요한 요청량을 처리하기 위한 추론 권한 확인 캐시에서 생긴다며, 지연을 없애 즉시 작업을 끝내는 방향으로 개선 중이라고 설명했다. 따라서 35초는 매번 중단에 걸리는 시간이 아니라 최대 지연 시간이다.
안전장치는 작업 코드가 아니라 추론 계층에 둔다. 연구 작업 코드는 연구자나 연구팀이 운영해 자주 바뀌고 구조도 다양하지만, 추론 경로는 상대적으로 적고 중앙화돼 있어 모든 연구 추론 요청에 권한 확인을 적용하기 적합하다는 설명이다. 컨트롤 룸 서비스가 오류나 조작으로 작동하지 않으면 추론 요청을 모두 거부하는 ‘실패 시 차단’ 방식도 적용했다. 이 설정은 프런티어 모델 연구 작업에 배포됐고, 나머지 연구 작업에는 며칠 안에 적용을 마칠 예정이다.
컨트롤 룸은 현재 안전 필요성이 큰 연구 인프라에 배포됐다. 오픈AI는 외부 모델 제공 체계는 본래 더 중앙화돼 있고, 모델 배포를 신속히 내릴 수 있는 운영 체계를 갖췄다고 밝혔다. 회사는 향후 몇 달 동안 시스템을 강화·확대할 계획이라고 했으며, 컨트롤 룸을 프런티어 모델의 안전한 학습·배포를 위한 여러 조치 중 하나로 설명했다.
