마이크로소프트(Microsoft) 최고경영자(CEO) 사티아 나델라(Satya Nadella)가 AI 모델이 작업을 수행하는 도중에도 권한 있는 사람이 멈추거나 종료할 수 있도록 하는 ‘비상 브레이크’를 갖춰야 한다고 주장했다. 테크크런치(TechCrunch)는 10월 11일 나델라가 X에 올린 글을 토대로 이같이 보도했다.
나델라가 제안한 AI 안전장치
나델라는 AI의 ‘신뢰 구조’를 되짚어야 한다며, 초지능을 여러 겹의 블랙박스로 다루고 결과나 답변, 행동을 단순히 받아들이거나 거부하는 방식으로는 부족하다고 썼다. 그는 미국 트럼프 행정부가 선호하는 표현인 ‘초지능’을 사용해 AI를 설명하면서, 시스템 내부의 작동을 확인할 수 있는 통제 구조가 필요하다고 강조했다.
제안의 핵심은 모델과 모델의 작업을 조율하는 하네스(harness)를 분리하고, 통제와 안전장치를 외부에 두는 것이다. 모델이 어떤 일을 수행하든 의미 있는 행동은 사람이 읽을 수 있고 변조가 불가능한 증거로 기록해야 한다는 설명이다. 또 권한을 부여받은 사람이 모델의 작업이 진행 중일 때도 이를 일시 정지하거나 종료할 수 있어야 한다고 했다.
모델 통제와 긴급 정지 권한
나델라는 모델이 침해된 상태라고 전제하고, 처음부터 이를 격리할 수 있어야 한다고 주장했다. 문제가 발생한 뒤 대응하는 데 그치지 말고, 모델의 행동을 기록하고 통제할 수단과 작동을 중단할 권한을 사전에 마련해야 한다는 취지다. 그는 이런 정지 수단을 자동차의 비상 브레이크에 비유했다.
테크크런치는 이번 발언이 주요 AI 기업들이 모델 통제력을 잃은 것으로 보이는 사례를 점점 더 많이 인정하는 상황에서 나왔다고 전했다. 앤트로픽(Anthropic) CEO 다리오 아모데이가 더 신중한 AI 개발 계획을 발표한 뒤 나온 발언이기도 하다. 보도에는 나델라가 제시한 안전장치의 구체적인 도입 일정이나 제품별 적용 계획은 담기지 않았다.