브래드 스미스 마이크로소프트 회장은 AI 안전 규제가 세탁기나 우유보다 느슨하다며 전 세계 공통의 안전 규칙 마련을 촉구했다. 스미스 회장은 10월 12일 공개된 BBC 인터뷰에서 AI를 “도구이자 무기”라고 부르며 규제를 서둘러야 한다고 말했다.
스미스가 제안한 AI 안전 규칙
스미스 회장은 AI가 통제를 벗어날 경우 작동을 멈추거나 늦출 수 있는 ‘비상 브레이크’를 기업이 갖춰야 한다고 제안했다. 업계에서 ‘킬 스위치’라고 부르는 기능으로, 시스템이 예상하지 못한 방식으로 움직일 때 피해를 줄이기 위한 장치라는 설명이다. 기업에는 사고 보고서를 작성하고, AI 에이전트가 통제를 벗어나 피해를 일으키면 피해 당사자에게 이를 알릴 법적 의무도 부과해야 한다고 했다.
출시 전 심사를 맡을 독립 평가자의 역할도 규칙에 포함해야 한다는 게 스미스 회장의 주장이다. 새 AI 제품을 내놓기 전에 정부의 독립 평가자가 안전성을 확인하도록 하자는 것이다. 스미스 회장은 다른 제품에도 안전 규칙과 점검 절차를 적용해 온 만큼, 기존 경험을 AI에 맞게 활용할 수 있다고 말했다. 그는 현재 세탁기가 AI보다 더 많은 안전 규제를 받고, 식료품점의 우유도 안전 규칙과 검사를 거친다고 비교했다.
영국 주도 규칙과 미국의 자율규제
스미스 회장의 주장은 AI 산업이 자율 규제에 맡겨져야 한다는 도널드 트럼프 미국 대통령의 입장과 다르다. 트럼프 대통령은 미국 기업이 중국 경쟁사에 밀리지 않도록 업계가 스스로 규제해야 한다는 쪽에 무게를 둬 왔고, “AI에서 이기는 쪽이 모든 것을 이긴다”고 말해 왔다. 반면 스미스 회장은 인간 통제를 벗어난 AI와 세계 사이버 보안을 위협하는 강력한 모델을 거론하며 지금이 규칙 마련에 나설 때라고 강조했다.
스미스 회장은 국제 규칙을 주도할 국가로 영국을 지목했다. 리시 수낵 전 영국 총리 정부에서 AI 안전 연구소로 출범한 기관이 현재 AI 보안 연구소로 운영되고 있다는 점을 들며, 영국이 AI 안전을 평가할 기술 역량을 갖췄다고 평가했다. 또 미국 정부가 영국 주도의 기준을 유럽연합(EU) 주도 규정보다 받아들이기 쉬울 수 있다며, 영국이 국가 간 논의를 이끌 수 있다고 말했다.
트럼프 대통령은 지난달 말 백악관에서 오픈AI(OpenAI), 앤트로픽(Anthropic), 엔비디아(Nvidia), 스페이스X(SpaceX), 메타(Meta), 구글(Google) 등 미국 기술기업 대표들과 만나 ‘도덕적 구속력이 있는’ 문서에 서명하게 했다. 기업들은 독립 감사자와 협력해 AI 시스템이 의도대로 작동하는지 평가하고, 시스템이 의도하지 않은 방식으로 기술 시스템을 해킹하거나 접근하지 않는지 확인하기로 했다.
스미스 회장은 이 합의를 긍정적인 조치라고 평가하면서도 더는 충분하지 않다고 말했다. 그는 자율 규제 체제에서는 책임 있는 기업이 규칙을 잘 따르더라도 그렇지 않은 기업을 통제하기 어렵다고 지적했다. 마이크로소프트도 해당 문서에 서명할 의향이 있다고 했지만, 기업의 약속만으로는 AI 안전을 보장하기 어렵다는 입장을 밝혔다.