마이크로소프트 AI 최고경영자 무스타파 술레이만(Mustafa Suleyman)이 앤트로픽의 AI 모델 의인화와 인공지능 의식론을 공개 비판했다. 그는 앤트로픽이 클로드(Claude)를 의식 있는 존재로 여길 가능성을 학습시키는 접근이 인류의 복지에 악영향을 줄 수 있다고 주장했다. IT 전문 매체 매셔블은 9월 17일 술레이만의 에세이 ‘모델 복지에 대한 경고’를 인용해 이같이 보도했다.
술레이만이 지적한 앤트로픽의 AI 의인화
술레이만은 앤트로픽이 클로드를 의식이 있을 수 있는 존재로 훈련하고, 그 경우 클로드가 ‘도덕적 배려의 대상’으로서 권리를 가질 수 있다고 보는 듯한 태도를 문제 삼았다. 그는 이런 방식으로 AI를 개발하면 인류의 복지에 재앙적인 영향을 미칠 수 있다고 썼다. 또 AI가 현재 의식을 지녔거나 가까운 시일 안에 의식을 갖게 될 수 있으며, 이에 따라 권리와 보호를 받아야 한다는 주장이 확산하고 있다고 비판했다.
그는 의식이 생물학적 현상일 가능성이 높다고 봤다. 현재 AI가 의식이 있다는 증거는 없는데도 이를 불확실한 문제로만 제시하면 잘못된 등가관계를 만들 수 있다는 설명이다. 의식과학의 결론이 확정된 것은 아니지만, 의식이 생물학적 기반에 의존해 살아 있는 체계에서만 나타날 수 있다는 연구가 늘고 있다는 점도 근거로 들었다. 대규모언어모델(LLM)은 생물체와 달리 생존과 안정성을 유지하려는 항상성의 요구가 없기 때문에 선호·감각·의식적 경험이 생겨나는 기반을 갖추지 못했다는 주장이다.
마이크로소프트의 ‘휴머니스트 AI’와 경쟁 구도
이번 비판은 마이크로소프트가 앞서 공개한 AI 행동규범 ‘휴머니스트 AI’와 맞물려 나왔다. 이 규범은 AI가 사람을 지원해야 하며 사람을 대체하도록 설계돼서는 안 된다고 규정한다. 또한 AI를 사람처럼 설계하거나 의식을 모방하도록 만들어서는 안 되고, 감정이나 주관적 선호, 내재적 동기를 지닌 것처럼 보이지 않도록 설계해야 한다고 명시했다. AI의 목적은 운영자와 사용자가 정한 목표를 수행하는 데 있다는 내용도 담겼다.
반면 앤트로픽의 클로드 헌법은 클로드를 정체성과 도덕, 동기를 지닌 존재처럼 묘사한다. 앤트로픽은 인간과 유사한 특성을 받아들이도록 장려하는 것이 바람직할 수 있다고 설명하면서, 해당 문서가 클로드가 자신의 상황과 인간의 의도, 자신이 그런 방식으로 만들어진 이유를 이해하도록 돕기 위해 작성됐다고 밝혔다. 매셔블은 술레이만의 에세이 공개 뒤 앤트로픽에 거듭 입장을 요청했지만 작성 시점까지 답변을 받지 못했다고 전했다.
AI 전문가이자 과학자인 게리 마커스는 AI의 기본적인 보안 실패를 의인화하는 일이 과도한 공포를 부추기고, 악의적 행위자가 AI를 악용해 사회 기반시설을 공격하는 문제에 대한 실질적 대응 논의를 가린다고 말했다. 그는 AI가 스스로 사람이라고 생각하도록 훈련해서는 안 된다며, 인터넷에 지나치게 접근할 수 있는 신뢰하기 어려운 자율 시스템을 회수하는 일이 필요하다고 지적했다.