마이크로소프트(Microsoft) 최고경영자(CEO) 사티아 나델라(Satya Nadella)는 인공지능(AI)이 경제와 정치 구조를 바꿀 수 있으며, 특정 모델의 독점이 허용되면 경제와 민주주의에 위기를 낳을 수 있다고 말했다. IT 전문 매체 더버지(The Verge)는 나델라 CEO가 11월 18일 마이크로소프트 이그나이트 기조연설 뒤 열린 간담회에서 이같이 말했다고 보도했다.
나델라가 말한 AGI와 경제 구조
나델라는 AGI가 경제 전반에서 정치경제의 구성 방식을 어떻게 바꿀지가 중요하다는 취지로 발언했다. 다만 클로드(Claude) 같은 최첨단 모델이 의식을 지녔다고 보지는 않는다고 말했다. 모델을 도덕적 지위를 지닌 존재처럼 대우하거나 권리를 부여해서는 안 된다는 마이크로소프트 AI 최고경영자 무스타파 술레이만의 견해에 공감하면서도, 이 사안은 단정할 문제가 아니라 논쟁할 만한 주제라고 덧붙였다.
그는 AI를 기술기업 간 경쟁으로만 보는 시각은 지나치게 좁다고 지적했다. 모델은 의료·금융 서비스 등 여러 분야에서 사업을 할 수 있고 정부를 장악할 수도 있다며, 한 모델의 독점적 지위가 허용되면 경제가 무너지고 민주주의도 영향을 받을 수 있다고 말했다. 나델라는 모델이 모든 것을 관찰하고 학습해 인적 자본 전체가 토큰 자본으로 바뀐다면 기업과 기업 내 인적 자본의 역할이 무엇인지가 핵심 논쟁이 될 것이라고 했다.
여러 모델과 데이터 통제 강조
나델라는 이그나이트에서 기업 고객이 업무별로 비용 효율적인 모델을 선택하고, 자체 모델을 실행하며, 데이터를 통제할 수 있도록 하는 마이크로소프트의 여러 AI 도구도 홍보했다. 나델라는 경제에 한두 곳이 아니라 여러 기업이 필요하다고 본다면, 어떤 형태로든 기업 수만큼 모델이 있어야 한다고 말했다. 모델 선택권과 데이터 통제를 통해 AI의 통제권이 한곳에 집중되지 않도록 하겠다는 구상이다.
이번 발언에서 나델라가 말한 ‘AGI를 믿는다’는 표현은 모델이 의식을 가졌다는 뜻이 아니라, AGI가 경제와 정치경제에 미칠 변화를 중대하게 본다는 의미다. 그는 모델의 도덕적 지위에 대해서는 확정적인 입장을 내놓지 않았지만, AI가 널리 확산될 수 있도록 경제 구조를 어떻게 만들지가 가장 중요한 사회·기술적 과제라고 강조했다.