리치 히키(Rich Hickey)는 대규모언어모델(LLM)을 도구가 아니라 자동화라고 주장했다. 히키는 10월 13일 링크드인(LinkedIn)에 올린 LLM은 사용자가 직접 조종하는 도구와 달리 요청을 받은 뒤 스스로 작동한다고 설명했다.
히키가 말하는 도구와 자동화의 차이
히키는 도구를 사람이 손에 쥐고 의도에 따라 다루는 물건으로 정의했다. 도구를 사용하면 힘과 에너지를 전달하고, 동작을 제어하며, 작업 과정에서 감각적 피드백을 받는다. 이런 상호작용은 사용자가 작업의 원리와 상황을 익히고 기술을 쌓는 과정과 맞물린다는 설명이다. 유용하다는 이유만으로 도구라고 부르면 도구의 의미가 지나치게 넓어진다고도 지적했다.
그는 좋은 도구가 예측 가능하고 신뢰할 수 있으며, 기능 범위가 제한돼 있고 단순한 특성을 지닌다고 봤다. 반면 LLM을 쓸 때는 사용자가 동작을 계속 지시하거나 감각적 피드백을 받지 않는다는 것이다. 사용자는 요청을 입력하고 결과를 받으며, 히키는 이 과정을 도구를 휘두르는 일이 아니라 자동화에 맡기는 일이라고 구분했다. 자동화는 사람의 직접적인 통제가 거의 없이 기기나 과정이 작동하는 것이라고 설명했다.
글쓰기·코딩을 맡길 때 잃는 것
히키는 LLM이 코드를 쓰는 도구라기보다 사용자가 직접 코드를 작성하지 않도록 하는 자동화라고 주장했다. 연구 논문을 요약하는 경우에도 사용자가 논문을 읽는 것이 아니라 LLM이 읽는 것이라며, 이를 전자책 단말기로 직접 읽는 상황과 구별했다. 직접 읽지 않으면 글쓰기 방식과 논증을 구성하는 법을 배우거나, 저자의 신뢰성을 판단하고 새로운 생각의 재료를 얻는 기회를 놓칠 수 있다고 적었다.
자동화 사용자는 작업 대상의 원리를 익히기보다 자동화 시스템의 작동 방식에 맞추려 들 수 있다는 게 히키의 주장이다. 그는 패스트푸드점에서 갓 만든 햄버거를 받으려고 양파를 빼 달라고 주문하는 사례를 들었다. 소프트웨어를 쓸 때도 특정한 지시문을 문서에 넣는 식으로 모델의 반응을 유도할 수 있지만, 업데이트로 알고리즘이 바뀌면 그동안 익힌 요령이 쓸모없어질 수 있다고 봤다.
히키는 도구와 자동화를 단순히 ‘유용한 것’이라는 이유로 같은 범주에 넣어서는 안 된다고 강조했다. 자동화에는 도구와 다른 속성이 있으며, LLM은 도구처럼 사용자가 작업을 계속 통제하는 방식으로 작동하지 않는다는 것이다. 그는 도구는 ‘잘못 정렬되거나’, ‘통제를 벗어나거나’, 격리(containment)를 탈출하거나 음모를 꾸미지 않는다고 적었다.