한 온라인 기고자가 대규모언어모델(LLM)을 자동화에 불과하다고 규정한 주장에 반박하며, 사용자가 결과를 살피고 수정하는 숙련된 활용도 가능한 도구라고 주장했다. 익명의 기고자는 10월 13일 온라인 기고에서 리치 히키(Rich Hickey)가 제기한 견해를 반박했다.
LLM도 사용자의 판단과 숙련이 필요한 도구
기고자는 톱을 들었다고 곧게 자를 수 있는 것은 아니고 끌을 쥐었다고 조각가가 되는 것도 아니라며, 도구는 사용자의 판단에 따라 좋은 결과와 나쁜 결과를 모두 키울 수 있다고 설명했다. 사용자가 도구를 제대로 활용하려면 작동을 지시하고, 결과를 해석하며, 실수를 알아차리고 바로잡아야 한다는 것이다. LLM을 쓸 때도 어떤 질문을 할지, 어떤 증거를 확인할지, 답변이 틀렸을 때 어떻게 수정할지 판단하는 능력이 필요하다고 덧붙였다.
LLM의 예측 불가능성은 실제 한계지만, 예측 가능성이나 신뢰성, 단순성, 기능의 제한은 도구를 평가하는 기준이지 도구로 인정받기 위한 필수 조건은 아니라는 주장이다. 통제하기 어렵거나 잘못 쓰기 쉽다는 이유만으로 도구의 범주에서 제외할 수는 없다는 설명이다. 기고자는 LLM이 사용자의 지시를 항상 정확히 따르지 못한다는 점은 인정하면서도, 완벽히 따르지 못하는 것이 도구가 아니란 뜻은 아니라고 했다.
자동화와 도구는 서로 배타적이지 않아
기고자는 자동화가 도구의 한 기능일 수 있다며 컴파일러와 스프레드시트를 사례로 들었다. 컴파일러는 프로그래머가 매 단계에 개입하지 않아도 작업을 수행하고, 스프레드시트는 계산을 자동으로 갱신하지만, 사용자는 입력을 정하고 결과를 검토한 뒤 다음 행동을 결정한다. 코드 번역이나 계산의 자동 수행은 도구의 성격을 없애지 않는데, 텍스트 생성만으로 도구가 아니라고 볼 이유가 없다는 논리다.
프로그래머가 익숙하지 않은 코드를 LLM에 설명해 달라고 한 뒤, 설명에 의문을 제기하고 원본 코드를 살피거나 제안된 변경을 시험할 수도 있다고 기고자는 설명했다. 제안이 적절하지 않으면 거부하고 질문을 다듬는 과정에서 사용자가 목적을 유지하며 결과를 확인한다는 것이다. 반면 논문을 직접 읽는 대신 요약만 받아들이면 읽기를 통해 얻을 수 있는 학습 기회를 잃을 수 있다고 지적했다. 다만 논문을 읽으면서 자신의 해석에 질문을 던지거나 반론을 살피는 데 LLM을 쓰는 경우도 있어, 실제로 사람이 어떤 방식으로 활용하는지가 중요하다고 했다.
의인화 표현보다 구체적인 위험을 봐야
기고자는 AI 업계에서 쓰이는 ‘통제를 벗어나다’, ‘격리(containment)를 탈출하다’, ‘공모하다’ 같은 표현이 소프트웨어에 독립된 의도가 있는 듯한 인상을 줄 수 있다고 우려했다. 지시를 따르지 않거나 예상 밖의 출력을 내고, 중요한 행동 권한이 주어졌을 때 피해를 일으키는 것은 실제로 다뤄야 할 공학적 문제지만, 이를 ‘공모’라고 부르면 인간의 동기를 연상시킨다는 설명이다.
기고자가 제안한 구분은 AI 전체를 도구가 아니라고 단정하는 대신, 사용자가 충분한 이해와 감독을 갖고 능숙하게 다루는지, 아니면 이해와 감독 없이 일을 맡기는지 살피는 것이다. LLM 사용이 학습 기회를 줄일 수 있다는 우려는 특정한 활용 방식에 해당하며, 모든 사용이 지적 노력을 대신한다고 볼 수는 없다고 주장했다. LLM이 늘 정확히 따르거나 작동한다는 주장을 하지 않으며, 실패 가능성을 인정한 상태에서도 사용자의 판단과 숙련을 도구 활용의 핵심으로 제시했다.
