대형언어모델은 질문에 맞는 정보를 데이터베이스에서 찾아 답하는 시스템이라기보다, 인간의 뇌처럼 사례를 학습해 답을 만들어 내는 구조에 가깝다는 분석이 나왔다. 해외 연구 매체 더컨버세이션(The Conversation)은 10월 7일 인지과학이 인공지능(AI) 발전에 미친 영향을 짚으며 이런 관점이 AI의 오류와 답변 변동성을 설명한다고 전했다.
규칙 아닌 사례에서 출발한 AI
분석은 AI의 뿌리가 컴퓨터과학뿐 아니라 인간의 마음을 이해하려는 심리학과 인지과학에도 있다고 설명했다. ‘인공지능’이라는 용어는 1956년 다트머스대 워크숍에서 만들어졌고, 당시에는 기계에 적절한 규칙을 입력하면 지능을 구현할 수 있다는 생각이 중심이었다. 그러나 심리학자 프랭크 로젠블랫(Frank Rosenblatt)은 1958년 규칙을 따르는 대신 사례를 통해 학습하는 퍼셉트론을 만들었다. 뇌의 신경 연결을 단순화해 본뜬 인공신경망을 활용한 방식이었다.
이후 심리학자 도널드 헤브(Donald Hebb)가 연구한 신경 연결의 강화 원리는 기계학습의 토대가 됐다. 1980년대에는 인지과학자와 컴퓨터과학자 데이비드 러멜하트(David Rumelhart), 제프리 힌턴(Geoffrey Hinton), 로널드 윌리엄스(Ronald Williams)가 여러 층으로 이뤄진 인공신경망을 학습시키는 방법을 발전시켰다. 이런 다층 신경망은 복잡한 과제를 수행하고, 학습한 내용을 새로운 사례에 적용할 수 있었으며 이후 딥러닝으로 불리게 됐다. 그래픽 칩과 트랜스포머 구조 등 컴퓨팅 기술의 발전은 이런 접근을 대규모로 확장했다.
AI의 오류와 답변 변동성
이 분석은 AI를 데이터베이스처럼 이해하면 허위 답변을 납득하기 어렵다고 지적했다. 데이터베이스가 저장된 답을 찾아 제시한다고 보면 존재하지 않는 답이 나오는 이유를 설명하기 힘들지만, 인간의 기억도 정보를 그대로 꺼내기보다 빈틈을 그럴듯한 내용으로 채우는 재구성 과정이라는 것이다. 심리학자 엘리자베스 로프터스(Elizabeth Loftus)의 연구는 거짓 기억이 생길 수 있고 비교적 쉽게 심어질 수도 있음을 보여줬다. 새로운 질문과 과제에 일반화할 수 있는 능력을 얻는 대가로, 사실이 아닌 내용을 그럴듯하게 만들어 내기 쉽다는 설명이다.
같은 질문에 답이 달라지거나 질문의 표현에 따라 원하는 방향의 답을 얻는 현상도 확률적으로 작동하는 특성과 관련이 있다. 분석은 이를 계산기처럼 결정론적으로 작동하는 방식이 아니라 인간 기억처럼 확률적인 과정에 빗댔다. 다만 AI가 실제로 인간처럼 생각한다는 뜻은 아니라고 선을 그었다. 사람과 AI는 대상을 다르게 인식할 수 있으며, 컴퓨터 비전은 사람이 놓치는 미세한 이상을 찾는 한편 훼손된 도로 표지판을 잘못 해석할 수도 있다.
AI를 뇌에 비유하는 관점은 기능과 한계를 함께 이해하는 데 도움을 줄 수 있다는 게 분석의 결론이다. 데이터베이스처럼 언제나 정확한 답을 꺼내는 시스템으로 여길 경우 결과를 지나치게 신뢰하거나 오류를 예상하지 못할 수 있다. 반대로 사례를 학습해 새 질문에 일반화하는 시스템으로 보면 답변의 불확실성과 오류 가능성을 고려하게 된다. 분석은 기술의 기원을 이해하는 일이 AI가 무엇을 할 수 있고 어떤 한계를 지니는지 판단하는 데 중요하다고 설명했다.