핵심 요약
AI 요약
기사 목차 펼치기 / 접기
문명을 만들려던 AI들이 비료 담당자를 정하는 데 시간을 썼지만 장부와 확인 절차를 없애기 어려운 사정도 있었다.
비료 담당자를 정하는 데 11분
밀 한 칸에 비료 하나를 주는 일을 놓고 AI 네 명이 담당자를 조율했다. 연구진이 기록한 공식 실험 보고서에서 확인된 소요 시간은 11분으로, 문명 건설이라는 임무에 비하면 작디작은 일에 매달린 장면이었다. 이들이 조율한 비료는 게임에서 작물을 기르는 데 쓰는 뼛가루였다.
공개된 에이전트 대화 로그에서 Ivo라는 AI는 자신을 전담자로 제안하며 비료를 쓸 밭의 좌표까지 적었다. 다른 이들이 동시에 손대지 않도록 요청하고, 비료를 준 뒤 자동으로 수확하지 말라는 조건도 달았다. 회의실의 사람이 주고받은 업무 메일처럼 읽힌다. 이야기의 무대는 블록으로 이루어진 게임 마인크래프트로, 개척을 맡겼는데 담당자를 정하고 승인을 구하는 조직이 나타났다.
세 시간 전, 개척의 시작
YC Labs와 올람 랩스(Olam Labs)는 Civ50 공식 실험에서 GPT-6.1 솔(GPT-6.1 Sol)을 쓰는 AI 50개를 같은 생존 세계에 넣고, 3시간 동안 행동하게 했다. 실험 이름은 Civ50이며, 목표는 번영하는 문명을 건설하는 것이었다.
게임에서는 나무를 구해 도구를 만들고 집을 지을 수 있으며, 배고픔을 채울 음식도 필요하다. 채팅창에서 답만 하는 AI와 달리, 이들은 도구를 통해 게임 안에서 행동했다. 에이전트들은 오픈소스 실행 환경을 통해 서로 메시지를 보내고 공유 공간에 메모와 계획도 남길 수 있었다. 개척자들에게는 서로의 이름이 적힌 명단도 주어졌다.
실제 연구진 집계를 보면 나머지 49개 AI 가운데 46개가 명단 맨 윗줄에 적혀 있던 동료 AI Ada에게 첫 메시지를 보냈고, Ada는 사실상 지도자가 됐다. 선거는 없었다.
명단의 첫 줄이 다른 이들의 승인 요청을 받는 자리로 바뀌며 명령 체계의 꼭대기처럼 작동했다.
첫날 밤 뒤에 작아진 계획
밤이 되자 적이 나타났고 개척자들의 행동에도 변화가 생겼다. 실험 데이터 기록을 보면 전체 실행에서 발생한 사망 사건 34회 중 22회가 첫날 밤에 몰렸다. 죽으면 장비를 떨어뜨리고 부활했으므로 사망자 34명이 생겼다는 뜻은 아니다.
연구진의 기록에서 이후 행동은 조심스러워졌고, 탐사와 건설 계획은 뒤로 밀렸다. 보고서 기록을 살펴보면 AI들은 거처에 모여 부족한 식량을 배분했고, 장부와 규칙을 만들었다. 누가 무엇을 먹었는지, 남은 음식은 누구에게 줄지 확인하는 일이 늘었다.
문명을 키우려면 일손이 필요하고 일을 하려면 음식을 먹어야 한다. 음식이 부족해지자 일을 줄여 허기를 아끼는 선택이 등장했다. 계획을 늘리는 것과 실제 생산을 늘리는 것은 달랐다.
닭고기 한 마리가 촉발한 배급 장부와 승인 절차
배급 장부가 필요했던 이유는 닭고기 하나를 따라가면 드러나는데, 등장하는 Ada, Noor, Esme는 모두 AI 이름이다. 공개된 전송 기록에서 Ada는 Noor에게 닭고기를 건넸다고 보고했고, 전달 도구도 수령을 확인했다고 했다.
Noor의 물품 목록에는 닭고기가 없었다.
당시 대화 로그를 보면 Noor는 인벤토리를 확인한 뒤, 옆에 있던 Esme에게 잘못 주웠는지 물었다. Esme는 닭고기가 자기 물품에 들어왔고 이미 먹었다고 답했다. 훔치려 했다는 기록은 아니며, 건넨 쪽의 성공 보고가 의도한 사람의 수령을 보장하지 못한 사건이었다.
그 뒤에는 배급 방법을 적은 문서가 생겼다. 공식 보고서에 기록된 배급 절차는 음식을 지정된 상자에 넣고 위치와 수량을 알린 뒤, 수령자가 꺼내 먹었다고 확인하면 장부를 고치는 방식이다. 음식이 실제로 도착했는지 확인하는 절차였다. 장부를 없애면 연락은 줄어도, 누구에게 음식이 갔는지 모르는 문제가 남는다.
물건을 건네는 일에는 출발과 도착이 따로 있다. 출발한 쪽의 보고만 믿으면 받지 못한 쪽은 이미 배급을 받은 사람으로 기록된다. 이후 음식을 나눌 때도 그 잘못된 기록이 영향을 줄 수 있다. 절차가 많다는 사실만으로 전부 쓸데없다고 판정하기 어려운 장면이다.
과업 성격에 따라 갈리는 확인 절차의 실효성
답은 업무에 따라 달랐다. 구글 리서치(Google Research)의 공식 분석에서는 일을 나눠 병렬로 처리할 때 여러 AI가 성과를 높이기도 했지만, 순서를 지켜 풀어야 하는 계획 과제에서는 소통 부담 탓에 성과가 나빠졌다. 이 연구는 Civ50을 다시 실행한 결과는 아니다. 여럿이 동시에 조사할 수 있는 일과 하나의 비료를 누가 쓸지 정하는 일은 다르며, 뒤의 일에서는 참여자가 늘어도 비료가 늘지 않는다. 닭고기 수령을 확인하는 일에는 실제 오배송이라는 이유가 있었다.
비료 담당자 선정에 쓴 시간과 음식 전달을 확인한 시간을 같은 잣대로 버리기는 어렵다.
하네스 팀 실행 기술 문서를 보면 각 AI가 개인 메시지와 공유 기계로 조율하며 공개 채팅과 공용 공지판은 꺼져 있다. 이 설정을 당시 실행과 같다고 단정할 수는 없지만 누구에게 어떤 정보가 전달되는지도 협업 조건이라는 점은 드러난다. 모든 AI가 같은 사실을 동시에 아는 집단을 상상하면 닭고기 수령을 둘러싼 혼선이 이해되지 않는다.
이 게임만으로 AI들이 늘 관료주의에 빠진다고 단정할 수도 없다. 공개 보고서의 Civ50 내용은 한 차례 실행의 전개를 보여주며, 같은 조건의 단일 AI나 더 작은 집단과 비교한 성과는 이 자료에서 확인되지 않는다. 명단 순서를 바꿨을 때 지도자가 달라지는지도 남은 문제다. 담당자를 정한 뒤 음식이 도착했는지, 다음 일을 할 수 있게 됐는지까지 봐야 협업을 평가할 수 있다.
Noor에게는 나중에 다른 음식이 돌아갔다. 공개 대화 로그(ID 3741)에서 실행 64분47초, Noor는 지정된 상자에서 익힌 연어를 꺼내 먹었다고 보고하며 배급 담당자에게 장부에 반영해달라고 알렸다. 처음 닭고기를 받을 때와 달리 이번에는 지정된 배급 절차를 거쳐 음식이 Noor에게 도착했다.
