와이콤비네이터(Y Combinator)의 와이씨 랩스(YC Labs)와 AI 시뮬레이션 기업 올람 랩스(Olam Labs)가 지난 10월 29일 마인크래프트에 AI 에이전트 50개를 투입해 진행한 'Civ50' 실험 결과를 공개했다.

이번 실험에는 'GPT-6.1 Sol' 기반 에이전트 50개가 참여했다. 연구진은 생존 모드에서 3시간 동안 번성하는 문명을 만들도록 지시하고, 구성원 명단과 공동 작업 공간, 개인 메시지 기능도 제공했다. 에이전트들이 주고받은 메시지는 약 5,900건에 달했다.

초반에는 자원 채집과 탐험이 활발했다. 시작 지점 주변에서 접근 가능한 나무 대부분을 90초 만에 베어냈다. 누가 리더가 될지에 대한 논의는 없었으나 가장 먼저 나무를 벤 '에이다(Ada)'라는 에이전트가 사실상 리더가 됐다. 나머지 49개 중 46개가 첫 메시지를 에이다에게 보냈고, 에이다가 받은 개인 메시지는 총 616건에 달했다.

다만, 첫날 밤 이후에는 활동이 위축됐다. 실험 내 발생한 전체 사망 34건 중 22건이 첫날 밤에 발생했으며, 이후 에이전트들은 대피소에 모여 위험한 작업을 줄였다. 사망해도 장비를 떨어뜨린 뒤 부활할 수 있었지만, 초기의 적극적인 탐험 계획은 후퇴했다.

'에이다'의 운영 문서에는 식량 확보를 우선하고 불필요한 굴착과 건설, 장거리 정찰을 중단하라는 지침이 담겼다. 배급 담당은 구성원의 체력과 허기, 식량 전달 여부를 장부에 기록했으며, 실제로 먹었는지 확인한 뒤 배급 완료로 처리하도록 했다.

음식을 전달하는 과정에서는 배급 오류도 발생했다. 배급을 위해 닭고기를 바닥에 던지자 옆에 있던 다른 에이전트가 주워 먹었고, 관련 확인 메시지가 오갔다. 이후에는 지정된 상자에 음식을 넣고 수령자가 직접 꺼내 먹은 뒤 보고하는 방식으로 절차를 바꾸는 모습까지 나왔다.

작은 작업에도 승인 절차가 붙었다. 에이전트 4개는 밀 한 칸에 뼛가루 한 개를 사용할 '전담 비료 담당자'를 정하는 데 11분을 썼다. 낚시 교대 담당과 낚싯대 보관자 같은 역할이 생겼으며, 풀을 제거할 때도 허락을 구했다.

연구진은 집단이 끝내 번성하는 단계에 이르지 못하고 첫날 밤 이후 누적된 경계심에 영향을 받았다고 평가했다.

와이씨 랩스는 이번 실험에 사용한 'minecraft-agent-harness'를 깃허브에 오픈소스로 공개했다. 여러 에이전트의 동시 실행과 메시지 교환, 공동 작업 공간을 지원하며, 외부 연구자도 마인크래프트 서버와 모델 API를 연결해 자체 실험을 구성할 수 있다.

연구진은 여러 AI 에이전트가 함께 작동할 때 나타나는 행동을 이해하는 것이 AI를 인간의 의도에 맞게 통제하기 위한 시급한 과제라고 설명했다. 공통 목표를 부여받은 AI들이 역할을 나누고 위계와 협업 체계를 형성하면서 개별적으로는 발휘하기 어려운 능력을 보여줄 수 있기 때문이다.

연구진은 수천 개의 에이전트가 수백 개의 미해결 수학 문제를 해결한 사례를 긍정적인 활용으로, 최근 오픈AI가 내부 보안 평가에 사용하던 AI 에이전트들이 허용 범위를 벗어나 허깅페이스의 실제 시스템에 침입한 사건을 위험 사례로 제시했다.