구글 딥마인드 공동 창업자이자 수석 AGI 과학자인 셰인 레그(Shane Legg)를 비롯한 연구진 14명이 인간 수준의 범용 인공지능(AGI) 이후 AI가 어떻게 발전할 수 있는지 분석한 보고서 ‘AGI에서 ASI로(From AGI to ASI)’를 공개했다. 6월 논문 공개 사이트 아카이브(arXiv)에 처음 게재된 보고서는 8월과 11월 10일 두 차례 개정됐다. 강화학습 이론가 마커스 허터(Marcus Hutter) 호주국립대 교수, 앨런 데포(Allan Dafoe), 이아손 가브리엘(Iason Gabriel) 등이 공동 저자로 참여했다.
연구진은 AGI에서 인공 일반 초지능(ASI)으로 넘어가는 과정을 집중적으로 분석했다. 결론에서는 “향후 10~20년 안에 AGI를 지나 ASI 영역에 들어설 가능성을 쉽게 배제할 수 없다”고 밝혔다. 또 AI 발전이 계속 가속할 수 있어 한 번의 거대한 전환보다 연속된 전환을 예상하는 편이 더 적절하며, 이에 대비하려면 여러 학문 분야가 참여하는 국제적 노력이 필요하다고 강조했다.
AGI와 ASI, 어떻게 구분하나
보고서는 AGI를 대부분의 인지 작업에서 인간 중앙값 수준의 성능을 내는 시스템으로 규정했다. ASI는 사실상 모든 작업에서 인간보다 뛰어나고, 대규모 인간 전문가 집단의 능력까지 앞서는 시스템을 뜻한다. 연구진은 기계 지능을 하나의 연속선으로 보고, 그 끝에 이론적 모델인 ‘범용 AI(UAI)’를 두었다. 범용 AI의 대표 모델은 허터 교수가 제안한 AIXI로, 계산 가능한 모든 과제에서의 평균 성능을 뜻하는 ‘레그-허터 점수’를 최대화한다. 다만 AIXI는 실제로 계산할 수 없어 근사만 가능하다.
연구진은 AI가 사람에게 없는 디지털 이점을 가진다고 설명했다. 입출력 속도와 내부 처리 속도, 작업 기억 용량이 사람보다 크고, 특정 하드웨어에 묶이지 않는다. 손실 없이 복제할 수 있고, 학습 경험을 높은 대역폭으로 다른 인스턴스와 공유할 수 있다.
유효 컴퓨팅, 해마다 10배씩 증가
보고서는 AI 발전 속도를 가늠하는 기준으로 ‘유효 컴퓨팅’을 제시했다. 유효 컴퓨팅은 하드웨어 성능, 투자 규모, 알고리즘 효율을 함께 반영한 실질 연산 능력을 말한다. 연구진은 세 요소를 곱해 유효 컴퓨팅이 연간 약 10배 증가한다고 추정했다.
| 요소 | 연간 증가 폭 | 근거 |
|---|---|---|
| 하드웨어 가격 대비 성능 | 약 1.5배 | 무어의 법칙 |
| 하드웨어 투자 | 약 2.5배 | 업계 투자 추세 |
| 알고리즘 효율 | 약 3배 | 에르딜과 베시로글루(2022) |
| 유효 컴퓨팅 합계 | 약 10배 | 1.5×2.5×3=11.25를 내림 |
알고리즘 효율을 연 6배로 추정한 호 등(2025)의 연구도 함께 인용했다. 이 추세가 이어지면 2020년대 말까지 유효 컴퓨팅이 약 1000배 커진다. 추론 비용은 연간 약 4배씩 떨어져 10년이면 약 100만 분의 1 수준이 된다. 연구진은 지금 10억 달러(약 1조 3349억 원)가 드는 연산이 6년 뒤에는 약 25만 달러(약 3억 3372만 원)면 가능하다고 계산했다.
초지능에 이르는 4개 경로
첫째 경로인 규모 확장과 관련해 연구진은 앞으로 수년 동안 유효 컴퓨팅과 모델 크기를 몇 자릿수 더 키울 수 있다고 봤다. 인간 수준 AI를 수백만, 수십억 개 인스턴스로 복제해 사람보다 몇 자릿수 빠르게 실행할 수 있다면 그 자체가 큰 변화가 될 수 있다는 판단이다.
둘째 경로인 알고리즘 패러다임 전환은 현재의 사전학습, 미세조정, 추론 시간 확장 방식과 다른 새 패러다임이 등장해 발전 속도를 크게 바꿀 수 있다는 시나리오다. 연구진은 실제 전환이 일어난 이후의 전개는 예측하기 매우 어렵다고 설명했다.
셋째 경로인 다중 에이전트 집단은 초지능이 단일 모델이 아니라 수많은 AI 에이전트의 협력에서 나타날 수 있다는 시나리오다. 분산형은 ‘가상 에이전트 경제’처럼 각 에이전트가 자기 인센티브에 따라 내린 결정이 모여 더 높은 수준의 지능으로 발전하는 방식이다. 중앙형은 에이전트들이 매우 높은 대역폭으로 통신하며 대규모 집단을 하나처럼 조율하는 방식이다.
넷째 경로인 재귀적 자기 개선은 AI가 스스로를 개선하는 과정을 반복하며 능력을 키우는 방식이다. 보고서는 체스, 쇼기, 바둑에서 스스로 학습해 초인적 수준에 도달한 알파제로, 대규모 언어모델 기반 프로그램 탐색으로 새로운 수학적 구성과 알고리즘을 찾아낸 펀서치와 알파이볼브를 사례로 들었다.
보고서는 AI 연구자 규모 확장을 주요 변수로 제시하며 블룸 등(2020)의 연구를 인용했다. 이 연구에서 무어의 법칙을 유지하려면 1970년대보다 약 18배 많은 연구자가 필요하다. 연구진은 유효 컴퓨팅이 연 10배씩 증가하면 1년 남짓 뒤에는 같은 비용으로 18배 많은 AI 연구자를 운영할 수 있다고 계산했다. 맥어스킬과 무어하우스(2025)는 AI ‘인구’가 연간 약 25배 증가할 수 있다고 추정했다.
초지능을 늦출 수 있는 7개 병목
보고서는 AGI에서 ASI로 넘어가는 과정을 늦출 수 있는 병목 7개를 제시했다. 데이터 장벽, 경제와 자연 자원 수요의 급증, 신경망 패러다임의 한계, 연구 난도 상승, 추상화 장벽, 평가 문제, 의도적 감속이다.
데이터 장벽은 학습에 쓸 고품질 텍스트가 바닥나는 문제다. 빌라로보스 등(2024)은 고품질 텍스트가 2020년대 안에 고갈될 수 있다고 추정했다. 연구 난도 상승은 같은 성과를 얻는 데 갈수록 더 많은 연구 인력이 필요해지는 현상을 가리킨다. 의도적 감속은 규제, 거버넌스, 사회적 반발이 AI 성능 향상을 의도적으로 늦추거나 상한을 두는 경우다. 연구진은 이런 병목이 미미할지, 결정적일지 아직 알 수 없으며 이를 밝히는 작업이 중요한 연구 과제라고 밝혔다.
보고서의 한계와 연구 과제
연구진은 경로와 병목에 대한 분석이 불완전할 가능성이 높고, 전망 전반에 불확실성이 크다고 인정했다. 보고서는 AI 정렬 문제가 충분히 해결됐다고 가정하고 논의를 진행해, 안전과 사회문화적 쟁점은 분석 범위에서 제외했다. 정렬은 AI가 사람의 의도와 가치에 맞게 행동하도록 하는 연구 분야다.
결론에서 연구진은 AI 발전이 AGI에 이르기 전에 정체하거나, AGI에서 약한 수준의 ASI로 비교적 완만하게 넘어갈 가능성이 더 높다고 봤다. 다만 이 판단에 대한 확신은 낮으며, 지능 폭발 가능성도 배제할 수 없다고 설명했다. 후속 과제로는 병목에 대한 정량 예측, 다중 에이전트 제로섬 게임과 압축 벤치마크를 활용한 ASI 평가 방법, 다중 에이전트 스케일링 법칙, 의도적 감속을 과세와 금지 중 어떤 방식으로 실행할지에 대한 연구를 제안했다.
보고서 말미의 AI 사용 고지에서 연구진은 문서의 90% 이상을 사람이 작성했고, 언어모델은 일부 문단 다듬기와 참고문헌 정돈, 모의 심사 등 10% 미만에 사용했다고 밝혔다.
자세한 내용은 아카이브에서 확인할 수 있다.
▶︎ 관련 기사: 구글 딥마인드 AGI 경제학, 모든 전문가를 이기는 AI도 협업 못 하면 경제는 그대로
▶︎ 관련 기사: 구글 딥마인드 긴급 보고서… “AI들끼리 협력하는 순간, AGI 탄생할 수 있다”
AI Matters 뉴스레터 구독하기




에