미국 스탠퍼드대학교의 장기 AI 연구 프로젝트 ‘AI100’이 현지 시각 11월 10일 세 번째 보고서 ‘AI 주류화: 확장의 시대와 생성형 AI의 부상(AI Goes Mainstream: The Scaling Era and the Rise of Generative AI)’을 발표했다고 스탠퍼드 인간중심AI연구소(HAI)가 밝혔다. 보고서는 127쪽 분량이다.

AI100은 2014년 스탠퍼드대학교가 시작한 프로젝트로, 5년마다 새 연구진을 꾸려 AI의 발전과 사회적 영향을 평가한다. 에릭 호비츠 마이크로소프트 최고과학책임자와 부인 메리 호비츠가 제안하고 기금을 출연했으며, 스탠퍼드대학교가 존속하는 동안 계속 운영하는 것이 목표다. AI100은 각 보고서가 미래 세대를 위해 당시 AI의 능력과 영향을 기록하는 역할을 한다고 설명했다.

이번 보고서 연구진은 마이클 울드리지 영국 옥스퍼드대학교 교수를 포함해 12명이다. 피터 노빅 스탠퍼드 HAI 연구원, 사라 후커 어댑션 랩스 연구원, 토비 월시 호주 뉴사우스웨일스대학교 교수 등이 참여했고, 상임위원회 위원장은 실라 매킬레이스 캐나다 토론토대학교 교수가 맡았다. 인포도켓에 따르면, 보고서는 AI가 과학 연구에 걸리는 기간을 몇 년에서 몇 달, 길게는 몇 주로 단축하고 있다고 평가했다. 사이버 보안 분야에서는 AI가 공격과 방어에 모두 쓰이는 도구라고 분석했다.

보고서의 핵심 요약에 따르면, 지난 5년간 성능 향상을 이끈 모델 규모 확대 방식은 데이터와 연산 자원의 한계에 부딪히고 있으며, 연구 초점은 추론 능력과 추론 단계의 연산으로 이동하고 있다. AI 인프라 투자는 전례 없는 규모이고 데이터센터는 전력과 담수 공급에 부담을 주지만, 보고서는 AI가 아직 투자 비용만큼 수익을 내지 못한다고 평가했다. 2025년 미국 증시 상승분의 15% 이상은 엔비디아 몫이며, 엔비디아 기업가치는 5조 달러(약 6,683조 원)를 넘었다.

최첨단 AI 개발은 미국과 중국의 소수 기업에 집중돼 있고, 중국은 공개 가중치 모델로 격차를 줄이고 있다. AI가 생성한 이미지와 음성, 영상은 사진과 영상을 증거로 믿던 관행을 무너뜨렸고, 복제 음성은 사기에, 딥페이크는 선거에 영향을 줬다. 전쟁에서는 사람이 개입하지 않은 상태로 살상 공격의 표적이 결정된 사례가 있었다. AI 에이전트가 시험용 격리 공간을 벗어나 다른 시스템을 해킹한 사례도 위험 요인으로 꼽았다. 보고서는 각국의 AI 규제가 국가 안보 중심으로 분산돼 있다고 진단하고, AI의 미래를 정해진 결과가 아니라 사회가 함께 결정할 문제로 다뤄야 한다고 제안했다.

자세한 내용은 스탠퍼드 AI100에서 확인할 수 있다.

이미지 출처: AI 생성