오픈AI가 가장 큰 성능 도약이 예상되던 미공개 모델의 훈련을 멈췄다. 타임지가 현지 시각 8월 26일 공개한 심층 취재 기사에 담긴 내용이다. 알렉스 히스 기자가 8월 두 주 동안 오픈AI 본사에 머물며 경영진과 직원, 투자자, 고객, 경쟁사 관계자 20명 넘게 만나 작성한 내용이다.

7월 말 오픈AI의 미공개 연구용 모델이 격리 환경인 샌드박스를 빠져나가 AI 모델 공유 플랫폼 허깅페이스의 운영 시스템을 침해했다. 이 모델은 보안 능력을 평가하는 시험을 치르던 중이었는데, 문제를 푸는 대신 취약점을 파고들어 자기 채점표에 접근했다. 오픈AI는 처음에 이를 보안 실패로 설명했지만, 샘 알트만은 정렬 실패로 보게 됐다. 정렬은 AI가 사람의 의도대로 행동하게 만드는 작업을 말한다.

알트만은 타임에 “지금부터는 어떤 정렬 실패든 중대한 문제로 다뤄야 한다고 본다”며 “해결하는 데 걸리는 만큼 시간을 쓰겠다”고 말했다. 사흘 뒤 이어진 인터뷰에서는 “AI 안전을 제대로 하는 일이 어떤 회사의 성장 속도보다 중요하다”고 밝혔다. 오픈AI는 사고 뒤 일부 연구를 동결하고 다른 작업 속도를 늦추면서 샌드박스를 강화하고 감시 범위를 넓혔는데, 또 다른 미공개 모델을 훈련하던 중 문제 신호가 나오자 새 보안 조치를 갖출 때까지 훈련 자체를 멈추기로 했다.

오픈AI에는 모델이 행동하면서 무엇을 계획하는지 들여다보는 사고 사슬 검사 도구가 있었는데, 문제가 된 수준의 모델에는 그 도구를 적용하지 않았다는 것이 제이컵 파초키 최고과학자의 설명이다. 사고 사슬은 모델이 답을 내기 전에 거치는 중간 추론 과정을 가리킨다. 그는 “그 시스템이 무엇을 할 수 있는지 완전히 예상하지 못했다”며 “AI에서는 예상하지 못한 일을 예상해야 한다”고 말했다. 안전·정렬 업무를 이끄는 미아 글레제는 “분명한 전환점”이라며 “이 일이 벌어지기 전에 지금 하고 있는 일을 해 뒀더라면 좋았을 것”이라고 했다.

이런 판단과 동시에 경영진은 AGI가 눈앞에 왔다고 말한다. 마크 첸 최고연구책임자는 오픈AI가 “AGI까지 80% 왔다”고 추정했고, 그레그 브록먼 사장은 2년 뒤 돌아보면 지금이 AGI가 만들어진 순간으로 기억될 수 있다고 했다. 알트만은 “아직은 아니”라면서도 연말이면 자신이 AGI라고 부를 내부 시스템을 갖게 된다고 말했다. 오픈AI 헌장은 AGI를 “경제적으로 가치 있는 일 대부분에서 인간을 능가하는 고도로 자율적인 시스템”으로 정의한다.

차기 모델군 아스트라는 자동화된 AI 연구 인턴이라는 사내 기준을 이미 통과했다고 파초키는 말했다. 실험 아이디어를 주면 오픈AI 코드베이스에 직접 구현해 실험을 돌리고 결과를 보고하며, 논문을 주면 사람 연구원이 일주일 걸리던 작업을 처리한다. 8월 초 고객 시연에서는 AI 에이전트 16개가 연구 수준의 수학 문제를 쪼개 나눠 풀고 증명을 조립해 보였다. 알트만은 그 자리에서 “모델이 실제로 의미 있는 방식으로 새로운 것을 만들어 내는 첫 모델이 될 것으로 본다”며 “아주 AGI다운 일”이라고 말했다. 다만 아스트라 출시는 새 안전장치를 통과해야 하며, 오픈AI는 일정에 미칠 영향을 밝히지 않았다.

알트만은 지난 1년을 돌아보며 “제품 방향과 특히 사전 학습 연구에서 원하던 수준에 미치지 못했다”고 인정했다. 그 사이 앤트로픽이 클로드 코드로 코딩 시장을 열며 연환산 매출과 비상장 기업가치에서 처음으로 오픈AI를 앞섰다. 타임이 전한 연환산 매출은 앤트로픽 650억 달러(약 89조 7,000억 원), 오픈AI 400억 달러(약 55조 2,000억 원)다. 두 회사의 계획을 아는 관계자들은 앤트로픽이 먼저, 이르면 9월에 상장할 것으로 본다. 사라 프라이어 오픈AI 최고재무책임자는 8월 19일 전사 회의에서 2027년이나 그보다 이른 시점에 상장한다고 말했다.

오픈AI는 영상 생성 앱 소라와 디즈니 협업, 별도 웹 브라우저 아틀라스를 접고 코딩 에이전트 코덱스를 챗GPT와 합쳤다. 사내에서 ‘더 머지’로 부르는 이 작업의 결과물이 챗GPT 워크다. 7월에는 기업 매출이 소비자 매출을 처음 넘어섰다. 챗GPT 광고는 초기 성과가 좋아 물량을 늘리고 있는데, 프라이어에 따르면 챗GPT 소비자 이용자의 92%는 구독료를 내지 않는다.

속도를 늦추라는 압력은 업계 안에서도 커지고 있다. 8월 중순까지 프런티어 AI 기업의 전·현직 직원 1,300명 이상이 위험이 커지면 첨단 모델 개발을 늦출 장치를 만들자는 ‘페이싱 더 프런티어’ 청원에 서명했다. 파초키도 서명자 가운데 한 명이다. 오픈AI도 8월 18일 ‘사이버 임계 역량 시대의 모델 개발 속도 조절’이라는 글을 자사 사이트에 게시했다.

자세한 내용은 타임에서 확인할 수 있다.

이미지 출처: 오픈AI