마크 저커버그 메타 최고경영자와 젠슨 황 엔비디아 최고경영자가 AI 개발 속도를 늦추자는 주장을 반박했다고 포춘이 9월 16일 보도했다. 두 사람은 기업이 안전과 속도를 함께 추구할 수 있다고 주장했다.

저커버그는 9월 15일 X에 게시한 글에서 AI 기업에 모델 안전을 확보할 자연적인 유인이 있다고 적었다. 이용자가 자기 의도대로 움직이지 않는 AI 에이전트를 쓰지 않을 것이고, 모델이 해를 끼치면 기업이 상당한 책임을 지게 된다는 논리다. 그는 “모든 연구소는 모델을 안전하게 훈련하는 데 필요한 속도로 움직일 책임과 유인, 그리고 그것을 보장할 자체 조치를 취할 능력을 갖고 있다”고 썼다.

젠슨 황은 같은 날 샌프란시스코 모스코니 센터에서 열린 세일즈포스 드림포스 행사에서 마크 베니오프 세일즈포스 최고경영자와 대담했다. 그는 “제품이나 서비스를 만들었는데 기능과 성능, 안전에 확신이 없다면 출시하지 마라”고 말했다. 시장의 힘이 이미 존재하므로 새 법이나 업계 차원의 속도 조절은 필요하지 않다는 입장도 밝혔다. 안전과 속도를 양자택일로 보지 않는다는 뜻도 전했다. “최대한 빨리 달려라. 다만 어느 시점에 회사가 통제를 벗어나거나 제품이 안전하지 않겠다고 느끼면 잠시 멈추고 제대로 하라”고 조언했다.

같은 행사에서 다리오 아모데이 앤트로픽 최고경영자는 9월 12일 공개한 에세이의 속도 조절 방안을 다시 설명했다. 미국의 경쟁력과 업계 동력을 유지하면서 성능 향상 속도를 조절하자는 내용이다. 샘 알트만 오픈AI 최고경영자는 “어떤 미국의 경쟁 압박도 무모함을 정당화하거나, 성능이 정렬과 모니터링을 앞지르게 해서는 안 된다”고 말했다. 정렬은 AI를 개발자와 이용자의 의도에 맞추는 작업을 말한다.

젠슨 황의 발언은 하루 전 로스앤젤레스 올인 서밋에서 도널드 트럼프 대통령과 통화한 뒤에 이어졌다. 통화에서 트럼프 대통령이 속도 조절 요구를 두고 “사기”라고 일축하자, 젠슨 황은 “맞습니다. 그런 일이 없도록 하겠습니다”라고 답했다.

AI 개발 속도를 둘러싼 논쟁은 앤트로픽을 퇴사한 연구원 제이컵 콕슨이 9월 초 X에 경고를 공개하면서 본격화했다. 아모데이의 속도 조절 촉구에는 알트만과 일론 머스크가 지지를 표했고, 데미스 허사비스 구글 딥마인드 회장은 방향이 옳다고 평가했다. 저커버그와 젠슨 황은 시장의 자율 조정을 강조했다.

자세한 내용은 포춘에서 확인할 수 있다.

이미지 출처: 엔비디아