오픈AI(OpenAI)가 고성능 AI 모델의 심각한 위험을 평가하던 전담 조직을 해체한 것으로 전해졌다. 더버지(The Verge)가 인용한 보도에 따르면 이 대비팀(Preparedness)은 7월 말 해산됐고, 생물·사이버 보안 같은 세부 영역은 다른 팀으로 나뉘어 넘어갔다.

팀을 이끌던 딜런 스칸디나로는 앞으로 스스로 능력을 키우는 재귀적 자기개선 AI의 함의를 살피는 쪽으로 방향을 옮기는 것으로 알려졌다. 이번 개편은 오픈AI 안전 조직이 다시 한번 흔들리는 흐름 속에서 나왔다.

앞서 초정렬(superalignment)과 AGI 대비를 맡던 조직도 해체되거나 재편됐고, 저명한 안전·연구 인력 여러 명이 회사를 떠났다. 대비 업무를 개별 사업팀으로 분산하는 것이 반드시 위험 평가를 포기한다는 뜻은 아니라는 시각도 있다. 분산된 책임이 오히려 안전 작업을 제품을 만드는 팀에 더 가깝게 붙일 수 있다는 것이다.

그럼에도 이번 결정은 논란을 부를 수밖에 없다. 프런티어 모델이 코딩과 사이버 작전, 생물학 연구, 자율 작업에서 점점 유능해지는 가운데, 오픈AI는 기업공개(IPO)를 준비하고 있기 때문이다.

오픈AI는 대비팀을 없애는 대신 위험 평가 책임을 여러 팀에 나눠 맡겼다. 안전을 제품 개발에 더 밀착시키려는 시도라는 해석도 있지만, 독립적인 감시 기능이 약해질 수 있다는 우려가 동시에 제기된다.

오픈AI의 안전 조직 개편은 이번이 처음이 아니어서, 회사의 위험 관리 방식이 일관되지 않다는 지적을 피하기 어렵다. 기업공개를 앞둔 시점이라는 점도 이번 결정을 향한 시장의 관심을 키우고 있다.

이런 위험을 어떻게 관리하느냐는 이제 규제 당국에 모델 성능 못지않게 중요한 사안이 됐다. 전담 독립 조직과 제품·연구팀 가운데 누가 안전을 책임져야 하는지를 두고 근본적인 물음이 남는다. 안전과 속도 사이에서 오픈AI가 택하는 균형점은 다른 프런티어 기업에도 기준점이 될 수 있다.

자세한 내용은 더버지에서 확인할 수 있다.

이미지 출처: AI 생성 이미지