오픈AI가 폴 크리스티아노(Paul Christiano)를 재단 이사회에 임명했다. 그는 재단 이사회 산하 안전·보안 위원회(Safety and Security Committee, SSC)에도 합류한다. 오픈AI가 현지 시각 9월 9일 공식 블로그를 통해 발표했다. 크리스티아노는 오픈AI 그룹 PBC 이사회에서 비투표 옵서버로 활동한다.
크리스티아노는 AI 정렬(alignment) 연구의 선구자로 꼽히는 인물이다. 2017년부터 2021년까지 오픈AI에서 정렬 연구를 이끌었고, 인간 피드백 기반 강화학습(RLHF)의 기초 작업을 수행했다. 이후 비영리 연구기관 얼라인먼트 리서치 센터(ARC)를 설립했다. 현재는 미국 상무부 산하 AI 표준·혁신 센터(CAISI)에서 선임 기술 고문으로 일하고 있다.
오픈AI에 따르면 크리스티아노는 CAISI와 전신인 미국 AI 안전 연구소에서 프런티어 AI 모델 평가 작업을 해왔다. 국가 안보와 관련된 역량 평가와 안전·보안 위험 완화 방안 연구가 주요 업무였다. 오픈AI는 그가 정부 경험과 기술적 판단력을 바탕으로 이사회 감독을 강화할 것이라고 설명했다. 선임 기술 고문으로서 크리스티아노는 오픈AI 관련 사안과 모델 평가에서 기피할 예정이다.
안전·보안 위원회는 오픈AI 전반의 안전과 보안 관행을 감독하는 기구다. 위원장은 지코 콜터(Zico Kolter)가 맡고 있다. 크리스티아노는 위원회에서 콜터와 함께 활동한다. 오픈AI는 이번 임명이 지난해 10월 리캐피탈리제이션으로 마련된 거버넌스 체계를 강화하는 조치라고 설명했다.
브렛 테일러(Bret Taylor) 오픈AI 재단·그룹 PBC 이사회 의장은 크리스티아노가 ‘AI 정렬 분야를 정의해 온 인물’이라고 평가했다. 그는 고도화된 AI 시스템이 치명적 위험을 초래할 가능성을 진지하게 다루는 관점을 가져왔다고 덧붙였다. 크리스티아노는 업계의 안전장치가 충분한지에 대해 독립적인 목소리를 내 온 인물이다.
크리스티아노는 AI 역량이 지난 1년 사이 매우 빠르게 발전했고, 정렬은 여전히 어려운 기술적 문제라고 말했다. 안전·보안 위원회의 책임이 그 어느 때보다 중요해졌다는 설명이다. 그는 위원회 합류를 계기로 안전과 보안 감독에 기술적 관점을 보탤 예정이다.
오픈AI 재단은 AI가 인류 전체에 이익이 되도록 하는 것을 목표로 하는 별도 비영리 조직이다. 재단은 오픈AI 그룹 PBC를 통제하며 지분도 보유하고 있다. 이번 임명은 지난해 캘리포니아와 델라웨어 법무장관의 검토를 거쳐 강화된 거버넌스 체계 위에 이뤄졌다.
자세한 내용은 오픈AI에서 확인할 수 있다.
이미지 출처: 오픈AI
AI Matters 뉴스레터 구독하기
