오픈AI가 인공지능 모델의 급격한 발전에 따른 위험에 대응하기 위해 '대비책임자(Head of Preparedness)' 채용에 나섰다. 샘 알트만(Sam Altman) 오픈AI CEO는 27일(현지 시각) 자신의 X 계정을 통해 "지금은 중요한 시기이며, 이 역할은 매우 핵심적"이라며 채용 소식을 알렸다. 그는 "AI 모델이 빠르게 발전하면서 많은 훌륭한 일을 해내고 있지만, 동시에 실질적인 도전 과제도 나타나기 시작했다"고 밝혔다.

알트만은 구체적인 우려 사항도 언급했다. 그는 "AI 모델이 정신건강에 미치는 잠재적 영향은 2025년에 이미 맛보기로 경험했다"며 "이제 모델들이 컴퓨터 보안 분야에서 너무 뛰어나져서 심각한 취약점을 찾아내기 시작했다"고 설명했다.

오픈AI는 그동안 AI 역량 성장을 측정하는 탄탄한 기반을 구축해 왔다. 하지만 알트만은 "이제 이런 역량이 어떻게 악용될 수 있는지, 그리고 제품과 세상에서 부작용을 어떻게 제한할 수 있는지에 대해 더 섬세한 이해와 측정이 필요한 시대에 접어들었다"고 강조했다. 그러면서 "이런 질문들은 어렵고 선례도 거의 없다"며 "좋아 보이는 아이디어도 실제로는 까다로운 예외 상황이 있다"고 덧붙였다.

새로운 대비 책임자가 맡을 업무도 구체적으로 제시됐다. 사이버보안 방어자들에게 최첨단 역량을 제공하면서도 공격자들이 이를 악용하지 못하게 하는 방법, 생물학적 역량의 공개 방식, 그리고 자기 개선이 가능한 시스템의 안전성 확보 등이 주요 과제다. 알트만은 "이상적으로는 모든 시스템을 더 안전하게 만드는 것이 목표"라고 밝혔다. 다만 알트만은 이 직책이 만만치 않을 것임을 분명히 했다. 그는 "스트레스가 많은 자리가 될 것이고, 거의 즉시 깊은 곳에 뛰어들게 될 것"이라고 경고했다.

해당 공고에 대한 자세한 사항은 샘 알트만 X에서 확인 가능하다.

이미지 출처: 오픈AI