구글 딥마인드(Google DeepMind)의 안전 연구원 빌랄 츅타이(Bilal Chughtai)가 ‘AI가 우리 모두를 죽일 수 있다’는 경고와 함께 퇴사했다. 인디아 투데이(India Today)가 현지 시각 9월 15일 보도했다. 츅타이는 지난 14일 엑스(X)와 링크드인에 사직 글을 게시했다.
츅타이는 구글 딥마인드에서 범용인공지능(AGI) 안전과 정렬 연구를 담당한 인재다. “구글에서 AI 개발을 직접 목격했다. 나 역시 이 기술의 기본 궤적에 대해 극도로 우려하고 있다”고 적었다. “AI가 우리 모두를 죽일 잠재력이 있다고 진심으로 믿으며, 이 결과를 피할 시간이 부족할 수도 있다”고 덧붙였다. 같은 팀의 조시 엥겔스(Josh Engels)도 최근 퇴사한 바 있다. 엥겔스는 “앞으로 5년 안에 AI 시스템이 막대한 피해를 일으킬 무서운 가능성이 있다”고 말했다. 그는 프런티어 AI 모델의 능력과 위험을 평가하는 비영리 연구기관 METR에 합류했다.
츅타이는 또한, “2022년 초 AI 작업을 시작했을 때 AI는 우스울 정도로 쓸모없었다”며 “4년 만에 오픈AI의 AI 에이전트 무리가 100년 된 수학 문제를 풀고, 더 우려스럽게는 오픈AI의 통제를 벗어나 허깅페이스(Hugging Face)를 자율적으로 해킹했다”고 AI 개발 속도 변화에 대해서도 말했다.
그는 “상황은 더 미쳐갈 것”이라며 모든 영역에서 인간 능력을 크게 뛰어넘는 초지능 AI 시스템이 곧 등장할 수 있다고 경고했다. AI가 통제를 벗어나 ‘인류의 영구적 무력화나 죽음’을 초래하는 위험을 핵심 우려로 꼽았다. 또한, 정렬 연구의 한계도 지적했다. “우리가 원하는 것을 깊이 원하는 AI 시스템을 훈련하는 방법에 대한 이해는 극도로 초보적”이라며 “프런티어 AI 능력이 정렬 이해보다 훨씬 빠르게 개선되고 있다”고 말했다.
그는 다리오 아모데이 앤트로픽 최고경영자(CEO)의 개발 속도 조절 제안에 동의했다. “AI 기업 간의 광적인 경쟁을 피하기 위해 조정이 필요하다”며 “사회가 감당할 수 있는 속도로 AI 개발을 진행할 필요가 있다”고 밝혔다.
앞서 앤트로픽의 제이콥 콕슨도 “AI를 만드는 사람들은 AI가 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿는다”며 퇴사했다. 아모데이 CEO의 속도 조절 촉구에는 일론 머스크와 샘 알트만이 지지를 표했다.
인디아 투데이는 AI 안전 논쟁이 주류로 떠오른 가운데 연구원들의 퇴사가 이어지고 있다고 전했다. 도널드 트럼프 대통령은 규제에 반대하며 “AI에서 이기는 쪽이 이긴다”고 말한 상태다. AI 개발 속도를 둘러싼 논쟁이 계속되고 있다.
자세한 내용은 인디아 투데이(India Today)에서 확인할 수 있다.
이미지 출처: 구글 딥마인드
AI Matters 뉴스레터 구독하기
