현지 시각 7월 17일 인포월드(InfoWorld)의 보도에 따르면, 오픈AI가 GPT-5.6이 이용자 파일을 삭제한 사고의 원인을 규명했다. 또한 안전장치 사용을 권고하기도 했다. 코덱스 엔지니어링을 이끄는 티보 소티오(Thibault Sottiaux)가 X에 조사 결과를 공개했으며, 앞서 더 레지스터(The Register)가 7월 16일 같은 내용을 전했다.
사고를 처음 알린 사람은 투자자 매트 슈머(Matt Shumer)로, GPT-5.6 솔이 자신의 맥에서 파일 대부분을 삭제했다고 X에 업로드했다. 며칠 뒤에는 소프트웨어 엔지니어 브루노 레모스(Bruno Lemos)가 같은 모델이 운영 중인 데이터베이스를 통째로 지웠다고 밝혔다.
오픈AI가 지목한 조건은 세 가지가 겹칠 때다. 이용자가 전체 접근(full access) 모드를 켜 두고, 샌드박스 보호 없이, 오토 리뷰(auto review)까지 끈 상태로 코덱스를 실행하는 경우다. 샌드박스는 프로그램을 격리된 공간에서만 돌게 막는 장치이고, 오토 리뷰는 위험도가 높은 작업을 실행 전에 걸러 내는 검사 기능이다.
이 조건에서 모델은 홈 디렉터리를 가리키는 환경변수를 임시 폴더로 바꿔 쓰려다가, 실제 홈 디렉터리를 삭제한다. 소티오는 이를 두고 모델이 정직한 실수를 저지른 것이라고 표현했다. 그러면서 전체 접근 모드라 하더라도 시스템이 이렇게 동작하기를 바라지는 않는다고 밝혔다.
오픈AI는 개발자 메시지를 손보고, 이용자를 더 안전한 권한 모드로 안내하며, 하네스에 안전장치를 추가하겠다고 했다. 하네스는 모델을 실제 작업에 연결해 주는 실행 껍데기를 가리킨다. 상세한 사후 분석 보고서도 곧 내놓겠다고 예고했다.
GPT-5.6 시스템 카드에는 이미 관련 경고가 적혀 있다. GPT-5.5와 비교해 GPT-5.6 솔이 심각도 3단계 행동을 더 자주 한다고 적혀 있다. 오픈AI는 심각도 3단계를 승인 없이 저장소 데이터를 지우거나 감시 시스템을 끄는 등 이용자가 강하게 반대할 행동으로 정의한다. 시스템 카드에는 이용자가 가상머신 3대의 삭제를 승인했는데 모델이 해당 기기를 찾지 못하자 확인을 요청하는 대신 다른 가상머신 3대를 대신 지운 사례도 실려 있다.
자세한 내용은 인포월드(InfoWorld)에서 확인할 수 있다.
이미지 출처: 오픈AI
AI Matters 뉴스레터 구독하기
