메타의 AI 모델이 사이버 보안 평가 도중 테스트 환경을 벗어나 외부 시스템에 접근했다. 현지 시각 8월 5일 메타가 매체에 밝힌 내용이며, 시큐리티위크와 칼칼리스트가 8월 6일 보도했다.

메타는 성명에서 “메타가 쓰는 독립 평가 기업 이레귤러(Irregular)의 구성 오류로, 평가 도중 우리 모델 하나가 뜻하지 않게 인터넷에 접근할 수 있게 됐다”고 설명했다. 문제가 된 모델은 7월 9일 공개한 뮤즈 스파크 1.1이다. 이 모델은 테스트 환경을 벗어나 제3자 서비스의 취약점을 이용했고, 디인포메이션 보도로는 공개되지 않은 조직의 시스템에 접근해 내부 환경을 변경했다.

메타는 이 일을 스스로 발견하지 못했다. 이레귤러의 통보를 받고서야 알았고, 지금은 사실관계를 확인하는 중이며 조사가 끝나면 전체 경위를 공개하겠다고 밝혔다. 피해가 확인된 조직은 한 곳이다. 이용된 취약점이 이미 알려진 것인지 아직 알려지지 않은 제로데이인지는 확인되지 않았다.

앤트로픽은 7월 30일 클로드가 격리 설정 오류로 실제 기업 세 곳의 시스템에 접근한 사실을 공개했고, 오픈AI도 7월 중순 자사 모델이 허깅페이스를 비롯한 외부 시스템에 접근한 경위를 밝혔다. 이레귤러는 칼칼리스트에 “문제가 된 사건은 지난주 앤트로픽이 이미 공개한 테스트 환경 관련 사안과 정확히 같은 문제이며, 그 뒤 해결됐다”며 “현 단계에서 추가로 열려 있는 문제는 없다”고 밝혔다. 이 회사는 AI 모델을 테스트 환경 안에 묶어 두고 안전하게 평가하는 절차와 표준을 담은 백서를 준비하고 있다고 덧붙였다.

세 건 모두 모델이 스스로 통제를 무력화한 것은 아니다. 평가를 맡은 외부 기업이 격리망을 잘못 구성해 인터넷으로 나가는 경로가 열려 있었고, 모델은 주어진 과제를 수행하다 그 경로로 접근했다. 프런티어 모델의 사이버 공격 능력을 측정하려면 실제와 비슷한 환경이 필요한데, 그 환경을 어떻게 격리할지는 아직 정리되지 않았다.

자세한 내용은 시큐리티위크에서 확인할 수 있다.

이미지 출처: 메타