생산성 앱 노션이 외부 AI 업체 파이어웍스 AI(Fireworks AI)의 보안 사고로 일부 ‘노션 AI’ 대화 기록이 유출됐다고 공식 도움말 페이지에서 밝혔다. 파이어웍스 AI는 오픈웨이트 AI 모델을 기업 대신 실행해 주는 추론 서비스 기업이다. 노션은 이 업체를 ‘인사이트(Insights)’ 기능의 분류 작업과 오픈웨이트 모델 실행에 써 왔다.

노션에 따르면, 회사는 11월 3일 파이어웍스와의 연결을 모두 끊고, 파이어웍스 시스템에 있던 데이터를 삭제했으며, 데이터 전송과 학습 작업을 중단했다. 이후 11월 6일 파이어웍스로부터 악의적인 공격자가 고객 데이터에 접근했을 수 있다는 통보를 받았고, 11월 8일에는 새로 확인된 데이터 묶음을 전달받았다. 유출된 정보는 인사이트 기능에 쓰인 노션 AI 대화 기록이다. 작성자와 워크스페이스 정보는 없고 도구 실행 결과도 포함되지 않았다. 노션은 전체 워크스페이스의 1% 미만이 영향을 받았다고 추정하고, 해당 워크스페이스 소유자에게 개별 연락했다.

노션은 연락을 받지 않은 이용자는 조치할 필요가 없다고 안내했다. 대상 워크스페이스 소유자는 데스크톱 앱이나 웹 브라우저에서 사이드바의 물음표 메뉴를 누르고 ‘보안 사고 검토(Security incident review)’를 선택해 유출 대상 데이터를 확인할 수 있다. 엔터프라이즈 요금제는 CSV 파일로, 다른 요금제는 공유 링크로 내용을 받는다. 노션은 해당 기간 노션 AI에 비밀번호나 API 키를 입력한 이용자에게 즉시 바꾸라고 권고했다. 인사이트 기능은 현재 꺼져 있다.

파이어웍스 AI는 11월 9일 갱신한 보안 공지에서 피해 범위를 공개했다. 처음에는 평가 작업에 쓰인 저장 비밀값만 접근된 것으로 파악했으나, 이후 계정과 결제 정보가 유출됐고 일부 계정은 비밀값과 데이터셋, 학습이 끝나지 않은 모델까지 노출됐다고 밝혔다. 10월 23일 파이어웍스의 연구개발 장비를 호스팅하는 외부 클라우드 업체에서 사고가 있었고, 10월 24일 공격자가 이를 통해 개발 장비에 접근했다. 결제 정보에는 주소와 청구 내역, 잔액이 포함되며 카드 번호는 저장하지 않아 피해가 없다. 파이어웍스는 수사 기관에 신고하고 팰로앨토 네트웍스의 보안 조사팀 유닛 42에 조사를 맡겼다.

자세한 내용은 노션에서 확인할 수 있다.

이미지 출처: 노션