엔비디아와 팔란티어, 부즈 앨런 해밀턴이 앤트로픽 모델의 사내 사용을 제한하고 있다고 디인포메이션이 현지 시각 9월 14일 보도했다. 로이터도 같은 날 이 내용을 전하면서, 기업들이 앤트로픽과 오픈AI 양쪽에 자사 기술 자료를 다른 목적에 쓰지 않겠다는 보장을 요구하고 있다고 덧붙였다.
앤트로픽은 6월 페이블 5를 공개하면서 데이터 보존 정책을 함께 도입했다. 여러 대화에 걸쳐 진행되는 정교한 공격을 탐지하려면 사용 기록이 필요하다며 최대 30일간 보관한다는 내용이었다. 기업 고객들은 자사의 민감한 정보가 모델 제공사 서버에 남는다는 점을 문제 삼았다.
팔란티어는 자사 소프트웨어에서 앤트로픽 모델을 제공하기 전에 데이터를 전혀 보관하지 않겠다는 보장을 요구했다. 엔비디아는 앤트로픽 모델을 민감도가 낮은 사내 업무로 한정하고, 자사 기술 자료를 다루는 작업에는 자체 모델인 네모트론을 사용한다. 부즈 앨런은 고객사의 기술 자료를 다루는 보안 업무에 앤트로픽 상용 모델을 쓰지 못하도록 했다.
한 미국 전력 회사는 페이블이 핵심 전력 설비를 운영할 수 있는지 검토하다가 도입을 철회했다. 앤트로픽이 철회 불가능한 무보관 조항에 서명하지 않았다는 것이 이유였다.
앤트로픽은 기업 고객이 활동 기록을 자사 클라우드에 직접 저장하도록 하는 엔터프라이즈 프런티어 세이프가드를 대응책으로 제시했다. 아마존 S3와 애저 블롭 스토리지, 구글 클라우드 스토리지를 지원하고 암호화 키도 고객이 관리한다. 오용 여부는 자동 점검 도구가 확인하며 앤트로픽 직원이 내용을 직접 열람하지는 않는다. 단계적으로 적용 중이고 올가을 중 확대 제공할 예정이다.
기업 고객이 요구하는 무보관 조항은 모델 제공사가 입력과 출력을 어떤 형태로도 저장하지 않는다는 계약 조건을 말한다. 보안 점검을 위해 기록이 필요하다는 모델 제공사의 요구와 기술 자료를 외부에 남기지 않으려는 고객사의 요구가 서로 맞선다. 이번 보도는 디인포메이션 단독이며, 앤트로픽은 개별 기업의 사용 제한 여부에 대해서는 입장을 밝히지 않았다.
자세한 내용은 로이터에서 확인할 수 있다.
이미지 출처: 앤트로픽
AI Matters 뉴스레터 구독하기
