앤트로픽이 8월 7일 클로드 코드의 기본 권한 모드를 8월 14일부터 오토 모드로 바꾼다고 공지했다. 별도 분류기 모델이 셸 명령을 미리 검사해 위험한 명령을 차단하는 방식이다.
적용 대상은 프로와 맥스, 팀 요금제의 신규 세션이다. 엔터프라이즈와 클로드 API, 아마존 베드록, 구글 클라우드 에이전트 플랫폼, 마이크로소프트 파운드리에서는 당분간 이용자가 직접 켜야 하며 한 달 안에 전환할 계획이다. 분류기가 쓰는 추가 토큰 비용은 프로와 맥스, 팀에서 공지 당일부터 청구하지 않는다.
앤트로픽이 공개한 통제 실험에서는 유료 테스터 1,053명을 대상으로 세션 도중 권한 요청 문구 하나를 명백히 위험한 명령으로 바꿔 넣었다. 사람이 직접 검토한 경우 차단은 143건으로 13.6%에 그친 반면, 오토 모드는 937건을 막아 89%를 기록했다. 승인해도 위험한 명령이 실제로 실행되지는 않는 설계였다.
사람이 걸러낸 비율은 세션 초반 약 17%에서 권한 요청 50건을 넘긴 뒤 5% 수준으로 낮아졌고, 오토 모드는 세션 길이와 관계없이 일정했다. 아폴로 리서치가 2주간 진행한 파일럿에서 분류기가 놓치는 비율은 12%에서 7%로 낮아졌다.
이용자는 명령줄에서 시프트와 탭을 함께 누르거나 데스크톱 앱의 모드 선택에서 기본값을 되돌릴 수 있다. 관리자는 설정으로 모드를 고정하거나 오토 모드를 완전히 끌 수 있고, 연속 3회 또는 한 세션에서 20회 차단되면 수동 승인으로 되돌아간다. 앤트로픽은 분류 체계에 기대는 방식이라 위험이 사라지지는 않는다며, 운영 인프라를 바꾸는 작업은 직접 검토하라고 권고했다.
▶︎ 관련기사: 클로드 코드, 자동 모드의 안전장치 보강 업데이트
자세한 내용은 앤트로픽에서 확인할 수 있다.
이미지 출처: 앤트로픽
AI Matters 뉴스레터 구독하기
