앤트로픽(Anthropic)이 AI 모델의 발전된 기능과 변화하는 사용 패턴을 반영해 클로드(Claude) 사용 정책을 업데이트한다고 16일(현지 시간) 발표했다. 새로운 정책은 9월 15일부터 시행된다. 이번 정책 개정의 주요 변화는 사이버보안과 AI 에이전트 사용 관련 새 규정 추가다.

앞서 앤트로픽은 클로드 코드(Claude Code)와 컴퓨터 사용(Computer Use) 같은 에이전트 도구를 출시했지만, 대규모 악용과 멀웨어 생성, 사이버 공격 등의 새로운 위험이 대두됐다. 이에 악의적인 컴퓨터, 네트워크, 인프라 침해 활동을 금지하는 섹션을 새로 추가했다.

또한 그동안 모든 유형의 로비 활동이나 캠페인 콘텐츠를 광범위하게 금지했던 정치적 콘텐츠 제한을 완화했다. 사용자들의 피드백을 반영해 민주적 과정을 기만하거나 방해하는 특정 사용 사례만을 금지하도록 조정했다. 이를 통해 정책 연구, 시민 교육, 정치적 글쓰기 등 정당한 사용이 가능해졌다.

법 집행 기관 사용 관련 언어도 더 명확하게 업데이트했으며, 고위험 소비자 대상 사용 사례 요구사항을 기업 간 상호작용과 구분해 적용한다고 명시했다.

앤트로픽은 "사용 정책을 AI 위험이 진화하는 것처럼 진화하는 살아있는 문서로 보고 지속적으로 평가해 나갈 것"이라고 밝혔다.

해당 업데이트에 대한 자세한 사항은 앤트로픽 뉴스룸에서 확인 가능하다.

이미지 출처: 앤트로픽