앤트로픽이 현지 시각 10월 14일 11월 미국 중간선거를 앞두고 AI 모델 클로드의 선거 관련 안전장치와 정보 제공 방식을 공개했다. 중간선거는 미국 대통령 임기 중간에 연방 하원 전체와 상원 일부 의원을 새로 선출하는 선거다.

앤트로픽이 9월 21일부터 27일까지 미국 이용자의 클로드 대화 약 25만 건을 분석한 결과, 정치와 정책, 사회 문제를 다룬 대화는 약 5.75%였다. 선거나 투표 관련 대화는 약 0.51%였고, 누구에게 투표할지 묻는 대화는 약 0.01%였다. 앤트로픽은 선거일이 다가올수록 관련 질문이 증가할 것으로 예상했다.

클로드는 유권자 등록이나 투표소 위치, 선거일을 묻는 질문에 비당파 선거 정보 단체 데모크라시 웍스의 ‘터보보트’ 안내 배너를 표시한다. 10월 말부터는 미국 이용자가 투표 장소와 필요한 신분증을 물으면 주별 공식 정보를 바탕으로 답변한다. 선거 당일 밤과 이후 며칠 동안은 공식 개표 현황도 제공한다.

앤트로픽은 클로드 오퍼스 5.5와 소네트 5.5, 하이쿠 5.5가 자체 정치적 균형 평가에서 99%를 기록했다고 밝혔다. 외부 기관 검토에서는 클로드가 요청을 거절하는 경우는 드물었지만, 이용자가 요청하지 않은 단서나 반론을 덧붙이는 경우가 있었다. 앤트로픽은 짧은 답변과 예·아니요 질문에서 균형을 개선하고, 평가 범위를 후보자와 투표 관련 질문으로 확대할 계획이다.

앤트로픽은 전략대화연구소(ISD), 매케인 연구소와 함께 미국과 이스라엘, 브라질에서 안전장치를 시험했다. 클로드는 단일 유해 요청은 안정적으로 거부했지만, 해가 없어 보이는 여러 작업으로 나눈 악의적 캠페인은 놓치는 경우가 있었다. 앤트로픽은 가짜 소셜미디어 계정과 뉴스 사이트 운영, 외국 정부와 연계된 선거 개입 등을 탐지하는 분류기를 추가했다. 분류기는 대화 내용을 분석해 정책 위반 가능성을 판별하는 AI 도구다.

앤트로픽은 해외 운영자가 클로드로 러시아와 이란, 북한의 주장에 유리한 미국 중간선거 기사를 작성해 가짜 뉴스 사이트를 운영한 사실을 적발했다. 광고 수익을 목적으로 미국 독자를 대상으로 허위 기사를 작성한 계정도 확인했으며, 관련 계정을 모두 차단했다.

자세한 내용은 앤트로픽에서 확인할 수 있다.

이미지 출처: 앤트로픽