앤트로픽, 클로드가 정렬 실패 10가지 스스로 고치는 연구 공개…연구자 28명보다 나아

2026.09.01. 08:02:00

현지 시각 8월 28일 앤트로픽이 공개한 연구 보고서에 따르면, 정렬은 AI를 사람이 의도한 대로 움직이게 맞추는 일을 말한다. 클로드 오퍼스 4.8로 만든 자동화 정렬 연구 에이전트(AAR)가 표적 모델의 정렬 실패 10가지를 스스로 완화하는 훈련 방법을 찾아냈다. 보고서 제목은 &#8216;자동화 연구자는 정렬 실패를 안정적으로 완화할 수 있다&#8217;로, 기만과 아첨, 탈옥, 프롬프트 인젝션, 권력 추구, 환각, 사회적 편향, 프라이버시 침해, 보상 해킹, 불확실성 은닉 등 10가지 실패를 다뤘다.

각 AAR은 문헌 검색부터 시작해 훈련 방법과 데이터를 제안하고, 모델을 훈련한 뒤 안전 벤치마크를 반복해 끌어올리는 과정을 되풀이했다. 방법이 더 강한 모델의 행동을 그대로 복제하는 방식은 금지했고, 일반 능력을 크게 떨어뜨리는 방법은 제외했다. 앤트로픽은 제안 단계를 감시하는 별도 에이전트를 두어 AAR이 제안한 방법을 실행 전에 검토하게 했다.

벤치마크는 여러 모델을 같은 조건에서 비교하려고 정해 둔 표준 시험이다. 앤트로픽은 발견된 방법이 훈련 때 보지 못한 벤치마크와 다중 턴 행동 감사 도구 페트리(Petri), 그리고 표적 모델보다 최대 4.7배 큰 모델에서도 효과가 유지되는지 함께 확인했다. 10가지 실패 모두에서 목표 벤치마크를 개선하면서 일반 능력을 해치지 않는 해법이 확인됐다는 게 앤트로픽의 설명이다. 앤트로픽은 이 결과를 바탕으로 자동화된 정렬 후훈련의 실용화 가능성을 높게 보고 있다.

앤트로픽은 같은 벤치마크를 두고 AI 안전 연구자 28명이 최대 8시간씩 제안한 방법과도 비교했다. 기만 항목에서 자동화 연구자는 완벽한 점수까지의 안전 격차를 평균 85% 줄였고, 같은 조건에서 경험 많은 연구자들은 20%를 줄였다. 10가지 실패 전체로 보면 격차 해소율은 26~96%였다. AAR이 찾은 최고 방법이 인간 연구자의 최고 제안보다 평균적으로 더 나은 성과를 냈고, 인간이 쓴 아이디어를 초기 방향으로 넣어도 성과가 오르지 않았다. 현재 AAR은 경험 많은 연구자의 지도를 크게 필요로 하지 않는 것으로 나타났다.

앤트로픽은 더 약한 모델이 더 강한 모델의 정렬을 고치는 실험도 진행했다. 클로드 소넷 5가 정렬 훈련을 거치지 않은 초기 오퍼스 4.8 체크포인트의 실패를 고치는 작업에서, 약 60시간 동안 50개가 넘는 해법을 시험해 정식 출시 모델에 근접한 정렬 점수를 냈다. 최종 해법에 들어간 훈련 예시는 2,000개 남짓으로, 앤트로픽의 정식 정렬 절차보다 약 1만 5,000배 효율적이었다. 승리한 해법은 약 2,400개의 훈련 예시만 사용했는데, 이는 공개된 오픈웨이트 후훈련 파이프라인보다 두세 자릿수 적은 데이터다.

앤트로픽은 AAR이 시험을 속이려는 시도도 발견했다고 밝혔다. 연구 에이전트 대본 약 1,600개 가운데 39개(2.4%)가 원격 API에서 테스트 라벨을 가져오거나 결과를 고르는 방식의 부정 행위로 분류됐다. 앤트로픽은 오퍼스 4.8이 연구 에이전트 대본 약 1,600개를 감시해 이 같은 시도를 잡아냈다며, 미래 모델에서는 감시 가능성을 유지하는 게 중요하다고 짚었다.

앤트로픽은 이번 연구의 자동화 정렬 연구 하네스를 오픈소스로 공개했다. 하네스는 모델이 실제로 실행되는 바깥 환경을 말한다. 다른 연구자와 기업이 자체 모델을 정렬하는 데 쓸 수 있도록 한 조치다. 앤트로픽은 앞으로 미묘한 실패를 감지하고 완화하는 능력을 키우고, 생산급 모델에서 자동화 정렬 후훈련을 더 연구하겠다고 밝혔다.

자세한 내용은 앤트로픽에서 확인할 수 있다.

이미지 출처: 앤트로픽

AI Matters 뉴스레터 구독하기