앤트로픽이 최신 모델 페이블 5(Fable 5)의 생물학 관련 안전장치를 개선했다고 발표했다. 현지 시각 8월 7일 앤트로픽 뉴스룸에 올라온 내용이다. 생물학 관련 질문에 대해 시스템이 덜 유능한 모델로 전환되는 ‘폴백(fallback)’이 테스트 기준 약 85% 줄었다.

폴백은 생물학 질문에 대한 응답을 보수적인 모델로 넘기던 기능이다. 앤트로픽은 안전 기준을 낮춘 게 아니라, 정당한 질문과 위험한 질문을 더 정확히 가르도록 분류기를 다시 설계한 결과라고 설명했다. 분류기는 위험한 요청을 걸러내는 소형 AI 시스템으로, 이번에는 분류기가 따르는 판단 규칙을 전문가 피드백으로 다시 쓴 뒤 재학습시키는 방식이 적용됐다.

개선 뒤 페이블 5는 일상적인 건강·교육 질문에 더 폭넓게 응답한다. 검사 결과 해석이나 증상 이해 같은 사례가 대표적이다. 의료진이 임상 업무에서 받는 지원도 늘었다. 반면 바이러스학·독성학·분자 설계 같은 이중 용도 영역은 여전히 오퍼스 5로 전환돼, 전문 연구나 신약 개발에는 아직 쓰일 수 없는 상태다.

앤트로픽은 생물학 지식이 이중 용도라는 점을 강조했다. 살아 있는 백신을 개발하려면 막으려는 병원체 자체를 키워야 하고, 혈압약 캅토프릴은 뱀 독에서 개발된 사례가 대표적이다. 악의적 사용자는 이런 모호함을 이용해 위험한 요청을 일상적인 연구처럼 보이게 만들 수 있다는 게 회사 측 설명이다. 생물학 안전장치는 질문의 맥락에 따라 위험도가 달라지는 점을 반영해 설계된다. 연구자가 유전자 편집 기술의 원리를 묻는 경우와 질병 증상을 확인하려는 경우는 같은 기준으로 답할 수 없다는 것이다.

앤트로픽은 페이블 5가 일부 생물학 과제에서 전문가를 능가할 수 있고, 자체 테스트에서 생물무기 제작 의도에 상당한 도움을 줄 수 있는 역량이 확인됐다고 밝힌 바 있다. 미국 정보공동체의 2026년 연례 위협 평가도 합성생물학과 유전자 편집의 발전이 새로운 생물학적 위협으로 이어질 수 있다고 경고했다. 이번 개편은 접근성과 위험 차단 사이의 균형을 다시 맞춘 조치로, 저위험 질문 일부는 여전히 안전 여백으로 막혀 있다.

앤트로픽은 검증된 연구자에게 단계적으로 생물학 영역을 열어가는 ‘트러스티드 액세스(trusted access)’를 통해 전문 사용처의 격차를 줄여가겠다고 밝혔다. 폴백 감소 수치는 자사 제품 전반의 테스트 기준이며, 새 분류기가 탈옥 시도에도 견디도록 설계됐다는 설명이다.

자세한 내용은 앤트로픽에서 확인할 수 있다.