미스트랄이 텍스트와 이미지를 함께 검사하는 30억 매개변수 안전 분류 모델 실드스트랄(Shieldstral)을 현지 시각 8월 4일 공개했다.

실드스트랄은 유해 범주를 학습 단계에서 고정하지 않는다. 추론 시점에 평문으로 쓴 정책을 받아 그 기준에 맞춰 콘텐츠를 판정하는 정책 적응형 구조다. 조직마다 다른 검열 기준을 그대로 적용할 수 있다는 뜻이다. 미스트랄 연구진은 약 5,400만 개 샘플로 학습하면서 검열을 이진 질의응답 문제로 구성했다.

미스트랄은 실드스트랄이 텍스트 안전성에서 최대 7배 큰 오픈 가드 모델과 대등하거나 앞서고, 멀티모달 검열 벤치마크에서는 최고 성적을 기록했다고 밝혔다. 기반 모델은 미니스트랄-3-3B-베이스이며 픽스트랄 비전 인코더를 붙여 한 번의 순전파로 판정을 낸다.

이 정도 규모면 16GB GPU 한 장에서 구동할 수 있어, 민감한 입력을 외부 서비스로 보내지 않고 데이터가 만들어지는 곳 가까이에서 검열할 수 있다. 의료와 국방, 산업 설비, 정부처럼 개인정보 보호나 지연 시간 때문에 클라우드 검열을 쓰기 어려운 곳에서 특히 쓰임새가 있다. 실드스트랄은 허깅페이스에 아파치 2.0 라이선스로 공개됐고 12개 언어를 지원한다.

미스트랄이 발표한 세 번째 검열 모델이자 가중치를 개방한 첫 모델이다. 앞선 두 모델은 클라우드에서 호출하는 API 형태로만 제공됐다. 라우팅과 필터링, 검열, 분류, 보안처럼 판정만 하면 되는 작업을 거대 모델 대신 작은 전문 모델에 맡기면 연산 비용을 크게 줄일 수 있다.

자세한 내용은 미스트랄 AI에서 확인할 수 있다.

이미지 출처: 미스트랄