아마존웹서비스(AWS)가 대규모 언어모델(LLM)의 환각 현상으로 인한 사실 오류를 수학적으로 검증하고 방지할 수 있는 '자동추론 검사(Automated Reasoning checks)' 기능을 아마존 베드록 가드레일(Amazon Bedrock Guardrails)에 추가했다.

자동추론은 시스템과 프로그램의 동작을 검증하기 위해 수학적 증명과 논리적 추론을 사용하는 컴퓨터 과학 분야다. 머신러닝(ML)이 예측을 하는 것과 달리 자동추론은 시스템 동작에 대한 수학적 보증을 제공한다. AWS는 이미 스토리지, 네트워킹, 가상화, 신원확인, 암호화 등 주요 서비스 영역에서 자동추론을 활용하고 있다.

베드록 가드레일은 생성형 AI 애플리케이션의 안전성을 높이기 위한 다양한 기능을 제공한다. 우선 원치 않는 콘텐츠를 필터링하고 개인식별정보를 수정하여 콘텐츠의 안전성과 개인정보를 보호한다. 또한 특정 주제에 대한 거부 정책을 구성할 수 있으며, 콘텐츠와 단어에 대한 필터링도 가능하다. 여기에 맥락 기반 검사와 자동추론 검사를 통해 생성된 콘텐츠의 정확성을 검증한다.

새로운 자동추론 검사 기능은 현재 미국 서부(오레곤) AWS 리전에서 프리뷰로 제공되고 있다. 프리뷰 접근을 원하는 사용자는 AWS 계정 팀에 문의하면 되며, 향후 몇 주 내에 아마존 베드록 콘솔에서 신청 양식이 제공될 예정이다.

베드록 가드레일은 주요 클라우드 제공업체 중 유일하게 단일 솔루션 내에서 생성형 AI 애플리케이션의 안전성, 개인정보 보호, 진실성을 구축하고 사용자 지정할 수 있도록 지원한다. 이 기능은 특히 인사(HR) 정책, 회사 제품 정보, 운영 워크플로우와 같이 사실 정확성과 설명 가능성이 중요한 사례에서 유용하게 활용될 수 있다.

자동추론 검사에 대한 자세한 사항은 AWS 공식 블로그에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.