아마존웹서비스(AWS)가 기업용 AI 서비스 아마존 베드록에서 앤트로픽 클로드 모델의 ‘구조화 출력’ 기능을 정식 지원한다고 10월 19일(현지 시각) 밝혔다. 구조화 출력은 AI의 답변이 개발자가 미리 정한 형식에 맞춰 나오도록 제한하는 기능이다. 베드록에서 쓸 수 있는 클로드 모델 전체가 대상이다.
기업은 AI가 쓴 답변을 데이터베이스나 업무 프로그램에 바로 넘기는 경우가 많다. 이때 프로그램이 읽을 수 있는 데이터 형식인 JSON으로 답을 받는데, 필요한 항목이 빠지거나 수치 항목에 글자가 들어가면 프로그램이 오류를 낸다. 개발자는 그동안 같은 질문을 다시 보내거나 답변을 고치는 코드를 따로 작성해야 했다. 구조화 출력을 켜면 AI가 답변을 생성하는 단계부터 정해진 형식을 지키므로 이런 작업을 줄일 수 있다.
구조화 출력에는 답변 형식 지정과 엄격한 도구 사용 기능이 포함된다. 답변 형식 지정은 답변에 들어갈 항목과 자료형을 정하는 기능으로, 재무 보고서에서 수치를 뽑거나 상담 문의를 유형별로 분류하는 작업에 쓸 수 있다. 엄격한 도구 사용은 AI 에이전트가 외부 도구를 불러 쓸 때 넘기는 값이 정해진 형식에서 벗어나지 않게 하는 기능이다. AI 에이전트는 사람이 맡긴 일을 여러 단계에 걸쳐 스스로 처리하는 AI 프로그램이다.
새 형식을 처음 쓸 때는 준비 과정이 필요해 첫 응답이 평소보다 느릴 수 있다. 준비 결과는 계정별로 24시간 저장된다. 여러 요청을 한꺼번에 처리하는 배치 작업과 답변을 실시간으로 받는 스트리밍도 지원한다. 다만 숫자의 최솟값과 최댓값, 글자 수 제한 같은 일부 조건은 자동으로 지켜지지 않아, AWS는 이런 조건을 앱에서 따로 확인하라고 안내했다.
자세한 내용은 AWS 머신러닝 블로그에서 확인할 수 있다.
이미지 출처: AWS
AI Matters 뉴스레터 구독하기
