오픈AI가 현지 시각 9월 10일 에이전트 API를 퍼블릭 베타로 공개했다. 코덱스와 챗GPT 업무용 서비스를 구동해 온 하네스와 인프라를 개발자에게 그대로 개방했다. 하네스는 모델 호출과 도구 사용, 맥락 관리를 조율하는 실행 계층을 말한다.

개발자는 과제와 모델, 도구, 실행 환경을 지정하는 API 호출 한 번으로 에이전트를 구성할 수 있다. 하네스는 오픈AI가 운영·관리하고, 연산 환경은 오픈AI가 제공하는 샌드박스와 자체 인프라, 파트너 샌드박스 중에서 선택한다. 샌드박스는 코드를 격리해 실행하는 공간이다. 파트너로는 블랙셀, 클라우드플레어, 데이타나, 디지털오션, E2B, 모달, 오라클, 런루프, 버셀이 참여했다.

하네스에 최근 추가된 기능은 세 가지 정도다. 세션이 맥락 한도에 가까워지면 앞선 내용을 자동으로 압축해 여러 맥락창에 걸친 작업을 이어 가게 한다. 맥락창은 모델이 한 번에 참고하는 텍스트 양이다. 도구 검색은 필요한 도구 정의만 그때그때 불러와 토큰 사용량과 비용을 줄이고, 프로그래매틱 도구 호출은 여러 호출을 병렬로 실행한 뒤 결과를 코드에서 걸러 필요한 것만 맥락에 되돌린다. 멀티 에이전트 기능은 복잡한 과제를 독립된 조각으로 나눠 서브에이전트에 분배하고, 주 에이전트가 각 결과를 취합한다. 서브에이전트는 자기 맥락을 따로 유지한다.

핀테크 기업 하이파의 세르히 쇼호리예우 리드 엔지니어는 하네스와 샌드박스를 분리해 실패한 에이전트 응답을 86% 줄였다고 밝혔다. 세이프티키트의 바비얀시 사바르왈은 사건 검토 절차를 에이전트 API로 전환한 뒤 건당 비용이 60% 감소했다고 했고, 시리대의 잭 바이센버거 최고기술책임자는 서브에이전트 지원으로 지연 시간이 4분의 1로 줄고 평가 점수가 0.71에서 0.85로 올랐다고 밝혔다.

에이전트 API는 별도 요금 없이 제공된다. 개발자는 에이전트가 사용한 토큰과 도구 요금만 부담한다. 하네스는 오픈소스로 공개된 코덱스 하네스를 기반으로 하며, 개발자는 깃허브에서 모델 호출과 도구, 맥락을 조율하는 핵심 논리를 직접 확인할 수 있다. 오픈AI는 정식 출시 전까지 베타 기간 동안 피드백을 받아 반영한다고 밝혔다.

자세한 내용은 오픈AI에서 확인할 수 있다.

이미지 출처: 오픈AI