캐나다 AI 기업 코히어가 현지 시각 10월 5일 기업용 AI 에이전트 플랫폼 ‘노스(North)’의 새 버전 ‘노스 2’를 공개했다. 회사는 노스 출시 이후 가장 큰 업그레이드라며, 여러 단계로 이어지는 작업을 처리하는 에이전트 조율 시스템을 새로 설계했다고 설명했다.

관리 도구 ‘노스 어드민’에는 비용 통제 기능이 추가됐다. 관리자는 이용자와 에이전트 단위로 토큰 사용량을 확인하고, 요청 수와 토큰 사용률에 따라 소비 등급을 정해 사용자·그룹별 한도와 회사 전체 한도를 설정할 수 있다. 한도에 이르기 전에 알림을 보내는 기준도 정할 수 있다. 관리자는 어떤 모델을 어느 부서에서 쓸지도 지정한다.

에이전트는 이전 대화의 맥락을 기억해 매번 처음부터 시작하지 않는다. 직원들이 함께 쓰는 ‘스킬’과 ‘라이브러리’를 두어, 한 번 만든 기능과 자료를 조직 전체가 다시 활용할 수 있다. 대화창에서 문서와 대시보드, 간단한 앱도 만들 수 있다. 슬랙과 셰어포인트, 지라, 노션, 깃허브 등과 연결하는 커넥터가 추가됐고, 피치북과 S&P 글로벌, 팩트셋 같은 금융 데이터 연동도 예정돼 있다.

노스 2는 코히어 자체 모델뿐 아니라 기업이 쓰던 다른 모델도 사용할 수 있다. 클라우드와 사내 서버, 외부 인터넷과 완전히 분리된 환경에 모두 설치할 수 있다. 에이전트가 허가받은 작업만 수행하고 중요한 결정은 사람에게 확인받도록 정하는 기능도 추가됐다. 코히어는 SOC 2 타입 2와 ISO 27001, AI 경영 시스템 국제 표준인 ISO 42001 인증을 보유하고 있다.

코히어는 엔비디아 블랙웰과 호퍼 GPU에서 자사 모델을 실행하면 노드당 초당 처리 토큰이 늘어 비용이 줄어든다고 밝혔다. LG CNS는 노스를 사내에서 쓰면서 국내 고객사에도 제공하고 있다.

자세한 내용은 코히어에서 확인할 수 있다.

이미지 출처: 코히어