퍼플렉시티(Perplexity)가 실시간 웹 검색 기능을 갖춘 생성형 AI API '소나 프로(Sonar Pro)'를 공개했다. 퍼플렉시티 블로그에 게재된 내용에 따르면, 기존 AI 도구들이 학습 데이터에만 의존했던 것과 달리 소나 프로는 실시간 인터넷 연결을 통해 신뢰할 수 있는 정보를 제공하는 것이 특징이다.

실시간 검색으로 웹 전체 정보 활용하는 '소나' 시리즈

퍼플렉시티는 기존 '소나(Sonar)' API와 함께 '소나 프로(Sonar Pro)' API를 일반 개발자들에게 공개했다. 소나 API는 경량화되고 저렴하며 빠른 속도가 특징이며, 최근 사용자들이 가장 많이 요청했던 인용 기능과 출처 설정 기능이 추가됐다. 기업들은 이를 통해 자체 생성형 검색 기능을 구축할 수 있게 됐다.

소나 프로는 일반 소나 대비 2배 많은 인용을 제공하고, 더 큰 문맥 창(context window)을 통해 복잡한 질문도 처리할 수 있다. JSON 모드와 검색 도메인 필터와 같은 고급 기능도 특정 등급의 사용자들에게 제공된다.

주요 기업들의 활용 사례...카피AI "주간 리서치 시간 8시간 단축"

퍼플렉시티 블로그에 따르면 현재 판매, 금융, 비영리, 광고 등 다양한 산업 분야의 수천 명의 개발자들이 소나를 활용해 자체 검색 서비스를 구축하고 있다.

카피AI(Copy AI)는 소나를 통해 영업팀의 주간 리서치 시간을 8시간 줄이고 생산성을 20% 향상시켰다고 밝혔다.

의료 플랫폼 독시미티(Doximity)는 의사들에게 의학 저널이나 보험 관련 정보를 제공하는 연구 도구를 개발했다. 의료 분야의 특성상 정확한 인용이 매우 중요하다고 회사 측은 강조했다.

화상회의 플랫폼 줌(Zoom)은 AI 컴패니언 2.0에 소나 프로를 통합했다. 이를 통해 사용자들은 화상회의 중에도 브라우저를 열지 않고 실시간 검색이 가능하게 됐다. 줌의 AI 제품 및 책임 AI 수석 제품 관리자인 윌 시글린(Will Siegelin)은 "퍼플렉시티가 줌의 경계를 넘어 지식을 확장시켰다"고 평가했다.

정확도 최우선...심플QA 벤치마크서 최고 성능 기록

퍼플렉시티 블로그는 소나 프로가 팩트 체크 벤치마크인 심플QA(SimpleQA)에서 F-스코어 0.858을 기록해 최고 성능을 보였다고 발표했다. 일반 소나는 0.773을 기록했다. 심플QA는 대규모 언어 모델이 간단한 사실 기반 질문에 얼마나 정확하게 답변할 수 있는지 평가하는 벤치마크다.

소나 프로가 이같은 성과를 거둔 것은 대규모 언어 모델(LLM)의 요약 능력과 실시간 정보 접근성을 결합했기 때문이라고 회사 측은 설명했다. 기존 AI 도구들이 학습된 데이터에만 의존했던 것과 달리, 실시간으로 웹에서 정보를 검색해 답변을 생성하는 방식을 채택한 것이다.

해당 발표는 퍼플렉시티 블로그에서 확인할 수 있다.

이미지출처: 퍼플렉시티

기사는 클로드 3.5 Sonnet과 챗GPT를 활용해 작성되었습니다.