글로벌 IT 시장조사기관 가트너(Gartner)는 2027년까지 기업들이 범용 대규모언어모델(LLM)보다 특정 작업에 최적화된 소규모언어모델(SLM)을 세 배 이상 많이 사용할 것이라는 전망을 내놨다.

가트너는 범용 LLM이 강력한 언어 처리 능력을 갖췄음에도 불구하고, 특정 비즈니스 분야의 전문성이 요구되는 작업에서는 응답 정확도가 떨어진다고 진단했다. 이 같은 분석은 최근 기업 현장에서 범용 모델이 제공하는 일반화된 정보만으로는 충분하지 않다는 점이 부각되면서 더욱 주목받고 있다.

가트너의 수밋 아가왈(Sumit Agarwal) 부사장 겸 애널리스트는 “비즈니스 업무 흐름 내 다양한 작업과 더 높은 정확도에 대한 요구로 인해, 특정 기능 또는 도메인 데이터에 맞춰 미세조정한 특화 모델로의 전환이 가속화되고 있다”고 밝혔다. 그는 또 “SLM은 응답 속도가 빠르고 컴퓨팅 자원을 적게 소모해 운영 및 유지 관리 비용을 절감할 수 있다”고 설명했다.

기업들은 검색 증강 생성(RAG, Retrieval-Augmented Generation) 또는 미세조정(Fine-Tuning) 기술을 통해 LLM을 특정 업무에 특화된 모델로 전환할 수 있다. 이 과정에서 기업 내부 데이터는 차별화를 가능케 하는 핵심 자산으로 작용하며, 미세조정 요구사항을 충족시키기 위해 데이터의 준비와 품질 관리, 버전 관리, 전체적인 운영 체계가 필수적이라고 가트너는 분석했다.

아가왈 애널리스트는 “기업은 자사의 고유한 데이터와 전문화된 업무 프로세스에서 도출된 인사이트의 가치를 점차 인식하게 될 것”이라며, “이러한 인식은 결국 데이터를 수익화하고 외부 이해관계자와 공유하려는 시도로 이어질 가능성이 높다”고 전망했다. 이는 폐쇄적인 데이터 보호 중심 전략에서 벗어나 보다 개방적이고 협력적인 방향으로 나아가는 흐름이라는 설명이다.

가트너는 또한 기업이 자사의 고유 모델을 상용화함으로써 새로운 수익원을 창출할 수 있으며, 동시에 상호 연결된 생태계를 구축할 수 있다고 강조했다. 이러한 맥락에서 소규모 AI 모델의 도입을 고려하는 기업들을 위한 구체적인 권고 사항도 함께 제시했다.

우선, 비즈니스 맥락이 중요한 분야나 기존 LLM의 응답 품질과 속도가 기대에 못 미치는 영역에서 컨텍스트 기반 SLM을 시범 도입해볼 것을 권장했다. 또한 단일 모델만으로는 해결이 어려운 복잡한 사용 사례에 대해선 여러 모델과 워크플로우 단계를 결합하는 복합적 접근 방식이 필요하다고 제안했다.

아울러 언어 모델의 미세조정에 필요한 데이터를 수집하고 선별하며 구조화할 수 있는 데이터 준비 역량을 강화하는 것도 중요하다고 강조했다. AI 관련 프로젝트를 성공적으로 추진하기 위해 AI 및 데이터 설계자, 데이터 과학자, AI 및 데이터 엔지니어, 리스크 및 규정 준수 팀, 구매 팀, 비즈니스 전문가 등 다양한 기술 및 기능 인력의 역량 강화에 대한 투자가 효과적이라고 가트너는 밝혔다.

이준문 기자/jun@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지