SK텔레콤이 11일(한국 시간) 오픈소스 커뮤니티 허깅페이스(Hugging Face)를 통해 독자 구축 대형언어모델(LLM)인 'A.X(에이닷 엑스) 3.1 라이트'를 전격 공개했다고 발표했다. 이번에 공개한 'A.X 3.1 라이트'는 SKT가 프롬 스크래치(From Scratch) 방식으로 모델 구축과 데이터 학습 등 전 단계를 직접 진행한 70억 개(7B) 매개변수 기반의 경량 모델이다. 프롬 스크래치란 모델의 맨 처음 단계부터 모두 직접 구축하는 방식을 의미한다.

'A.X 3.1 라이트'는 기존 에이닷 전화 통화요약에 적용했던 A.X 3.0 라이트 모델의 업그레이드 버전으로, 전작의 강점인 경량화된 성능과 높은 효율성을 계승했다. 이러한 장점은 정보 처리 용량, 소비 전력 등 다양한 사양의 모바일 기기에서 최적의 품질을 구현할 수 있도록 해 기업들의 원활한 서비스 제공에 기여할 수 있을 것으로 기대된다.

또한 'A.X 3.1 라이트'는 같은 규모의 매개변수를 바탕으로 하는 자매 LLM인 'A.X 4.0 라이트'와 동등한 수준의 우수한 한국어 처리능력을 갖췄다. 대표적인 한국어 능력 평가 벤치마크인 KMMLU(Measuring Massive Multitask Language Understanding in Korean)에서 'A.X 3.1 라이트'(61.70)는 'A.X 4.0 라이트'(64.15) 대비 96% 수준의 성능을 나타냈다.

한국어 및 한국 문화 벤치마크인 CLIcK(Cultural and Linguistic Intelligence in Korea)에서는 'A.X 3.1 라이트'(71.22)가 'A.X 4.0 라이트'(69.97) 대비 102% 수준의 성능을 기록했다. CLIcK는 한국어 특유의 문화적 맥락과 언어적 요소를 반영하여, 기존 영어 기반 번역 데이터셋으로는 부족했던 한국 문화·언어 이해 능력을 평가하는 벤치마크다.

SKT는 향후 보유 LLM을 꾸준히 오픈소스로 공개할 예정이며, 'A.X 3.1 라이트' 후속인 매개변수 340억 개(34B)의 프롬 스크래치 모델인 A.X 3.1도 이달 중 발표할 예정이다. SKT는 프롬 스크래치 방식 개발 등 LLM 관련 기술 역량을 지속 고도화할 계획이다. SKT는 그동안 확보한 우수한 LLM 기술 역량을 바탕으로 향후 정부가 추진하는 '독자 AI 파운데이션 모델 개발사업'에 지원할 예정이다.

김태윤 SK텔레콤 파운데이션 모델 담당은 "꾸준히 쌓아 온 한국형 LLM 개발 역량을 바탕으로 AI 생태계 자립성을 높이고, 국가 AI 경쟁력 제고에 기여하도록 노력할 것"이라고 밝혔다.

해당 기사의 원문은 SKT 뉴스룸에서 확인 가능하다.

이미지 출처: SKT