[IT동아 남시현 기자] AI 반도체 팹리스 기업 리벨리온(Rebellions)이 SK텔레콤과 AI 서비스 구현을 위한 협력에 나선다. 지난 25일 SK텔레콤은 SKT의 AI 통화서비스 중 일부인 에이닷 전화 요약 등을 비롯해 PASS 스팸필터링, PASS 금융비서, 반려동물 진단 서비스 엑스칼리버에 리벨리온의 신경망 처리 장치(NPU) 적용을 위한 테스트를 진행 중이라고 밝혔다. SKT는 테스트 결과를 바탕으로 리벨리온 NPU 서버를 확장해서 도입할 예정이다.

이번에 적용되는 에이닷 전화 요약은 인공지능이 통화내용을 자동으로 분석한 뒤 대화 내용과 요약 등을 제공하는 서비스다. 대화내용 분석에는 SKT의 대형언어모델 에이닷엑스(A.X)를 기반으로 하며, 여기에 리벨리온의 데이터센터용 AI 반도체 아톰(ATOM)을 적용해 LLM 데이터를 처리하게 된다. 리벨리온은 6월 중 출시하는 대규모 추론용 AI 반도체 아톰 맥스(ATOM-Max)를 통해 에이닷 통화요약을 비롯한 대규모 상용 AI 서비스 구동을 위한 테스트에 착수한다.

SK텔레콤이 AI 연산에 리벨리온 NPU를 도입하는 것은 최근 주목받고 있는 주권 AI(소버린 AI)와도 관련이 있다. 노르웨이 통신사인 텔레노르(Telenor)는 생성형 AI 및 AI 에이전트의 도입 및 배포를 위해 엔비디아 AI 엔터프라이즈 소프트웨어와 서비스를 통합 중이다.

스위스 통신사 스위스컴은 엔비디아 DGX 슈퍼팟(SuperPOD) 기반의 소버린 AI 팩토리에서 생성형AI 스튜디오를 서비스한다. 스페인 텔레포니카도 국토 전역에 엣지 AI 인프라 구축을 위해 거점 별로 수백 개의 GPU를 도입하고, 엔비디아의 AI 생성 및 배포 서비스인 NIM 마이크로서비스를 활용해 정부 및 금융 서비스의 핵심 부문에 AI를 제공한다.

엔비디아는 전 세계 5개 대륙에 통신사 주도 AI 팩토리 18곳을 지원 중이며, 엔비디아의 소프트웨어와 하드웨어가 AI 서비스의 기반이 되고 있다. 여기서 강조할 부분이 국가 별로 팩토리가 개별 설립된다는 부분이다. 2018년 미국 정부는 합법적인 해외 데이터 활용의 명확화를 위한 법률(Clarifying Lawful Overseas Use of Data Act, CLOUD Act)을 제정하고 사법 공조를 거치면 미국 기업이 관리하는 데이터에 접근할 수 있게 됐다. 미국 국토 외에 위치한 서버까지 해당된다.

해당 법률을 근거로 미국 정부가 특정 기업이나 개인의 데이터 등에 접근하는 일은 매우 드물겠지만, 국내 주요 데이터가 미국 기업을 거쳐 미국 정부로 나갈 가능성이 있기에 직접 서버를 구축하고 장비를 마련하는 게 현재 상황이다. 해외 통신사들이 엔비디아와 손을 잡고 AI 팩토리를 직접 갖추는 게 국외 유출 방지를 위한 노력이다. SK텔레콤이 리벨리온 아톰을 활용해 AI 서비스를 상용화할 경우 국산 LLM을 국산 NPU로 처리해 데이터가 영토 내에서 처리되는 데이터 주권확보에 보탬이 될 것으로 본다.

한편 NPU는 AI 모델을 개발하는 ‘학습’ 과정보다는 GPU로 생성된 AI 모델을 구동하는 ‘추론’ 작업 용도로의 활용이 검토되는 단계다. 추론 작업에도 GPU를 사용해도 되지만 동급의 NPU 대비 전력 효율이 떨어지고, 가격도 비싸다. 또 전 세계적으로 품귀현상이 이어져 상대적으로 제품을 수급하기도 어렵다. 리벨리온 NPU가 SKT의 AI 서비스에 도입된다면 소비자가 AI 기능을 사용하는 데 필요한 연산을 처리하는데 동원될 예정이다.

이상민 SKT 성장사업추진실장은 “국가 간 AI 기술 경쟁이 심화되고 있으며, 국내 AI 생태계 자립성 강화는 개별 기업을 넘어 국가 경쟁력을 좌우하는 요소”라면서 “SKT는 앞으로도 AI 데이터센터, LLM, AI 반도체를 포함한 국내 AI 생태계의 역량을 강화해나갈 것”이라고 말했다.

박성현 리벨리온 대표는 “국산 AI 반도체가 SKT의 국산 LLM 기반 서비스에 적용된 점은 기술적 완성도를 넘어 국내 AI 생태계의 자립을 실현하는 중요한 이정표”라며, “리벨리온은 앞으로도 안정적이고 에너지 효율적인 AI 인프라를 통해 우리나라가 세계 3대 AI 강국이 되는 데 기여하겠다”라고 밝혔다.

IT동아 남시현 기자 (sh@itdonga.com)