[IT동아 남시현 기자] 지난 7월 16일, 중국의 AI 스타트업 문샷 AI가 초거대 AI 모델 ‘키미 K3(Kimi K3)’를 전격 공개했다. 키미 3은 2조 8000억 개의 초대형 매개변수로 구성된 전문가 혼합(MoE) 구조의 모델로 오픈AI나 앤트로픽 등이 독점적이고 자체 서버에서 유료로 서비스를 제공하는 것과 달리 모델 가중치를 완전히 공개하고 누구나 자체 서버로 다운로드해서 사용할 수 있도록 해 투명성과 활용도를 높였다. 성능 측면에서도 클로드 오퍼스 5 및 페이블 5, GPT-5.6 Sol 등 최신 모델 다음으로 높은 세계 4위권 성능이다.

다른 비슷한 오픈소스 모델과 비교해 출력 내용이 장황하고 느리며, 토큰 생성 비용이 비싸다는 단점은 있지만 중국산 AI의 지능이 단숨에 미국산 AI를 따라잡았다는 데 큰 충격을 안겼다. 지난해 딥시크가 고성능 AI 모델도 저렴하고 효율적으로 구축할 수 있음을 증명했다면 문샷AI는 스타트업도 지능이 높고 초거대 AI를 만들 수 있음을 입증했다. 키미 K3로 인해 중국과 AI 격차가 크게 좁혀였다는 AI 업계의 위기감이 고조되면서 지난 24일 젠슨 황이 제안한 ‘오픈웨이트 및 미국 AI 리더십’ 서한에 미국계 기술 기업 130여 곳이 서명하는 등 개방적 AI 정책이 힘을 얻고 있다.

글로벌 빅테크의 새로운 화두, ‘오픈웨이트’ 모델이란?

오픈웨이트란 폐쇄형 AI 모델에 반대되는 개방형 AI 모델을 의미한다. 현재 앤트로픽, 오픈AI, 구글 등 글로벌 AI 기업들은 핵심 모델의 매개변수를 공개하지 않고 서비스만 제공하는 클로즈드 모델 방식을 채택했다. 웹 페이지나 API 연동 등을 통해 서비스되므로 어디서든 쉽게 이용할 수 있고, 지속적으로 최신 모델을 활용할 수 있다는 장점은 있으나 특정 기업에 종속되고 데이터 주권을 보장받지 못한다는 한계가 있다.

반면 오픈웨이트는 모델 학습에 사용된 매개변수를 누구나 다운로드한 뒤 자체 서버나 장치에서 활용할 수 있다. 모델용 AI 인프라를 자체 구축하고 운용해야 한다는 한계는 있으나 값비싼 외부 서비스에 의존하지 않고 자체적으로 대규모언어모델을 구동할 길이 열리고, 데이터 주권 측면에서 독립성이 확보된다. 대형 연구소나 특정 서비스 정도만 활용하는 기업이라면 획기적인 전환점이 될 수 있고, 클로즈드 모델 서비스 기업 입장에서는 수익성을 저해하는 걸림돌이 된다.

오픈웨이트 및 미국 AI 리더십은 최초 제안 기업인 엔비디아를 비롯해 인텔, AMD, 아마존, 마이크로소프트, 메타, IBM 등 빅테크 기업들이 모두 포함돼 있으며 의외로 구글, 오픈AI도 이름을 올렸다. 두 기업 모두 오픈소스나 오픈웨이트로 AI를 출시 중이며 폐쇄형과 오픈웨이트, 오픈소스까지 모두 활용해 산업 영향력을 넓히는 전략이다. 유일하게 앤트로픽은 현재까지 서한에 서명하지 않고 있는데 단순히 오픈웨이트로 모델을 내야 한다는 이유만은 아니다.

오픈웨이트 모델이 확산할 경우 학습 데이터에 대한 저작권 문제나 사고 시 책임 소재가 모델 제작사인지 운용 주체인지 모호해지는데다가, 안전 장치를 해제할 수 있어 AI 모델을 악용하는 등의 문제도 발생할 수 있다. 다리오 아모데이 앤트로픽 최고경영자는 성명을 통해 “오픈웨이트 모델 자체에는 반대하지 않으며 위험하지 않은 오픈웨이트 모델은 공공재”라면서도 “오픈웨이트와 미국 AI 리더십 서한에는 상당부분 동의하지만 광범위한 AI 접근성이 공격자보다 방어자에게 이익을 준다는 주장에는 동의하지 않는다”고 밝혔다. 앤트로픽이 서명하지 않은 것은 모델 공개에 대한 부담도 있지만 제한없는 AI 이용으로 비윤리적인 문제로 이어질 수 있기 때문이다.

독자 AI 파운데이션 사업으로 오픈웨이트, 오픈소스 모두 준비한 국내 AI 업계

이번 서한을 통해 오픈웨이트 모델이 시장의 새로운 표준으로 자리 잡으면 국내 AI 업계에도 그 파급력은 클 전망이다. 그간 고가의 GPT, 클로드를 활용하고 있는 기업, 연구소 등은 인프라만 구축한 뒤 곧바로 모델을 도입할 수 있고, 금융권, 폐쇄망 등의 환경에서도 보안우려 없이 해외의 고성능 모델을 도입할 수 있다. 국산 AI 모델들이 경쟁력을 보여주지 못하다면 해외 빅테크들이 만든 대형 모델에 시장 전반이 잠식될 우려도 있다. 다행히 지난해부터 시작된 독자 AI 파운데이션 사업이 오픈웨이트 생태계에 대한 대응책이 될 전망이다.

독자 AI 파운데이션 사업은 해외 빅테크 모델에 의존하지 않고 국산 인프라와 기술로 만든 AI 기반 모델을 확보하자는 사업이며 글로벌 AI 선도 모델 대비 95% 이상의 성능을 확보하는 것을 지향한다. 특히 국내 산업, 교육, 과학 등 전체 분야에서 무료로 사용할 수 있도록 오픈소스 및 오픈웨이트로 모델을 공개해 국내 AI 생태계 전반의 성장을 돕는다. 해당 사업이 순조롭게 진행되는 상황이니 외산 오픈웨이트 모델이 유입되더라도 국내 주요 AI 모델들이 선택지로 자리를 지킬 수 있다.

업스테이지, 모티프는 우선 오픈웨이트로 모델 공개··· 주요 특징은?

7월 28일 현재 가장 주목할만한 개방향 모델로는 업스테이지의 솔라 오픈 2, 모티프테크놀로지스의 모티프 3 모델 두 개다. LG AI 연구원의 K-엑사원 2.0, SK텔레콤의 A.X K2 모델도 조만간 모델을 공개한다 독자 AI 파운데이션 모델 사업 자체가 가중치, 아키텍처, 학습방법론 등을 허깅페이스에 전면 공개하고 오픈소스로 발표하는 것이 조건이기 때문이다.

직전 세대인 솔라 오픈 100B가 범용 대형언어모델 성능 확보에 초점을 맞췄다면, 솔라 오픈 2는 도구 호출(모델 콘텍스트 프로토콜)과 코딩, 사무 업무 등에서 직접 활용할 수 있는 에이전트 AI 시나리오를 탑재했으며 총 250B(2500억 개) 매개변수를 갖춰 성능 측면에서도 크게 강화됐다. 솔라 오픈 2는 허깅페이스를 통해 모델 활용 및 가중치 다운로드는 물론 모델 앞에 ‘Solar’를 기재하고 출처에 ‘Built with solar’를 기재하면 상업용, 파생 AI 모델도 만들 수 있다.

성능 측면에서는 대형언어모델의 다중 작업 언어 이해 및 추론 능력을 평가하는 MMLU-Pro 테스트에서 딥시크 V4-플래시, 미모-V2.5 등 해외 유명 LLM보다 높은 성능을 갖췄으며, 라이브 코드 벤치 v6 테스트는 92.4%로 전작의 56.5%보다 정확도가 크게 높아졌다. 아울러 금융, 경영 전문가용 작업 수행 능력을 확인하는 APEX-에이전트 테스트도 미스트랄 미디엄 3.5, 딥시크 V4 플래시 등보다 훨씬 높아졌으며, 한국어 및 국내 특화 벤치마크인 KMMLU-Pro, K-놀리지, K-도메인, K-오피스에이전트 등에서 최고 수준의 점수를 획득했다.

기술적으로는 글의 길이와 관계없이 요약해서 데이터를 처리하는 리니어 어텐션과 섬세하게 문맥을 이해하는 소프트맥스 어텐션을 75대 25 비율로 활용해 메모리 부담을 줄였고, 솔라 오픈 100B가 671B 토큰으로 도달하는 성능을 210B 토큰으로 충족했다. 또한 250B 매개변수 중 15B만 활성화하는 전문가 구조를 갖췄으며, 질문 시 총 320개의 선택형 전문가 중 8개와 1개의 공통 전문가가 동원돼 답변을 제공한다.

업스테이지는 허깅페이스에 모델 공개는 물론 모델 개발 과정과 활용 기술까지 담은 테크니컬 리포트도 배포 중이다. 특히 16비트 부동소수점 기준 엔비디아 H200 4장으로 구동할 수 있고, 모델 양자화 적용 시 H200 2장으로도 가능해 인프라 부담을 크게 줄였다. 구축 방식이 복잡해지고 비용이 많이 드는 대신 성능과 추론 속도를 높여주는 MTP(다중 토큰 예측) 등이 적용되지 않았다는 의견도 있지만, 솔라 오픈 2는 추론 속도 향상보다는 1M 토큰 이상의 초장문 문맥 처리와 에이전트 수행 능력 극대화에 초점을 맞춘 모델이며 제한된 컴퓨팅 자원 내에서 성능을 극대화한 형태여서 당장은 제외된 것으로 보인다.

모티프는 지난 21일에 독파모 사업의 일환으로 ‘모티프 3’ 대형언어모델을 오픈소스 공유 커뮤니티 허깅페이스에 공개했다. 모티프는 지난해 2월 독파모 추가공모를 계기로 모티프 3 모델 제작을 시작했으며, 30여 명의 인원과 700장의 GPU만으로 5개월 만에 프런티어 급 모델을 만드는 데 성공했다.

모티프 3 언어모델은 3140억 개의 매개변수를 갖췄으며 추론 시 4%에 해당하는 13B만 활성화된다. 질문 시에는 총 384개의 전문가와 1개의 공통 전문가 중 8개의 전문가가 동원되며 그룹화 차분 잠재 어텐션(GLDA)이라는 구조가 적용됐다. GLDA는 문맥상 관련이 적은 단어를 줄이는 차분 어텐션, KV캐시를 벡터로 압축해 메모리를 줄이는 잠재 어탠션, 두 어텐션을 활용할 때 병렬 처리 및 자원 할당 등을 관리하는 그룹화 작업을 엮은 기술로 메모리 효율과 추론 속도는 높이는 기술이다.

특징면에서는 오픈소스 없이 완전히 독자적인 아키텍처를 활용해 처음부터 끝까지 제작한 점이 돋보인다. 오픈소스를 포함하면 개발 기간 등을 단축하는데 유리하지만 향후 원작자의 정책 변경이나 상용화 제한 등에 영향을 받을 수 있다. 자체 기술인 만큼 목적에 맞춰 맞춤형 설계 및 최적화가 가능하며, 활성 매개변수를 4% 13B로 크게 줄이는 기술적 도전도 자체 개발이어서 가능했다. 향후 수요 기업이 모티프 3를 오픈웨이트, 오픈소스로 활용하면 해외 모델보다 협의부터 개량 작업 등이 훨씬 용이한 것도 장점이다.

지능 측면에서는 아티피셜 애널리시스 지능 지수 44점을 기록했으며, 이는 유사 모델들의 평균 중앙값 15보다 훨씬 높다. 해당 테스트의 지능 지수가 높을수록 일반 세계 지식, 대규모 논리 추론, 학술 문제 해결 등의 성능이 우수하다. 현시점에서는 딥시크 V4 프로, 클로드 오푸스 4.6과 같은 지능 지수며 아티피셜 애널리시스에 등재된 586개의 모델 중 40위에 해당하며 오픈소스 모델 한정으로는 3위다. 해당 버전이 사전 출시판인 베타 버전임을 감안하면 최종 버전의 성능은 더 높을 전망이다.

대형 오픈웨이트 모델 준비된 국내 시장, 글로벌 시장 흐름 주시해야

키미 K3 쇼크와 오픈웨이트 서한 이후 글로벌 AI 시장의 방향성은 초고성능 폐쇄형 모델과 개방형, 가격대 성능비를 중시하는 오픈웨이트의 구도로 발전할 것이다. 미국 빅테크 기업들이 오픈웨이트로 시장의 가닥을 잡으면 전 세계 기업, 기관, 정부가 이를 활용하고 향후에는 생태계에 종속되는 구조가 될 수 있다. 이런 조건에서 기술 주권을 확보할 수 있는 방법이 바로 독자적인 AI 모델과 우수한 성능의 파운데이션 모델을 보유하는 것이고, 독자 AI 파운데이션 사업이 비교적 잘 대응하고 있다.

독자 AI 파운데이션 사업의 목표는 당초 국민 모두가 사용할 수 있는 AI를 만들고, 그 수준은 글로벌 선도 AI 성능의 95% 이상일 것을 조건으로 잡았다. 최근 글로벌 AI 추세를 살펴볼 때 국민용 AI라는 단순한 수준을 넘어 기술 주권을 안정적으로 가져갈 수 있는가에 대한 시작점을 만드는 사업으로 그 중요성이 커지고 있다. 하지만 올해 연말이면 선택과 집중에 따라 네 개 모델 중 두 개만 국가대표 AI로 활용된다.

가능한 많은 카드를 쥐어야 하는 상황임을 감안하면 두 개 팀으로의 경쟁에 그치지 않고 K-AI 생태계 전반의 연대와 확장으로 이어나가야 할 필요는 있다. 두 개의 대표 모델을 포함해 지금까지 컨소시엄에 참여한 모든 국내 AI 산업 기업들을 유기적으로 연동해야 향후 도래할 글로벌 AI 패권주의에서 독자적인 기술 주권을 유지할 것이다.

IT동아 남시현 기자 (sh@itdonga.com)