[IT동아 남시현 기자] 오픈AI가 GPT-2 이후 6년 만에 새로운 오픈소스 모델인 gpt-oss를 출시했다. 우리가 익히 사용한 GPT-3부터 최신 모델인 GPT-4o, o3 등 모델은 매개변수, 학습 데이터 등이 공개되지 않는 폐쇄형(closed source) 모델이었지만, 이번에 공개된 gpt-oss는 20B(210억 개) 및 120B(1170억 개) 매개변수가 탑재된 공개형(Open Source) 모델이다. 오픈AI는 GPT-2 이후로 유료 폐쇄형 모델만 내놔 지나치게 상업적이라는 비판을 받아왔지만, 이번 오픈소스 모델 출시로 이러한 세간의 의식을 피할 수 있게 됐다.

오픈소스 모델은 누구나 무료로 이용하고 가공할 수 있으며, 전체 데이터를 다운로드해 인터넷 연결 없이도 온디바이스 AI로도 구동할 수 있다. 기존 유료 폐쇄형 모델인 앤스로픽 클로드와 구글 제미나이는 매출, 점유율에 직접적인 타격을 입을 전망이다. 성능 면에서 GPT-4o와 비슷한 수준이라는 점이 알려지며 오픈소스로 시장 확장을 노리던 메타, 딥시크, 알리바바 등도 전략 수정이 불가피할 전망이다. 오픈AI의 오픈소스 출시로 인해 인공지능 업계 전반의 지각이 바뀔 것이라는 게 중론이다.

초고성능 120B 모델, 보편적 성능의 20B 모델 각각 출시

오픈AI가 출시한 모델은 gpt-oss-120b와 gpt-oss-20b 두 종류며, 아파치 라이선스 2.0을 적용받는다. 해당 라이선스는 오픈소스 라이선스로 저작권, 특허, 상표권은 그대로 유지한 채 사용해야 하며, 수정 사항을 고지하면 소스 코드의 일부를 추가하거나 수정할 수 있다. 또한 2차 창작과 상업적 이용, 변형물에 대한 특허까지 출원할 수 있다. 아파치 라이선스 2.0으로 배포했다는 것은 배포 기업이 상업적인 이윤을 사실상 포기하고 시장 점유율 확대와 생태계 성장을 위해 소프트웨어를 내놓겠다는 의미에 가깝다.

오픈AI는 gpt-oss가 다양하게 활용될 수 있도록 추론 성능, 효율성, 실사용도에 중점을 두고 훈련했다. 기능 면에서는 질문을 분석한 뒤 특화된 부분이 나서 작업하는 전문가 혼합(Mixture-of-Experts, MoE)을 활용해 효율성을 끌어올렸고, 문장을 이해할 때 중요한 단어를 집중 분석하는 희소 어텐션도 사용된다. 또한 모델이 문장의 단어 순서를 정확하게 이해하도록 돕는 회전 위치 임베딩(RoPE)을 통해 최대 12만 8000단어의 긴 내용까지 한 번에 인식한다.

성능면에서 gpt-oss-120b 모델은 작업당 한 번에 51억 개의 매개변수를 끌어다 쓰며, 기존의 o4-mini와 거의 동등한 성능을 낸다. 크기가 작은 20b 모델은 전반적으로 o3-mini와 비슷한 성능을 낸다. 오픈AI가 코딩, 경쟁 수학, 의료, 에이전트 도구 등의 벤치마크로 o3, o4-mini, o3-mini 모델과 비교한 자료에 따르면, 코드 성능은 gpt-oss-120b가 2622점으로 2706점인 o3와 비슷하다. 코딩 도구 없이 비교한 결과에서는 gpt-oss-20b가 2230점, o3-mini가 2073점으로 높게 나왔다.

AIME 2024, 2025 등 수학테스트, 의료 시험, 대학원급 AI 문제 등 전반적인 벤치마크에서 두 모델 모두 폐쇄형 모델인 o3, o4-mini와 큰 차이가 없었다. 다만 100개 분야에 걸쳐 최상의 난이도 문제 2500개로 구성된 ‘인류의 마지막 시험’ 벤치마크에서는 o3의 성능이 월등히 높았다. o3가 폐쇄형 모델이므로 점수가 더 높은 구체적인 이유를 판단하기는 어렵지만, gpt-oss보다 도구 사용에서 더 효율적인 것으로 유추할 수 있다.

추론의 방향성 짚는 ‘사고 사슬’은 왜 공개하지 못할까

오픈AI는 gpt-oss에 사고 사슬(Chain-of-Thought)에 직접적인 지도를 적용하지 않았다. 사고 사슬은 ‘왜 이런 답이 나왔는지’를 단계적으로 생각하는 추론 과정을 풀이해서 보여주는 기능이다. 최근 연구에서 사고사슬을 관찰하는 것이 오작동을 탐지하는데 도움이 될 수 있다고 밝혀졌지만, 이를 훈련시키지 않는 것이 더 안전한 결과를 내놓는다는 게 오픈AI의 입장이다. 만약 추론 과정을 건드릴 경우 추후 어떻게 오작동을 일으키는지 파악하기 어려워질 수 있으니 오작동 탐지를 위해서라도 건드리지 않겠다는 것이다.

이에 따라 개발자들은 사고사슬의 동작 흐름을 일반 사용자들에게 노출시켜선 안되며, 단지 오작동 확인 용도로 쓰는 게 권장된다. gpt-oss 기반의 챗봇이나 서비스 등을 만들었을 때 사용자는 결론만 제공받고 어떻게 그 결과를 내놨는지까지는 알지 못하게 하라는 것이다.

사고사슬을 공개하지 않는 이유는 여러 가지가 있다. 일단 개발자가 사고사슬을 노출함으로써 발생할 수 있는 문제를 회피하기 위해서다. 도출된 결과와 달리 사고사슬 자체에 유해하거나 문제가 되는 내용 등이 포함될 수 있는데 이것이 노출돼 발생하는 문제는 오픈AI가 책임지지 않겠다는 의미다. 또한 사고 과정 자체가 오픈AI 입장에서는 향후 모델 개발을 위한 중요한 자산이며, 이것이 타의에 의해 왜곡되는 것을 막겠다는 취지도 있다. 오픈AI가 미처 탐지못한 오작동이나 모델의 문제점을 수집하려는 의도도 있다.

즉 사고사슬을 대외적으로 노출하지 말라는 지침은 오픈AI의 데이터 수집 순수성을 확보하고, 향후 사고사슬 노출로 인해 발생할 수 있는 법적, 윤리적 책임에서 벗어나기 위한 목적이 있다.

허깅페이스에서 무료로 제공, 거의 모든 시스템에서 사용 가능

gpt-oss-120b 및 oss-20b 모두 오픈소스 LLM 배포 플랫폼 ‘허깅페이스’를 통해 배포된다. 동작 환경은 엔비디아 H100 80GB 한 대로 120b 모델을 구동할 수 있고, 16GB 메모리만으로 20b 모델을 실행할 수 있다. 120b 모델 자체는 개발 환경용 고성능 컴퓨터에서 가능하고, 20b는 노트북과 데스크톱은 물론 임베디드 시스템, 엣지 컴퓨터 등 소형 장치에서도 사용할 수 있다.

오픈AI는 이미 허깅페이스 이외에도 MS 애저, vLLM, 올라마(ollama), 라마.cpp, LM 스튜디오, AWS, 파이어웍스, 투게더AI 등의 배포 플랫폼을 통해 모델 접근을 허용했으며, 엔비디아, AMD, 세레브라스, 그록(Groq) 등의 하드웨어에서 이용할 수 있도록 최적화했다. 마이크로소프트는 gpt-oss-20b 모델의 최적화 버전을 윈도우 버전으로 출시할 예정이다.

6년 만에 오픈소스 내놓은 오픈AI, 속내는?

오픈AI가 처음 출범했을 때 ‘오픈AI는 비영리 인공지능 연구기업이며, 재정적 수익 창출의 필요성에 구애받지 않고 인류 전체에 큰 혜택을 줄 방식으로 디지털 지능을 발전시키는 것’으로 소개됐다. 하지만 오픈AI는 GPT-3로 큰 성취를 맛본 이후 최근까지도 최신 모델을 폐쇄형 유료 모델로 운영해 왔고, 지난해에는 독립 영리 법인 분사 계획까지 들고 나왔었다. 업계의 엄청난 비난으로 인해 공익 기업으로 재편하고 비영리 이사회가 계속 지배하는 구조로 회귀했지만 여전히 오픈AI를 바라보는 업계의 시선은 따갑기만 하다.

지금이라도 오픈AI가 오픈소스 모델을 출시한 것은 전략의 다변화에 기인한다. 이번 gpt-oss 출시로 예산이 부족하거나 고성능 모델을 쓰기 어려운 개발 환경 등에서 고성능 모델을 활용하게 됐고, 민주적인 AI 기술 활용에 기여한다. 물론 순수한 의도만 있는 건 아니다. ‘최상위 포식자’에 가까운 오픈소스 모델이 출시됨에 따라 기존 오픈소스 LLM 생태계가 오픈AI 중심으로 재편될 여지가 있고, 지나치게 시장 점유율이 높아질 경우 오픈AI 자체에 기술이 종속될 수 있다.

이번 공개를 놓고 오픈AI는 ‘향후 오픈AI가 개방형 모델에 투자할만한 가치가 있는지를 알아보기 위해 자체 개방형 모델을 출시했다. 이 모델의 강점과 실제 응용분야에 대한 피드백을 보내면 의사 결정에 중요한 역할을 할 것’이라고 덧붙이고 있다. 즉 향후 오픈소스가 시장 지배적인 역할을 할지 판단하기 위해 공개했다는 의미가 깔려있다.

오픈AI는 지난주 AI가 결과까지 수행하는 챗GPT 에이전트를 공개했고, 조만간 GPT-5도 공개할 예정이다. 샘 알트만 오픈AI CEO는 GPT-5를 놓고 ‘내가 쓸모없다고 느껴지는 이상한 감정이 들었다’라며 GPT-5의 성능을 자랑하기도 했다. 이번 오픈소스 공개 역시 순수한 의도보다는 업계 영향력 강화를 위한 시도에 가깝다. 또 한 번 오픈AI가 AI 업계를 뒤흔들어 놓을 것으로 보이지만 무조건 긍정적으로만 볼 수 없는 게 현실이다.

IT동아 남시현 기자 (sh@itdonga.com)