오픈AI의 티보 소티오(Tibo Sottiaux)가 현지 시각 10월 11일 엑스(X)를 통해 AI 코딩 도구 코덱스와 업무용 서비스 ‘워크(Work)’에서 이용하는 ‘GPT-6.1 솔’의 기본 컨텍스트를 27만 2,000토큰에서 50만 토큰으로 상향했다고 밝혔다. 컨텍스트는 AI가 한 번의 작업에서 기억하고 참고할 수 있는 자료의 분량이다. 토큰은 AI가 글을 처리하는 기본 단위로, 이번 조정으로 기본값이 약 80% 확대됐다.

작업이 길어져 기본값을 채우면 AI는 앞선 대화와 작업 내용을 요약해 공간을 확보하는데, 이를 ‘압축’이라고 한다. 압축 과정에서는 세부 내용이 빠질 수 있다. 소티오는 기본값을 높여 압축 횟수를 줄였고, 그만큼 길고 세밀한 작업을 처리하기 쉬워졌다고 설명했다. 또 충분한 시험을 거쳐 대부분의 이용자에게 알맞은 값으로 정했다고 덧붙였다.

이용자는 설정에서 기본값을 직접 높이거나 낮출 수 있다. GPT-6.1 솔은 최대 약 100만 토큰까지 지원하며, 오픈AI는 앞으로 기본값을 더 높일 계획이다.

GPT-6.1 솔은 오픈AI가 9월 29일 개발자 행사 ‘데브데이’에서 공개한 모델로, 최상위 모델 ‘GPT-6 아스트라’에 가까운 성능을 더 낮은 비용으로 제공한다. 복잡한 코딩과 컴퓨터 조작, 전문 업무에 맞춰 개발됐으며, 챗GPT 플러스와 프로, 비즈니스, 엔터프라이즈, 에듀 요금제 이용자가 코덱스와 워크에서 이용할 수 있다.

오픈AI는 이달 초부터 28일 동안 코덱스의 사용 편의 기능을 매일 하나씩 개선하고 있으며, 이번 발표는 7일 차에 해당한다. 첫날에는 코덱스의 응답 속도를 50% 높였다.

자세한 내용은 티보 소티오 엑스 게시물에서 확인할 수 있다.

이미지 출처: 오픈AI