피어리오딕 랩스가 파라미터 1조 개 규모의 과학 특화 모델 ‘피어리오딕 네온’을 공개했다. 현지 시각 9월 15일 공식 블로그를 통해 발표했다. 파라미터는 모델이 학습 과정에서 조정하는 내부 변수의 개수로, 모델의 크기를 가늠하는 값으로 쓰인다.

피어리오딕 랩스는 지난해 창업 이후 멘로파크에 고속 실험실을 짓고 초전도체와 자석 같은 새 소재를 탐색해 왔다. 실험실은 24시간 가동되며, 회사는 그 실험 데이터로 과학용 AI를 학습시키고 그 AI가 다시 더 나은 실험을 설계하게 하는 구조를 목표로 제시했다.

네온은 실험실 데이터를 활용한 미드트레이닝과 강화학습을 거쳐 학습됐다. 미드트레이닝은 사전 학습과 최종 조정 사이에 특정 분야 자료를 추가로 학습시키는 단계이고, 강화학습은 모델의 행동에 점수를 매겨 더 나은 쪽으로 유도하는 방법이다. 회사는 기반 구조로 공개 가중치 모델인 키미 K2.6을 썼고, 엔비디아 H200 그래픽처리장치 약 1,300장으로 학습을 수행했다.

성능 측정 대상은 X선 회절(XRD) 분석이다. XRD는 시료에 X선을 쏘아 나오는 회절 무늬로 물질의 결정 구조를 알아내는 실험 기법으로, 해석에는 실험 조건과 시뮬레이션, 이전 결과를 함께 살피는 판단이 필요해 그동안 연구자가 몇 시간씩 매달려 왔다. 피어리오딕 랩스는 네온이 이 분석에서 GPT-6 아스트라와 클로드 페이블 5.1을 모두 앞섰다고 밝혔다.

회사는 앞으로 네온을 연구 과제 설정과 합성 절차 개발, 실험 선택으로 확대하겠다고 밝혔다. 피어리오딕 랩스는 오픈AI와 구글 딥마인드 출신 연구자들이 설립했고, 지난해 9월 시드 라운드에서 3억 달러(약 4,131억 원)를 유치했다.

자세한 내용은 피어리오딕 랩스(Periodic Labs)에서 확인할 수 있다.

이미지 출처: 피어리오딕 랩스