대규모 언어 모델이 사실을 틀리게 답하는 원인이 지식을 저장하지 못해서가 아니라 저장한 지식을 꺼내지 못해서라는 연구 결과를 구글 리서치와 이스라엘 테크니온 공과대학교 연구진이 공개했다. 「Empty Shelves or Lost Keys?」라는 제목의 논문이며, 구글 리서치 블로그가 8월 12일 이 내용을 소개했다.
연구진은 분석 단위를 질문이 아닌 사실로 바꿨다. 위키백과에서 뽑은 사실 2,150건마다 과제 열 개를 설계해, 같은 사실을 사전 학습과 비슷한 형태의 문장 완성으로 묻고, 직접 질문과 역방향 질문으로도 묻고, 객관식으로도 물었다. 모델 13종에서 응답 400만 건을 모아 각 사실을 저장 실패, 인출 실패, 직접 인출, 사고를 거친 인출, 저장 없이 추론으로 맞힌 경우로 나눴다.
GPT-5와 제미나이 3은 이 벤치마크의 사실 가운데 95~98%를 매개변수에 담고 있었다. 매개변수는 모델이 학습 내용을 저장해 두는 수치 덩어리다. 그런데 제미나이 3 프로와 GPT-5가 곧바로 답하지 못한 사실이 26~34%였고, 사고 과정을 켜면 실패율이 11~12%로 낮아졌다.
사고를 켰을 때 회복되는 비율은 사실의 성격에 따라 달라졌다. 이미 담고 있으나 바로 꺼내지 못하던 사실은 40~65%가 회복됐고, 애초에 담고 있지 않던 사실은 5~15%에 그쳤다. 사고가 실제로 필요한 사실은 전체의 10~20%였다.
젬마 3은 매개변수가 10억에서 270억으로 커지면서 사실을 담지 못하는 비율이 85%에서 23%로 줄었다. 대신 담고 있으면서 꺼내지 못하는 비율이 최대 40%까지 올라갔다. 널리 알려진 사실과 드물게 언급되는 사실 사이에서도 저장 격차는 수 퍼센트포인트인 데 비해 인출 격차는 25%를 넘었다.
연구진은 논문에서 “정확도 지표만으로는 저장 실패와 인출 실패를 구분할 수 없지만, 둘은 서로 다른 한계와 서로 다른 해법을 뜻한다”고 적었다. 또 “드문 사실은 저장돼 있으면서 접근되지 않는 경우가 많고, 역방향 사실은 생성하지 못하면서도 알아보기는 한다”며 이를 지식이 없는 것이 아니라 인출에 실패한 것으로 다시 봐야 한다고 밝혔다.
논문 저자인 니타이 칼데론 연구원은 벤처비트에 “사실이 틀리게 나오면 흔히 모델을 키우거나 데이터를 늘리는 쪽으로 간다”며 “둘 다 비용이 크고, 사실이 이미 저장돼 있다면 어느 쪽도 도움이 되지 않는다”고 말했다. 벤치마크로 쓴 위키프로파일 데이터셋은 허깅페이스에 공개돼 있다.
자세한 내용은 구글 리서치에서 확인할 수 있다.
이미지 출처: 구글 리서치
AI Matters 뉴스레터 구독하기
9
