오픈AI(OpenAI)가 5월 20일(현지시간) 자사의 내부 범용 모델이 이산기하학(discrete geometry)의 유명한 추측 하나를 자율적으로 반증했다고 밝혔다. 80년 가까이 수학자들을 괴롭혀 온 난제다.

문제의 이름은 ‘평면 단위거리 문제(unit distance problem)’다. 헝가리 출신의 전설적 수학자 폴 에르되시(Paul Erdős)가 1946년 제기한 것으로, 평면 위에 점을 일정 개수 배치할 때 ‘정확히 1단위 떨어진 점의 쌍’을 최대 몇 개까지 만들 수 있는지를 묻는다. 단순해 보이지만 점의 수가 늘어날수록 가능한 배치가 폭발적으로 늘어 오랫동안 풀리지 않았다.

오픈AI에 따르면 모델은 사람이 정답을 알려주지 않은 상태에서 스스로 새로운 유형의 해(solution)를 찾아냈고, 이를 통해 기존 추측이 틀렸음을 보였다. 이 증명은 외부 수학자 그룹의 검증을 거쳤다.

이 대목은 앞선 사례와 견줘 볼 만하다. 지난해 오픈AI 측이 ‘GPT-5가 에르되시 미해결 문제 여러 개를 풀었다’고 주장했다가, 해당 문제들이 ‘학계 전체가 못 푼 난제’가 아니라 ‘추적 사이트 운영자가 답을 몰랐던 항목’으로 드러나면서 과장 논란을 빚은 적이 있다. 반면 이번 결과는 특정 추측을 반증하는 새로운 해를 제시했고 외부 수학자들의 검증을 거쳤다고 밝힌 점에서 결이 다르다.

주목할 부분은 결과 자체보다 ‘과정’이다. 모델이 찾은 해는 대수적 수론(algebraic number theory)과 이산기하학이라는, 언뜻 멀어 보이는 두 분야를 예상치 못한 방식으로 연결했다. 인간 수학자조차 떠올리기 쉽지 않은 다리를 AI가 놓은 셈이다.

오픈AI는 이번 사례를 두고 AI가 ‘문제 풀이’를 넘어 ‘독창적 연구’로 나아가고 있음을 보여 주는 가장 강력한 공개 증거라고 평가했다. AI를 단순한 계산 도구가 아니라 새로운 발견을 함께 만들어 내는 ‘공동 연구자(co-discoverer)’로 볼 수 있느냐를 둘러싼 논쟁도 다시 불붙고 있다.

자세한 내용은 오픈AI 공식 블로그에서 확인할 수 있다.

이미지 출처: 이디오그램 생성