오픈AI가 독립 수학·AI 자문 그룹과 협력한다고 현지 시각 9월 21일 공식 블로그에서 밝혔다. 자사의 수학 연구 성과 공개 방식을 두고 수학계에서 제기된 우려에 대응하는 조치다.

오픈AI는 발표문에서 8월 28일 새 내부 모델의 학습을 시작했고, 이 모델이 나비에-스토크스 밀레니엄 문제를 푼 데 더해 수학 대부분 분야에서 오랜 미해결 문제 100개 이상을 해결했다고 적었다. 밀레니엄 문제는 클레이수학연구소가 2000년에 선정한 일곱 개의 미해결 난제를 말한다. 오픈AI는 “그 진전 속도가 오픈AI 내부 수학자들을 놀라게 했다”고 밝혔다.

자문 그룹은 프린스턴 고등연구소에 두고 별도 사이트를 운영한다. 초기 구성원은 9명이다. 프랑수아 샤를, 카밀로 데 렐리스, 티머시 가워스, 마틴 헤어러, 니킬 스리바스타바, 울리케 틸만, 라비 바킬, 에드워드 위튼, 멜라니 매칫 우드가 참여한다. 가워스와 헤어러는 필즈상 수상자다.

그룹이 맡는 일은 새 결과의 중요도 평가, 공개 방식 조율, 수학 연구의 학술·직업 규범에 대한 자문, 오픈AI 도구가 수학 연구와 학습을 어떻게 지원할지에 대한 자문이다. 독립성 조건도 함께 명시됐다. 요청받지 않은 조언을 낼 자유와 오픈AI가 수학에 미치는 영향을 논평할 자유, 조언을 공개할 자유가 있으며 구성원은 오픈AI로부터 보수를 받지 않는다. 그룹이 구성원을 스스로 교체할 수도 있다.

다만 범위에는 선이 그어졌다. 오픈AI는 “그룹은 우리 내부 수학 진전의 속도 조절을 자문할 책임은 지지 않는다”고 적었다. 수학계가 제기한 우려의 상당 부분이 성과 공개 속도와 관련돼 있는데, 그 부분은 자문 대상에서 제외됐다.

배경에는 지난 11일 게재된 공개 선언문이 있다. 「수학에서 AI의 심각한 정렬 이탈」이라는 제목의 이 글에는 필즈상 수상자 27명이 서명했다. 테렌스 타오, 페터 숄체, 마리나 뱌조우스카, 세드리크 빌라니, 막심 콘체비치 등이 서명자에 포함됐다. 선언문은 문제를 푸는 것이 개념적 이해와 통찰이라는 주된 목표를 위한 도구이자 대리 지표일 뿐이라며, “참과 거짓 명제를 점점 빠른 속도로 대량 생산하는 것은 새 아이디어에 생명을 불어넣기보다 비옥한 토양을 파괴할 수 있다”고 적었다. 해답이 급하게 발표되면서 제대로 된 정리와 선행 연구 인용이 빠지고, 이것이 다른 창작 직군과 마찬가지로 귀속과 표절 문제를 낳는다는 지적도 함께 적혔다.

선언문은 영어 외에 프랑스어, 독일어, 이탈리아어, 스페인어, 일본어, 중국어, 러시아어로 제공되며 연구자 식별번호 로그인이나 학술 이메일 확인으로 추가 서명을 받고 있다. 자문 그룹 구성원 가운데 헤어러는 이 선언문에 서명한 사람이기도 하다.

자세한 내용은 오픈AI에서 확인할 수 있다.

이미지 출처: 오픈AI