필즈상 수상자 25명이 AI 기업의 목표와 수학계의 ‘심각한 정렬 불일치(severe misalignment)’를 규탄하는 성명을 발표했다. 사이언티픽 아메리칸(Scientific American)이 현지 시각 9월 14일 보도했다. 성명은 지난 11일 공개됐다.
성명은 지난주 오픈AI가 밀레니엄 문제 중 하나인 나비에-스토크스(Navier-Stokes) 방정식을 풀었다고 주장한 직후 나왔다. 수학자들은 수학의 목표가 문제 해결뿐 아니라 개념적 이해와 통찰에 있다고 강조했다. AI가 생성한 증명의 대량 생산이 인간의 수학 문화를 위협한다는 내용을 담았다.
서명자에는 테렌스 타오(Terence Tao)가 포함됐다. 타오는 몇 달 전 오픈AI 홍보 영상에 출연했지만 최근 우려로 선회했다. 그는 블로그에서 상황이 현저히 악화됐으며, 사회적 가치와 무관하게 강력한 자율 AI를 개발하는 경쟁이 벌어지고 있다고 적었다.
수학자들은 이번 성명과 함께 인간 수학 협회(AHM, Association for Human Mathematics)를 창립했다. 협회는 나비에-스토크스 사건 이전부터 준비돼 왔다. MIT 조교수 나오미 스위팅(Naomi Sweeting)은 수학과 AI 기업의 현재 관계가 해롭고 근시안적이라고 말했다.
성명은 수학이 테스트 케이스가 될 것이라고 밝혔다. AI가 수학을 대체하는 흐름이 다른 과학과 창의적 직업에도 영향을 줄 수 있다는 설명이다. 사이언티픽 아메리칸은 수학계와 AI 기업의 갈등이 본격화하는 신호로 이번 성명을 소개했다.
성명은 AI 기업이 수학을 ‘벤치마크’로 삼는 방식에도 문제를 제기했다. 수학 문제를 푸는 능력이 AI 성능의 척도로 쓰이는 흐름을 지적한 것이다. 수학자들은 문제 풀이와 수학적 이해를 구분할 필요가 있다고 강조했다.
필즈상은 4년마다 수여되는 수학계 최고 권위의 상이다. 40세 미만 수학자에게 주어지며 ‘수학계의 노벨상’으로 불린다. 현재까지 수상자는 60명이 넘는다. 이번 성명은 현역 수상자 상당수가 참여한 이례적인 움직임이다.
오픈AI는 나비에-스토크스 방정식 풀이에 대해 공식적인 검증 절차를 밟고 있다고 밝혔다. 수학계에서는 증명의 정확성과 방법론에 대한 논의가 이어지고 있다. AI가 만든 증명을 어떻게 검증할지에 대한 기준도 함께 논의되고 있다.
사이언티픽 아메리칸은 이번 성명이 AI 개발 속도를 둘러싼 학계가 품고 있는 우려라고 전했다. 수학자들은 AI를 도구로 활용하는 것 자체에는 반대하지 않는다고 밝혔다. 문제는 인간의 수학 활동을 대체하는 방향이라고 설명했다.
자세한 내용은 사이언티픽 아메리칸(Scientific American)에서 확인할 수 있다.
이미지 출처: Stefan Zachow of the International Mathe / Wikimedia Commons (Public domain)
AI Matters 뉴스레터 구독하기
