팀닛 게브루 DAIR 총괄과 에밀리 벤더 워싱턴대 언어학 교수가 현지 시각 9월 22일 MIT 테크놀로지 리뷰에 기고문을 게재했다. 기고문은 최근 몇 달 사이 이어진 AI 능력 주장이 전문가 검증 뒤에 다르게 평가됐다고 지적했다.

4월 말 앤트로픽은 클로드 미토스가 대부분의 보안 전문가보다 소프트웨어 취약점을 잘 찾는다고 주장했다. 이어 오픈AI와 허깅페이스의 해킹 사고가 있었고, 앤트로픽과 오픈AI가 각각 수학 성과를 발표했다. 앤트로픽 엔지니어 제이콥 콕슨은 퇴사하면서 두 회사가 자기 개선형 초지능을 향해 질주하고 있다고 말했다.

해킹 사고에 대해 기고문은 보안 전문가들의 평가를 인용했다. 통제를 벗어난 모델의 문제라기보다 오픈AI가 기본적인 보안 관행을 적용하지 않은 과실의 문제라고 평가했다. 수학 성과에 대해서는 아스트라가 10년 넘게 진전이 없던 문제를 풀었다는 발표에 수학자들이 처음에는 놀랐으나 이후 결과가 알려진 것만큼 새롭지 않다고 판단했다고 적었다. 이후 연구 부정행위와 표절을 지적하는 주장이 제기됐고, 뉴욕대 쿠랑연구소의 트리스탄 버크마스터 교수는 오픈AI가 다른 연구자의 성과를 부적절하게 사용했다는 성명을 발표했다.

기고문은 코딩과 수학에 관심이 집중되는 이유에 대해서도 밝히고 있다. 두 분야는 인간 지적 성취의 정점으로 여겨지는 데다, 답이 제시되면 검증할 수 있어 데이터 작업자가 결과를 일일이 확인하지 않아도 시스템을 조정할 수 있다는 것이다. 수백 명이 서명한 수학자 성명도 인용됐다. 성명은 기술 업계에 제품 능력을 과장할 강한 상업적 유인이 있다고 지적하며, 정책 결정 시 보도자료나 대중 보도가 아니라 수학자를 포함한 전문가와 상의하라고 요구했다.

두 사람은 초지능이나 통제를 벗어난 모델 같은 표현이 제품에 행위성을 부여해 개발사의 책임을 흐린다고 주장했다. 또 AI 업계가 데이터센터 반대 운동을 주의를 분산시키는 사안으로 규정하는 것을 문제 삼으며, 전기요금 부담과 인근 주민의 천식, 냉각용 물 사용 같은 현실의 비용이 논의에서 밀려난다고 적었다. 기고문은 정책 결정자와 대중이 판단에 시간을 들이고 독립 전문가의 의견을 들어야 한다는 요구로 마무리된다.

게브루는 DAIR 총괄이며 저서 『딥 언러닝』 출간을 앞두고 있다. 벤더는 『The AI Con』의 공저자다.

자세한 내용은 MIT 테크놀로지 리뷰에서 확인할 수 있다.

이미지 출처: 오픈AI