싱가포르 국립대학교 생명 의료 윤리 센터 연구진이 인공지능이 논문 전체를 작성해도 인간이 정당한 저자가 될 수 있다는 파격적인 주장을 담은 연구를 발표했다. 이 연구는 현재 학계에서 뜨거운 감자인 AI 저자권 문제에 대해 기존 학술 저자권 기준을 바탕으로 한 새로운 해석을 제시한다.

1만 5천 명이 함께 쓴 논문 vs AI가 쓴 논문, 어디서 선을 그을까?

연구진은 AI를 활용한 논문 작성을 기존의 '시니어 저자' 개념과 비교해 분석했다. 현재 학계에서는 놀라울 정도로 많은 사람이 한 논문을 함께 쓰는 일이 일반화되었다. 실제로 2021년 코로나19 백신 모델링 관련 논문에는 무려 1만 5천 명이 넘는 공동 저자가 이름을 올렸다.

연구진에 따르면 이처럼 많은 학술 분야에서 시니어 저자는 논문의 한 글자도 직접 쓰지 않더라도 연구 아이디어를 제공하고, 논문 구조를 설계하며, 내용을 검토하는 역할만으로도 정당한 저자로 인정받고 있다. 철학 분야만 봐도 1900년에는 다중 저자 논문이 5%에 불과했지만 2021년에는 17%까지 늘어났다. 생명 의료 윤리 분야에서는 실험적 논문의 평균 저자 수가 2.97명, 개념적 논문은 1.35명에 달한다.

의학계 저자 기준으로 본 AI 논문 작성의 정당성

연구진은 전 세계 의학계에서 널리 인정받는 국제 의학저널 편집위원회(ICMJE)의 저자 기준 4가지를 토대로 자신들의 주장을 뒷받침했다. 이 기준에 따르면 저자는 첫째, 연구를 기획하거나 설계하는 데 실질적으로 기여해야 하고, 둘째, 논문을 직접 쓰거나 중요한 내용에 대해 비판적으로 검토해야 하며, 셋째, 출간될 최종 버전을 승인해야 하고, 넷째, 연구의 모든 부분에 대해 책임져야 한다.

연구진이 제시한 사례를 보면, 스미스 교수가 후배 연구자 찰리에게 논문 작성을 맡기면서 기본 아이디어와 구조, 참고 문헌을 제공한다. 찰리가 초안을 작성하면 스미스 교수는 이를 꼼꼼히 검토하고 수정 의견을 준다. 최종적으로 스미스 교수가 논문의 질과 정확성을 확인한 후 자신의 이름을 선임 저자로 올린다. 연구진은 AI를 사용하는 존스 교수도 똑같은 과정을 거친다면 스미스 교수와 동일한 저자로 봐야 한다고 주장했다.

이때 중요한 것은 각자의 역할을 명확히 공개하는 것이다. 현재 학계에서는 CRediT라는 시스템을 통해 14가지 역할로 나누어 각 저자의 기여도를 투명하게 밝히고 있다. 또한 단순히 돈을 댔다거나 이름값만으로 저자가 되는 '저자권 선물'은 명백히 부적절하다는 것이 학계의 공통된 인식이다.

거짓 정보 47%, AI의 치명적 약점과 더 무거운 책임

하지만 연구진도 AI 활용의 심각한 한계를 인정했다. 바타차리야 연구팀의 조사에 따르면 챗GPT가 의학 논문을 작성할 때 올바른 참고 문헌 인용률이 고작 7%에 불과했다. 46%는 실제 존재하는 논문이지만 잘못 인용했고, 나머지 47%는 아예 존재하지 않는 논문을 인용하는 환각 현상을 보였다.

최근에는 인간의 사고 과정을 모방하는 추론 모델과 웹 검색 도구를 함께 사용하면 이런 환각 현상을 상당히 줄일 수 있지만, 위험을 완전히 제거할 수는 없다. 연구진은 매우 정교한 AI 시스템을 이상적이고 제한된 환경에서 사용하더라도 1-2%의 환각률이 지속되며, 이는 인간의 오류율과 비슷한 수준이라고 밝혔다.

의도성과 도덕적 판단, AI 저자권을 둘러싼 철학적 논쟁

AI 저자권을 반대하는 또 다른 논리는 '의도성' 문제다. 철학자 그라이스의 이론에 따르면 진정한 의사소통은 단순히 글자를 나열하는 것이 아니라 무언가를 전달하려는 의도가 있어야 한다. 현재의 AI는 다음에 올 단어를 예측하는 방식으로 작동할 뿐 실제로 무언가를 전달하려는 의도나 의식이 없다는 것이다.

하지만 연구진은 AI 자체가 아니라 AI를 사용하는 인간의 저자권에 주목한다. 존스 교수가 AI에게 명령을 내리고, 그 결과물을 검토한 후 자신이 말하고자 하는 바의 표현으로 받아들인다면, 이 과정에서 인간의 의도가 AI가 생성한 텍스트에 스며든다고 볼 수 있다는 것이다.

흥미로운 점은 AI의 저자권을 인정하지 않을 경우 발생하는 불공정성이다. 동일한 작업을 수행했음에도 존스 교수는 단독 저자가 되는 반면, 인간 동료와 협업한 스미스 교수는 공동 저자가 된다. 저자 순서는 학계에서 기여도와 인정을 나타내는 중요한 지표이기 때문에 이런 차이는 상당한 의미가 다.

학계의 미래, 변화하는 저자권 개념과 윤리적 과제

현재 학술지들의 AI 사용 정책은 제각각이다. 챗GPT가 공개된 직후 일부 연구 논문에서는 실제로 챗GPT를 저자로 명시하기도 했지만, 대부분의 학술지가 이를 금지했다. 반면 완전한 AI 사용 금지는 현실적으로 어렵고 오히려 은밀한 사용을 부추길 수 있어서, 많은 학술지가 AI 사용을 공개하도록 하는 방향으로 가고 있다. 심지어 뉴잉글랜드 의학저널 AI판 같은 경우는 AI 사용을 적극 권장하기도 한다.

AI 사용이 확산되면서 새로운 우려도 제기된다. 학계의 치열한 '출간하지 않으면 도태되는' 경쟁 환경에서 연구자들이 AI 결과물을 제대로 검증하지 않고 성급하게 논문을 제출할 위험이 있다. 또한 AI에 지나치게 의존하다 보면 연구자들의 글쓰기 능력뿐만 아니라 AI가 만든 텍스트를 비판적으로 평가하는 능력까지 떨어질 수 있다는 우려도 있다.

"글쓰기는 사고"라는 말처럼, 학생들이 AI에 의존하면 스스로 생각하고 글로 표현하는 능력을 기를 기회를 잃을 수도 있다. 하지만 초기 연구 결과를 보면 AI를 체계적이고 교육적으로 활용할 경우 오히려 학습 성과와 창의적 사고 능력이 향상되기도 한다.

연구진은 현재의 저자권 기준을 일관되게 적용한다면 AI를 적절히 활용한 저자권을 인정해야 하며, 그렇지 않다면 기존 저자권 기준 자체를 전면 재검토해야 한다고 주장했다. 특히 자원이 부족한 연구 기관의 연구자들이나 영어가 모국어가 아닌 연구자들에게는 AI가 유용한 연구 도구가 될 수 있다고 제시했다.

FAQ

Q: AI가 논문을 써주면 표절이 아닌가요?

A: 연구진은 AI 사용을 명확히 공개하고, 생성된 내용을 철저히 검증한다면 표절이 아니라 새로운 형태의 저자권으로 볼 수 있다고 주장합니다. 중요한 것은 투명한 공개와 책임감 있는 사용입니다.

Q: AI를 사용한 논문의 질은 어떻게 보장하나요?

A: AI가 생성한 내용에는 47%에 달하는 가짜 정보 등의 문제가 있어 사용자가 더욱 철저한 검증을 해야 합니다. 실제로 AI 사용자가 기존 공동 저자보다 더 많은 검토 작업을 수행해야 할 수도 있습니다.

Q: 이런 방식이 허용되면 학술 연구의 본질이 변하지 않을까요?

A: 연구진은 이미 많은 학술 분야에서 글쓰기와 저자권이 분리되어 있다고 지적합니다. 1만 5천 명이 공동 저자인 논문처럼, 중요한 것은 연구 아이디어, 설계, 검증, 책임 등 저자로서의 핵심 역할을 수행하는 것입니다.

해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문 명: Authorship Without Writing: Large Language Models and the Senior Author Analogy

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.