시카고 선타임스(Chicago Sun-Times)와 필라델피아 인콰이어러(Philadelphia Inquirer)가 생성형 인공지능이 만든 허위 여름 도서 추천 목록을 게재한 후 공식 사과했다. 뉴욕타임스가 21일(현지 시간) 보도한 내용에 따르면, 두 신문사가 특별 섹션에 게재한 여름 독서 목록에는 이사벨 아옌데(Isabel Allende), 민 진 리(Min Jin Lee) 등 유명 작가들의 책이 포함되어 있었다. 또한 델리아 오웬스(Delia Owens), 테일러 젠킨스 리드(Taylor Jenkins Reid), 브릿 베넷(Brit Bennett) 등 베스트셀러 작가들의 소설과 최근 퓰리처상을 수상한 퍼시벌 에버렛(Percival Everett)의 소설도 목록에 있었다.

문제는 이 작가들에게 귀속된 책 제목들이 모두 실제로 존재하지 않는다는 점이었다. 이들은 모두 생성형 인공지능이 만든 허위 제목들이었다. 이는 잘못된 AI가 뉴스에 침투한 최신 사례다. 생성형 AI가 발전했음에도 불구하고 시스템이 정확한 정보를 생산한다고 보장할 방법은 여전히 없다. AI 챗봇은 참과 거짓을 구별할 수 없으며 종종 내용을 지어낸다. 챗봇들은 권위있는 듯한 어조로 정보와 전문가 이름을 제시할 수 있다.

대부분의 책 설명은 상당히 믿을 만했다. 베넷이 "자연재해로 시험받는 가족 유대"를 탐구하거나 아옌데가 또 다른 "다세대 서사"를 쓸 것이라는 내용은 충분히 가능해 보였다. 기술 전문 매체 404 미디어(404 Media)가 이 독서 목록에 대해 먼저 보도했다. 존재하지 않는 책 제목 외에도 해당 섹션에는 신원을 확인할 수 없는 전문가들의 인용문도 포함되어 있었다. 선타임스와 인콰이어러 모두 AI 사용을 비난하는 성명을 발표하고 부분적으로는 전국적으로 콘텐츠를 배급하는 허스트 신디케이트인 킹 피처스(King Features)를 탓했다. 이 신디케이트는 "히트 인덱스: 여름 최고의 것들을 위한 가이드(Heat Index: Your Guide to the Best of Summer)"라는 56페이지 분량의 신문 부록을 제작했으며, 여기에는 여름 음식 트렌드와 활동 추천 등도 포함되어 있었다.

목록에는 기명이 없었지만 마르코 부스카글리아(Marco Buscaglia)라는 프리랜서가 이 기사에 대한 책임을 졌다. 그는 목록이 인공지능, 아마도 클로드(Claude)에 의해 부분적으로 생성되었다고 확인했다. 부스카글리아는 인터뷰에서 "이것은 제 쪽의 정말 나쁜 실수였고 선타임스와 킹 피처스에 영향을 미쳤으며 그들이 이로 인해 비난을 받고 있어서 안타깝다"고 말했다. 특히 자원이 부족한 지역 뉴스룸의 미디어 기관들이 보도를 보완하기 위해 신디케이트에 의존하는 것은 상당히 일반적이다.

불과 두 달 전 선타임스 직원의 20%가 명예퇴직 제안의 일환으로 사직했다. 수요일 이 신문의 홈페이지 상단에는 두 개의 배너가 있었다. 하나는 5월 18일 특별 섹션에 대한 성명으로 연결되었고, 다른 하나는 연방 예산 삭감이 지역 저널리즘을 위협한다는 기사로 연결되었다.

옥스퍼드 대학교 로이터 연구소의 AI 및 디지털 뉴스 연구원인 펠릭스 M. 사이먼(Felix M. Simon)은 기술 자체가 완전히 잘못된 것은 아니라고 말했다. 뉴스 수집을 위한 AI 사용에는 책임감 있는 방법과 무책임한 방법이 있다고 그는 말했다. 사이먼 박사는 "프리랜서 수준부터 임원 수준까지 모든 사람을 위한 더 나은 교육이 필요하다"고 말하며, 사람들이 "궁극적으로 이 사실적으로 거짓된 기사가 평판 있는 뉴스 매체에 나타나도록 허용한 구조들"을 살펴보라고 촉구했다.

인콰이어러의 발행인 겸 최고경영자인 리사 휴즈(Lisa Hughes)에 따르면 이 특별 섹션은 발견된 후 인콰이어러 웹사이트에서 제거되었다. 성명에 따르면 이 섹션은 선타임스의 전자신문 버전에서도 제거되었으며 구독자들은 프리미엄 에디션 요금이 부과되지 않을 예정이다. 킹 피처스는 논평 요청에 응답하지 않았지만 선타임스에 제공한 성명에서 "직원, 만화가, 칼럼니스트, 프리랜스 작가들의 콘텐츠 제작을 위한 AI 사용에 대해 엄격한 정책"을 가지고 있다고 밝혔다.

선타임스는 성명에서 이번 사건이 "학습의 순간"이 되어야 한다고 말했다. 성명은 "우리의 작업이 가치 있고 소중한 이유는 그 뒤에 있는 인간성 때문이다"라고 밝혔다.

해당 기사의 원문은 링크에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

기사는 클로드와 챗gpt를 활용해 작성되었습니다.