15일(현지 시간) 테크크런치가 보도한 내용에 따르면, 앤트로픽(Anthropic)의 변호사가 음악 출판사들과의 법적 분쟁에서 회사의 AI 챗봇 '클로드(Claude)'가 생성한 잘못된 인용을 사용한 것에 대해 사과했다. 블룸버그가 최초 보도한 바에 따르면, 이 내용은 목요일 북부 캘리포니아 법원에 제출된 문서에서 확인됐다.

앤트로픽은 해당 문서에서 클로드가 "부정확한 제목과 부정확한 저자"가 포함된 인용을 생성했다고 밝혔다. 앤트로픽의 변호사들은 "수동 인용 점검"이 이를 포함한 클로드의 환각(hallucination)으로 발생한 여러 오류를 잡아내지 못했다고 설명했다. 앤트로픽은 이 오류에 대해 사과하며 "정직한 인용 실수였으며 권위를 위조한 것이 아니다"라고 주장했다.

이번 주 초, 유니버설 뮤직 그룹(Universal Music Group)과 기타 음악 출판사들을 대표하는 변호사들은 앤트로픽의 전문가 증인인 회사 직원 올리비아 첸(Olivia Chen)이 클로드를 사용해 가짜 기사를 인용했다고 주장했다. 이에 수전 반 쿨렌(Susan van Keulen) 연방 판사는 앤트로픽에게 이 혐의에 대한 응답을 명령했다. 음악 출판사들의 소송은 생성형 AI 도구를 만들기 위해 저작권 소유자의 작품을 오용했다는 혐의로 기술 기업과 저작권 소유자 간에 발생한 여러 분쟁 중 하나이다.

이는 변호사들이 법정에서 AI를 사용한 후 결정을 후회하게 된 최근 사례이다. 이번 주 초에는 캘리포니아 판사가 "가짜 AI 생성 연구"를 법원에 제출한 두 로펌을 강하게 비판했다. 지난 1월에도 호주의 한 변호사가 법원 문서 준비에 챗GPT(ChatGPT)를 사용한 것이 발각됐으며, 이 챗봇은 잘못된 인용을 생성했다.

그러나 이러한 오류에도 불구하고 법률 업무를 자동화하려는 스타트업들은 엄청난 규모의 투자금을 유치하고 있다. 생성형 AI 모델을 사용해 변호사를 지원하는 '하비(Harvey)'는 50억 달러 가치로 2억 5천만 달러 이상을 조달하는 협상 중이라고 전해진다.