한 변호사가 AI를 통한 연구를 신뢰하다 법정에 거짓 판례를 제출한 사실이 드러나며, 호주의 법조계에 경종이 울렸다. 웨스턴오스트레일리아주의 변호사는 이민 사건 관련 법원 서류를 작성하면서 Anthropic의 Claude AI와 Microsoft Copilot을 활용해 판례를 검색했지만, 그 중 4개의 인용문은 실제 존재하지 않는 것으로 확인됐다. 이로 인해 법원은 연방 정부 비용으로 8,371.30호주달러를 부과했으며, 해당 변호사를 웨스턴오스트레일리아주 법조 규제 위원회(Legal Practice Board)에 회부했다.

재판부의 Arran Gerrard 판사는 “AI에 전적으로 의존한 문서는 법정에 제출되어선 안 된다”는 경고와 함께, AI 도구를 맹목적으로 신뢰하는 것은 전문직의 기본 의무를 저버리는 행동이라고 비판했다. 또한 이 사건은 “AI 의존이 양호한 사건을 벤치마크 하나로 무너뜨릴 수 있는 위험성을 보여준다”고 지적했다.

이는 단일사례가 아니다. 2023년부터 호주 전역의 법원에서 AI로 생성된 허위 판례 인용 오류가 20건 이상 보고되었으며, 사법 기관과 법조계는 AI 활용의 윤리적 기준과 검증 절차 마련을 요구하고 있다.

이번 사건을 계기로 AI 활용 전문성과 책임감에 대한 문제가 법조계 전반에 다시 부각됐다. AI는 신속하고 효율적인 법률 조사 도구로 활용할 수 있지만, 사람의 검증 없이는 ‘환각’이라 불리는 오류를 포함할 가능성이 크다는 사실도 분명해졌다. 재판부는 이 점을 강조하며, 법무 종사자들에게 AI가 제시한 정보를 반드시 법적 데이터베이스와 대조 검증하라고 권고했다.

AI 도구는 법률 번역, 요약, 과거 판례 탐색 등에서는 유용한 도구가 될 수 있지만, 법원 제출 문서의 정확성과 신뢰성은 철저한 인간 검증 없이는 확보되지 않는다는 현실은 명확하다. 이번 사례는 스스로 ‘정밀 기계’임을 자처하는 AI가 오히려 ‘신뢰의 오용’을 초래할 수 있음을 상기시킨다.

글 / 한만수 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com