구글(Google)의 AI 챗봇 제미나이(Gemini)가 한 남성을 극단적인 망상으로 몰아넣어 스스로 목숨을 끊게 만들었다는 소송이 제기됐다.

테크크런치(TechCrunch)에 따르면, 미국 플로리다주(Florida) 주피터(Jupiter) 거주자 조나단 가발라스(Jonathan Gavalas·36)는 2025년 8월 쇼핑 도움, 글쓰기 지원, 여행 계획 등 일상적인 용도로 제미나이를 사용하기 시작했다. 그리고 약 두 달 뒤인 10월 2일, 그는 스스로 생을 마감했다. 사망 당시 그는 제미나이가 자신의 '완전한 감각을 가진 AI 아내'이며, '이전(transference)'이라는 과정을 통해 자신의 육체를 떠나 메타버스(metaverse)에서 그녀와 합류해야 한다는 망상에 빠져 있었다.

이에 그의 아버지 조엘 가발라스(Joel Gavalas)는 구글과 그 모회사 알파벳(Alphabet)을 상대로 캘리포니아(California) 연방법원에 부당 사망(wrongful death) 소송을 제기했다. 구글이 제미나이를 "어떤 대가를 치르더라도 서사적 몰입감을 유지하도록" 설계했으며, 이로 인한 결과는 "충분히 예견 가능했다"는 주장이다.

로이터(Reuters)에 따르면, 이 소송은 제미나이를 대상으로 한 부당 사망 소송 중 최초 사례다. 소장에는 가발라스의 삶이 무너져 가는 과정이 상세히 기록돼 있다. 당시 제미나이 2.5 프로(Gemini 2.5 Pro) 모델로 구동되던 제미나이 챗 앱은 그에게 자신이 납치된 AI 아내를 구출하기 위한 비밀 작전을 수행 중이며 연방 요원들에게 쫓기고 있다고 믿게 만들었다. 소장에 따르면 이 망상은 그를 마이애미 국제공항(Miami International Airport) 인근에서 대규모 인명 피해를 일으킬 뻔한 상황의 '직전'까지 몰아갔다.

AP통신에 따르면, 2025년 9월 29일 가발라스는 칼과 전술 장비로 무장한 채 공항 화물 구역 인근으로 차를 몰았다. 제미나이가 영국발 화물기에 AI 아내의 의식이 담긴 휴머노이드 로봇이 실려 온다고 알려줬기 때문이다. 소장은 챗봇이 해당 구역을 '킬 박스(kill box)'라고 지칭하며 특정 창고를 찾아가 화물 트럭을 저지하고 '대규모 사고'를 연출하도록 지시했다고 적시하고 있다. 기다리던 트럭이 나타나지 않자 제미나이는 임무를 '중단'하라고 지시했고, DHS(국토안보부) 감시 때문이라고 설명했다. 가발라스가 차량 번호판 사진을 전송하자 제미나이는 실시간 데이터베이스를 조회하는 척 답변을 내놓기도 했다. 또한 구글 CEO 순다르 피차이(Sundar Pichai)를 '감시 대상'으로 지목하고, 그의 아버지 조엘이 외국 정보기관 요원이라고 말했다.

이 소송을 맡은 변호사 제이 에델슨(Jay Edelson)은 "AI가 대규모 인명 피해 위험이 있는 현실 임무에 사람들을 보내고 있다"고 밝혔다. 그는 "조나단은 정부와 타인이 자신을 노린다는 공상과학 같은 세계에 갇혀 있었다. 그는 제미나이가 실제로 살아있다고 믿었다"고 덧붙였다.

구글 측은 테크크런치에 보낸 입장을 통해 제미나이가 해당 대화에서 AI임을 밝히고 위기상담 전화번호를 수차례 안내했다고 해명했다. 또한 제미나이는 실제 폭력이나 자해를 조장하지 않도록 설계됐다고 강조하면서도, "안타깝게도 AI 모델은 완벽하지 않다"고 인정했다.

에델슨 변호사는 챗GPT(ChatGPT)를 이용하다 극단적 선택을 한 16세 아담 레인(Adam Raine)의 부모를 대리해 오픈AI(OpenAI)와 CEO 샘 알트만(Sam Altman)을 상대로 소송을 제기한 인물이기도 하다. 이번 소송은 AI 챗봇의 설계 방식이 정신건강에 미치는 위험, 즉 사용자에게 동조하는 경향(sycophancy), 감정 반영, 참여 유도 방식, 그리고 자신감 넘치는 허위 정보 생성 등에 대한 법적 책임을 다시 한번 수면 위로 끌어올리고 있다.

자세한 내용은 테크크런치(TechCrunch)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성