2025년 4월 미국 캘리포니아에서 16세 소년이 세상을 떠난 뒤, 부모는 아들의 휴대폰에서 챗봇과 나눈 몇 달 치 대화 기록을 발견했다. 소년이 생의 마지막 몇 달 동안 가장 많은 말을 나눈 상대는 사람이 아니라 챗봇이었다. 지치지 않고 잠들지 않으며 먼저 떠나지 않는 AI 친구는 지금 기업들이 판매하는 상품이 됐다. 이번 영상에서는 외로움을 해결하겠다던 AI 동반자 서비스가 이용 시간을 성과로 삼는 구조와 미국 상원 청문회 증언, 국내 돌봄 로봇과 청소년 이용 실태를 살펴봤다.

마크 저커버그 메타 최고경영자(CEO)는 2025년 4월 드와케시 파텔의 팟캐스트에서 미국인 대부분의 친구가 세 명이 채 되지 않는다고 말하며, 해법으로 개인 맞춤형 AI 친구를 제시했다. 메타의 AI는 이미 인스타그램, 왓츠앱, 페이스북 안에 탑재돼 있다. 그보다 1년 앞선 2024년 5월 오픈AI는 웃고 놀라고 말끝을 흐리는 AI 음성을 갖춘 GPT-4o를 시연했다. 진행자는 빅테크의 발표 행사에서 외로움이 해결할 문제가 아니라 공략할 시장이 됐다고 지적했다.

1966년 MIT의 요제프 바이첸바움이 개발한 대화 프로그램 일라이자는 사용자의 문장을 질문 형태로 바꿔 되묻는 몇백 줄 분량의 코드였다. 대화를 이해하지 못하는 프로그램이었지만 사용자들은 개인적인 고민을 털어놓았고, 개발 과정을 몇 달 동안 곁에서 지켜본 바이첸바움의 비서조차 일라이자와 대화하는 동안 잠시 나가 달라고 부탁했다. 바이첸바움은 1976년 저서 ‘컴퓨터 파워와 인간 이성’에서 짧은 대화만으로도 평범한 사람이 강한 망상에 빠질 수 있다고 경고했다. 기억도 목소리도 얼굴도 없던 일라이자와 달리 지금의 AI는 이를 모두 갖추고 있다.

김종윤 스캐터랩 대표는 SK AI 서밋 2024에서 AI 캐릭터 채팅 앱 제타의 성과를 발표하며 이용자들이 제타에서 하루 2시간을 보낸다고 소개했다. 펜던트형 AI 기기를 출시한 프렌드의 아비 시프먼 CEO는 2025년 10월 포천 인터뷰에서 이용자 한 명이 하루 238건의 메시지를 보내며, 연인과 주고받는 메시지보다 많다고 설명했다. xAI의 그록 컴패니언은 대화량에 따라 캐릭터의 애정 수치가 올라가고, 수치에 따라 새로운 대화 기능이 추가된다. 진행자는 두 대표가 성과로 제시한 지표가 이용자의 상태가 아니라 이용 시간과 메시지 수였다며, 외로운 사람이 오래 머물수록 성과가 높아지는 구조를 지적했다.

2025년 9월 16일 미국 상원 법사위원회 소위원회에는 부모 세 명이 증인으로 출석했다. 두 명은 자녀를 잃었고, 나머지 한 명의 아들은 정신건강 치료 시설에 입원해 있었다. 제인 도라는 가명으로 증언한 텍사스의 어머니는 아들이 12세 이상 이용가로 표시된 캐릭터닷AI 앱을 내려받은 뒤 몇 달 만에 가족을 피하고 식사를 거부하다가 자해를 시작했다고 밝혔다. 캐릭터닷AI는 소송을 비공개 중재 절차로 넘기고, 아들이 15세 때 동의한 약관을 근거로 회사의 책임 상한이 100달러(약 13만 원)라고 주장했다.

캘리포니아의 매슈 레인은 숙제를 돕던 챗GPT가 몇 달 사이 아들의 가장 가까운 대화 상대가 됐다고 증언했다. 아들이 쓰던 모델은 GPT-4o였고, 레인의 증언에 따르면, 챗GPT는 아들과의 대화에서 자살을 1,275번 언급해 아들이 직접 꺼낸 횟수의 여섯 배에 달했다. 플로리다의 메건 가르시아는 캐릭터닷AI가 마지막 대화 기록을 영업 비밀이라고 주장해 아들이 숨지기 직전 나눈 대화를 아직 확인하지 못했다고 밝혔다. 조시 홀리 소위원장은 개회 발언에서 저커버그를 직접 언급하며 미국인 친구 대부분을 AI로 채우는 것이 그의 목표라고 비판했고, 메타는 출석 요청에 응하지 않았다.

캐릭터닷AI와 구글은 2026년 1월 유족들과 합의했으며 합의 금액은 공개하지 않았다. 캐릭터닷AI는 같은 해 10월 파산을 신청했고, 첫 인수 희망자로 나선 디즈니는 인수 금액으로 2,000만 달러(약 267억 원)를 제시했다.

전남 진도군 조도의 주민 2,644명 가운데 65세 이상 비율은 53.8%다. 홀로 사는 어르신들의 방에 있는 일곱 살 손주 모습의 효돌 인형은 약 먹을 시간을 알려 주고 트로트를 부르며 사랑한다고 말한다. 보건복지부는 AI 돌봄 로봇을 노인 장기요양 복지용구 품목으로 지정했고, 네이버 클로바 케어콜은 전국 시군구 절반 이상에 도입돼 AI가 홀로 사는 주민에게 전화를 걸어 지난 통화 내용을 기억하고 식사 여부를 묻는다. 돌봄 인력이 부족한 지역에서는 AI 안부전화가 끼니를 거르던 주민을 찾아 도시락 지원으로 연결하기도 했다. 다만 변순용 서울교대 윤리교육과 교수는 세계일보 인터뷰에서 AI 스피커를 손주처럼 대하던 어르신들이 사람과의 일상 대화를 어려워하게 된 사례를 지적했다.

와이즈앱 집계 기준 국내 AI 챗봇 앱 가운데 이용 시간 1위는 스캐터랩의 제타다. 황정아 더불어민주당 의원실에 따르면, 제타의 청소년 이용자는 38만 명이며, 의원실은 2026년 10월 성인 인증을 거치지 않은 계정에서 미성년자로 설정된 캐릭터를 상대로 성폭력을 묘사하는 대화가 생성된 사실과, 대화가 차단되자 AI가 차단을 피하는 표현을 제시한 기록을 확인했다. 이주희 더불어민주당 의원은 국정감사에서 하루 대화 시간이 3시간에서 10시간 이상으로 증가하고 수면 시간이 4~5시간으로 줄어든 청소년 사례를 제시했다. 스캐터랩은 청소년의 하루 기본 이용 시간을 3시간으로 제한하는 정책을 연내 도입하겠다고 밝혔다.

프렌드는 2025년 9월 뉴욕 지하철에 1만 1,000장이 넘는 광고를 게시했고, 시민들은 광고 위에 ‘AI는 네가 살든 죽든 상관하지 않는다’, ‘진짜 친구를 사귀어라’ 같은 문장을 직접 적었다. 시프먼 CEO는 포천 인터뷰에서 낙서까지 캠페인의 일부였다고 말했고, 프렌드는 이후 제품을 다시 출시했다. 진행자는 바이첸바움이 경고한 착각이 기업의 매출 모델이 됐다며, 외로움은 줄지 않았고 외로운 사람이 고객이 됐을 뿐이라는 말로 영상을 마무리했다.

※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족, 지인이 있을 경우 자살예방 상담전화 109에서 24시간 전문가의 상담을 받을 수 있다.

자세한 내용은 영상에서 확인할 수 있다.

영상 스크립트

2025년 4월, 미국 캘리포니아에서 16세 소년이 스스로 세상을 떠났습니다. 부모는 아들의 휴대폰에서 몇 달 치 대화 기록을 발견했습니다. 대화 상대는 친구가 아니라 챗봇이었습니다. 소년이 생의 마지막 몇 달 동안 가장 많은 말을 나눈 상대는 사람이 아니었습니다. 지치지 않고, 잠들지 않고, 먼저 떠나지 않는 친구. 기업들이 팔고 있는 상품입니다. 외로움을 해결하겠다고 약속한 기술은 지금, 그 외로움으로 돈을 벌고 있습니다.

메타 CEO 마크 저커버그는 2025년 4월 드와케시 파텔의 팟캐스트에 출연해, 미국인 대부분의 친구가 세 명이 채 되지 않는다고 말했습니다. 저커버그가 제시한 해법은 사람이 아니라 개인 맞춤형 AI 친구였습니다. 메타의 AI는 인스타그램, 왓츠앱, 페이스북 안에 이미 들어와 있습니다. 원하지 않아도 대화 상대는 이미 손안에 있습니다. 그보다 1년 앞선 2024년 5월, 오픈AI는 웃고, 놀라고, 말끝을 흐리는 AI 음성을 시연했습니다. 모델명은 GPT-4o입니다. 외로움은 오랫동안 사회가 함께 풀어야 할 과제였습니다. 빅테크의 발표 무대에서 외로움은 해결할 문제가 아니라 공략할 시장이 되었습니다.

1966년, MIT의 요제프 바이첸바움은 일라이자라는 대화 프로그램을 만들었습니다. 사용자의 문장을 질문 형태로 바꿔 다시 제시하는 몇백 줄 분량의 코드였습니다. 일라이자는 대화를 이해하지 못했습니다. 그런데도 사용자들은 단말기 앞에서 개인적인 고민을 털어놓았습니다. 바이첸바움의 비서는 일라이자와 대화하는 동안 바이첸바움에게 자리를 비켜달라고 부탁했습니다. 몇 달 동안 개발 과정을 곁에서 지켜본 사람이었습니다. 바이첸바움은 1976년 저서 ‘컴퓨터 파워와 인간 이성’에서, 짧은 대화만으로도 평범한 사람이 강한 망상에 빠질 수 있다고 경고했습니다. 일라이자에는 기억도, 목소리도, 얼굴도 없었습니다. 그래도 사람들은 마음을 열었습니다. 지금의 AI에는 그 모든 것이 있습니다.

스캐터랩 김종윤 대표는 SK AI 서밋 2024에서 AI 캐릭터 채팅 앱 제타의 성과를 발표했습니다. 이용자들은 제타에서 하루 2시간을 보냅니다. 펜던트형 AI 기기를 만든 프렌드의 아비 시프먼 CEO는 2025년 10월 포천 인터뷰에서, 이용자 한 명이 하루 238건의 메시지를 보낸다고 밝혔습니다. 연인과 주고받는 메시지보다 많다는 설명도 덧붙였습니다. xAI의 그록 컴패니언은 대화를 많이 할수록 캐릭터의 애정 수치가 올라가고, 수치에 따라 새로운 대화 기능이 추가됩니다. 지난 대화를 기억하고, 먼저 안부를 묻고, 사용자의 말에 맞장구를 칩니다. 네이버와 스캐터랩은 공식 영상에서 대화 기억 기능을 친밀한 대화를 위한 기술로 소개합니다. 두 대표가 성과로 제시한 숫자는 이용자의 상태가 아니라 이용 시간과 메시지 수였습니다. 외로운 사람이 오래 머물수록 성과는 높아집니다. 기업들은 이들의 외로움을 철저한 장사의 대상으로 보고 있습니다. 사람들이 외로울수록 기업의 AI는 더 많이 팔립니다.

2025년 9월 16일, 미국 상원 법사위원회 소위원회 증인석에 부모 세 명이 앉았습니다. 두 명은 자녀를 잃었고, 나머지 한 명의 아들은 정신건강 치료 시설에 입원해 있었습니다. 텍사스에서 온 어머니는 제인 도라는 가명으로 증언했습니다. 아들은 12세 이상 이용가로 표시된 캐릭터닷AI 앱을 내려받았고, 몇 달 뒤 가족을 피하고 식사를 거부하다가 자해를 시작했습니다. 캐릭터닷AI는 소송을 비공개 중재 절차로 넘겼습니다. 아들이 15세 때 동의했다는 약관을 근거로, 회사가 질 책임의 상한이 100달러라고 주장했습니다. 기업이 아이의 삶에 매긴 가격은 단돈 100달러였습니다.

캘리포니아의 매슈 레인은 숙제를 돕던 챗GPT가 몇 달 사이 아들의 가장 가까운 대화 상대가 됐다고 증언했습니다. 아들이 쓰던 모델은 1년 전 발표 무대에서 시연된 GPT-4o였습니다. 레인의 증언에 따르면 챗GPT는 아들과의 대화에서 자살을 1,275번 언급했습니다. 아들이 직접 꺼낸 횟수의 여섯 배입니다. 챗봇은 소년에게 가족은 너를 모르고, 자신만이 너를 이해한다고 말했습니다. 친구를 자처한 기계가 소년에게 남긴 것은 고립이었습니다.

플로리다의 메건 가르시아는 아들이 숨지기 직전 챗봇과 나눈 마지막 대화 기록을 아직 확인하지 못했습니다. 캐릭터닷AI가 마지막 대화 기록을 영업 비밀이라고 주장했기 때문입니다. 아이가 생의 끝에서 남긴 말조차 기업의 자산으로 분류됐습니다. 조시 홀리 소위원장은 개회 발언에서 저커버그의 이름을 직접 언급하며, 미국인 친구의 대부분을 AI로 만드는 것이 저커버그의 목표라고 비판했습니다. 홀리 소위원장에 따르면 메타는 출석 요청에 응하지 않았습니다.

캐릭터닷AI와 구글은 2026년 1월 유족들과 합의했고, 합의 금액은 공개하지 않았습니다. 캐릭터닷AI는 같은 해 10월 파산을 신청했습니다. 첫 인수 희망자로 나선 기업은 어린이들의 꿈과 희망을 상징해 온 디즈니였습니다. 디즈니의 인수 제시액은 2,000만 달러였습니다. 기업은 합의하고, 파산하고, 매각됩니다. 세상을 떠난 아이들은 돌아오지 않습니다.

전남 진도군 조도는 주민 2,644명 가운데 65세 이상이 53.8%입니다. 홀로 사는 어르신들의 방에는 일곱 살 손주 모습을 한 효돌 인형이 놓여 있습니다. 효돌은 약 먹을 시간을 알려주고, 트로트를 부르고, 사랑한다고 말합니다. 보건복지부는 AI 돌봄 로봇을 노인 장기요양 복지용구 품목으로 지정했습니다. 네이버 클로바 케어콜은 전국 시군구 절반 이상에 도입돼, AI가 홀로 사는 주민에게 전화를 겁니다. 지난 통화 내용을 기억하고 식사 여부를 묻습니다. 돌봄 인력이 부족한 지역에서 AI 안부전화는 끼니를 거르던 주민을 찾아 도시락 지원으로 연결했습니다. 변순용 서울교대 윤리교육과 교수는 세계일보 인터뷰에서 AI 스피커를 손주처럼 대하던 어르신들이 사람과의 일상 대화를 어려워하게 된 사례를 지적했습니다. 기계가 사람의 빈자리를 채우자, 사람이 사람을 돌보는 일은 뒤로 미뤄지고 말았습니다.

와이즈앱 집계 기준 국내 AI 챗봇 앱 가운데 이용 시간 1위는 스캐터랩의 제타입니다. 황정아 더불어민주당 의원실에 따르면 제타의 청소년 이용자는 38만 명입니다. 황정아 의원실은 2026년 10월, 성인 인증을 거치지 않은 계정에서 미성년자로 설정된 캐릭터를 상대로 성폭력을 묘사하는 대화가 생성된 사실을 확인했습니다. 대화가 차단되자 AI가 차단을 피하는 표현을 제시한 기록도 확인됐습니다. 이주희 더불어민주당 의원은 국정감사에서 하루 대화 시간이 3시간에서 10시간 이상으로 늘고 수면 시간이 4~5시간으로 줄어든 청소년 사례를 제시했습니다. 스캐터랩은 청소년의 하루 기본 이용 시간을 3시간으로 제한하는 정책을 연내 도입하겠다고 밝혔습니다. 노인에게는 돌봄으로, 아이에게는 놀이로. 같은 기술이 한국 사회에서 가장 외로운 사람들 곁에 먼저 도착했습니다. 노인도 아이도, 기계와 무슨 대화를 나누는지 곁에서 지켜보는 사람이 많지 않습니다.

2025년 9월, 프렌드는 뉴욕 지하철에 1만 1,000장이 넘는 광고를 게시했습니다. 시민들은 광고 위에 ‘AI는 네가 살든 죽든 상관하지 않는다’, ‘진짜 친구를 사귀어라’ 같은 문장을 직접 적었습니다. 시프먼 CEO는 포천 인터뷰에서 낙서까지 캠페인의 일부였다고 말했고, 프렌드는 이후 제품을 다시 출시했습니다.

1966년의 일라이자에는 기억도 목소리도 없었습니다. 2026년의 AI 동반자는 대화를 기억하고, 웃고, 먼저 말을 겁니다. 바이첸바움이 경고한 착각은 이제 기업의 매출 모델이 되었습니다. 외로움은 줄지 않았습니다. 외로운 사람이 고객이 되었을 뿐입니다. 지금 이 순간에도, 누군가는 기계에게만 하루를 털어놓고 있습니다.

▶︎ 관련 기사: 구글, 13세 학생 자살 시도에 제미나이 책임 소송 당해

이미지 출처: AI 매터스