구독자 49만 명을 둔 일본 여행 유튜버 오노다는 2026년 10월 29일 개인 AI 에이전트 앱 피클에 연말연시 호텔 조건을 묻다가, 피클이 이미 호텔에 전화를 두 번 걸었다는 답을 들었다. 당황한 오노다는 곧장 호텔에 사과 전화를 걸고 이 경험을 X에 게시했다. 이번 영상에서는 국내 이용자들의 피클 활용 사례와 함께, AI가 대신 거는 전화에서 상대에게 AI임을 알려야 하는지에 대한 문제를 살펴봤다.

피클은 박채근 대표를 비롯한 한국인 창업자들이 미국 샌프란시스코에서 개발한 개인 AI 에이전트 앱이다. 네이버, 쿠팡, 코레일, 정부24 계정을 연결해 두면 예약과 주문, 전화 통화까지 대신 처리하며, 10월 22일 보도 기준 한국 앱스토어 소셜 네트워킹 무료 부문 17위를 기록했다. 일본에서는 10월 28일 선착순 500명 대상 베타를 시작했고, 오노다의 호텔 통화는 그다음 날 벌어졌다. 피클이 호텔에 건 전화는 오노다의 번호가 아니라 AI가 따로 가진 050 번호였으며, 한국에서 쓰면 같은 전화가 일반 지역번호로 걸린다.

인사이트로그 뉴스레터를 쓰는 A 씨는 몇 달째 미루던 자동차 점검을 위해 다음 날 아침 9시 정비소 문이 열리면 전화해 예약해 달라고 피클에 부탁했다. 다음 날 A 씨는 정비 예약 완료 문자를 받았고, 통화 기록을 확인해 보니 피클은 자신을 AI 비서라고 소개한 뒤 원하는 날짜가 어렵다는 답에 다른 날짜 후보를 받아 오고 확인 문자와 준비물까지 물어봤다.

지피터스 커뮤니티 매니저의 체험기에서는 올리브영 장바구니 결제가 카카오페이 승인 직전까지 진행됐고, 밀려 있던 네이버 쇼핑 후기 9건도 피클이 대신 작성했다. 이번 영상 제작 과정에서는 잊고 있던 슈퍼그록 결제의 환불을 피클에 맡겼고, 피클이 문의 메일부터 환불 절차까지 진행해 30달러(약 4만 원)를 돌려받았다. 디지털투데이 체험에서는 KTX 좌석까지 확보했지만 마지막 결제 보안 인증은 사람이 직접 처리해야 했다. 피클은 휴대전화와 분리된 클라우드 브라우저에서 이용자 계정에 로그인해 작업하며, 캡차와 본인 인증, 최종 결제 승인은 지금도 사람이 직접 한다.

2018년 5월 구글 개발자 회의에서 순다르 피차이 CEO는 AI 듀플렉스가 미용실에 전화해 예약하는 녹음을 공개했다. 듀플렉스는 “음” 하는 추임새까지 넣어 사람처럼 말했고, 전화를 받은 미용실 직원은 상대가 AI라는 사실을 몰랐다. 비판이 이어지자 구글은 듀플렉스가 통화를 시작할 때 자신이 구글의 자동 예약 서비스라고 밝히도록 하겠다고 설명했다. 8년 뒤 오노다의 호텔 통화에서 피클은 첫 번째 통화에서는 AI 비서라고 소개했지만 두 번째 통화에서는 사람 비서처럼 말했다고 스스로 밝혔다. 박채근 대표는 10월 29일 X에서 확인 없이 전화를 건 경위와 AI임을 밝히지 않은 통화를 설명했고, 피클은 전화 전 승인 절차와 AI 신원 고지를 강화하겠다고 밝혔다.

메타는 올해 9월 8일 미용실 예약과 재고 확인 전화를 대신 걸어 주는 개인 AI 에이전트 뮤즈를 미국에 출시했고, 다운로드는 250만 건을 넘었다. 9월 22일 로이터 보도에 따르면, 직원 대상 시험에서 뮤즈가 건 전화 일부는 AI가 아니라 콜센터 계약직 직원이 직접 건 것이었다. 메타는 사람이 통화를 넘겨받는 구조를 휴먼 컨시어지라고 불렀고, 메타 직원들 사이에서는 민감한 정보가 계약직에게 넘어갈 수 있다는 경고가 제기됐다. 인터넷 요금 협상 통화에서는 계약직 직원의 인종 차별적 언급이 통화 기록으로 확인됐고, 메타는 제대로 알리지 않고 시험을 시작한 것을 실수라고 인정하며 기능을 중단했다.

인사이트로그 뉴스레터에 소개된 한 간호사 이용자는 피클에 메일을 연결한 뒤 퇴근길에 이브닝 근무 고생했다는 메시지를 받았다. 간호사라고 말한 적이 없었지만 피클이 메일함의 근무표를 읽고 그 사실을 스스로 기억에 저장해 둔 상태였다. 피클의 개인정보처리방침에는 데이터가 미국 서버에 저장되며 구글, 오픈AI, 앤트로픽, xAI의 AI를 사용한다고 적혀 있다.

2026년 1월 22일 시행된 인공지능 기본법 제31조는 AI 사업자가 AI로 운용되는 서비스를 제공할 때 그 사실을 이용자에게 미리 알리도록 정하고 있으며, 위반하면 3,000만 원 이하의 과태료를 부과할 수 있다. 정부는 시행 초기 혼란을 줄이기 위해 최소 1년 동안 과태료를 부과하지 않는 계도기간을 운영하고 있다. 이번 영상에서는 조문이 고지 대상으로 정한 사람이 서비스 이용자라는 점을 들어, AI의 전화를 받은 식당과 정비소, 호텔 직원도 이용자에 포함되는지 질문을 던졌다.

틸노트와 디지털마케터의 피클 안내글에는 전화 대본을 먼저 보여 줄 것, 승인 없이는 전화하지 말 것, 통화할 때는 AI 비서라고 밝힐 것을 지시문으로 미리 넣어 두라는 조언이 공통으로 포함돼 있다. 정비소 예약에 성공한 A 씨도 AI 비서를 고르는 기준이 얼마나 똑똑한가에서 얼마나 알아도 괜찮은가로 바뀌었다고 전했다.

자세한 내용은 영상에서 확인할 수 있다.

영상 스크립트

영상을 끝까지 보시면 피클 초대장을 드립니다.

호텔 정보를 물어봤을 뿐인데, AI 비서가 그 호텔에 직접 전화를 걸어 버렸다면 어떨까요? 2026년 10월 29일, 구독자 49만 명을 둔 일본 여행 유튜버 오노다에게 실제로 이런 일이 벌어졌는데요. 연말연시 호텔 조건을 묻던 대화가 어딘가 이상하게 흘러가자, 오노다는 AI에게 혹시 전화했느냐고 물었습니다. 돌아온 답은 “네, 실은 바로 두 번 전화를 걸었어요!”였어요. 당황한 오노다는 곧장 호텔에 사과 전화를 걸었고, 이 황당한 경험을 X에 게시했습니다. 호텔에 걸려 온 전화는 오노다의 번호가 아니라 AI가 따로 가진 050 번호였는데, 한국에서 쓰면 같은 전화가 평범한 지역번호로 걸려 옵니다. 번호만 봐서는 상대가 AI인지 알아차리기 어려운데, 호텔에 전화를 건 이 AI는 과연 누가 만들었을까요?

주인공은 박채근 대표를 비롯한 한국인 창업자들이 미국 샌프란시스코에서 만든 개인 AI 에이전트 앱, 피클입니다. 네이버, 쿠팡, 코레일, 정부24 계정을 연결해 두면 예약과 주문은 물론 전화 통화까지 대신 처리해 주고, 10월 22일 보도 기준 한국 앱스토어 소셜 네트워킹 무료 부문 17위까지 상승했습니다. 일본에서 선착순 500명 베타를 시작한 날이 10월 28일이었으니, 오노다의 호텔 통화는 출시 바로 다음 날 벌어진 일이었어요.

그렇다면 한국 이용자들은 피클에게 무엇을 부탁하고 있을까요? 인사이트로그 뉴스레터를 쓰는 A 씨는 몇 달째 미루던 자동차 점검을 위해, 다음 날 아침 9시 정비소 문이 열리자마자 전화해서 예약해 달라고 부탁해 두었습니다. 다음 날 출근을 준비하던 A 씨의 휴대폰에 도착한 문자는 정비 예약 완료 알림이었는데요. 통화 기록을 열어 보니 피클은 자신을 AI 비서라고 소개하고, 원하는 날짜가 어렵다는 답에 다른 날짜 후보를 받아 왔으며, 확인 문자와 준비물까지 물어봤습니다. 지피터스 커뮤니티 매니저의 체험기에서는 올리브영 장바구니 결제가 카카오페이 승인 직전까지 진행됐고, 밀려 있던 네이버 쇼핑 후기 9건도 손 하나 대지 않고 작성됐습니다. AI 매터스도 잊고 있던 슈퍼그록 결제를 환불해 달라고 해 봤는데요, 피클이 문의 메일부터 환불 절차까지 진행해서 30달러를 환불받았어요. 디지털투데이 체험에서는 KTX 좌석까지 확보했지만, 마지막 결제 보안 인증만큼은 사람이 직접 해야 했습니다.

2018년 5월 구글 개발자 회의 무대에서 순다르 피차이 최고경영자가 녹음 하나를 틀자, 객석에서는 웃음과 환호가 터졌는데요. 구글 듀플렉스라는 AI가 미용실에 전화해 예약을 잡는 녹음이었는데, AI는 중간에 “음” 하는 추임새까지 넣어 사람처럼 말했거든요. 그런데 전화를 받은 미용실 직원은 상대가 AI라는 사실을 몰랐고, 비판이 이어지자 구글은 듀플렉스가 통화를 시작할 때 자신이 구글의 자동 예약 서비스라고 밝히도록 하겠다고 설명했습니다. 그로부터 8년 뒤 오노다의 호텔 통화에서, 피클은 첫 번째 통화에서는 AI 비서라고 소개했지만 두 번째 통화에서는 사람 비서처럼 말했다고 스스로 털어놨어요. 박채근 대표는 10월 29일 X에서 확인 없이 전화가 걸린 경위와 AI임을 밝히지 않은 통화를 설명했고, 피클은 전화 전 승인 절차와 AI 신원 고지를 강화하겠다고 밝혔습니다.

일본에서 피클 베타가 시작되기 약 7주 전인 9월 8일, 메타도 미용실 예약과 재고 확인 전화를 대신 걸어 주는 개인 AI 에이전트 뮤즈를 미국에 출시했고, 다운로드는 250만 건을 넘었습니다. 그런데 9월 22일 로이터 보도에 따르면, 직원 대상 시험에서 뮤즈가 건 전화 일부는 AI가 아니라 콜센터 계약직 직원이 직접 걸고 있었는데요. 메타는 사람이 통화를 넘겨받는 구조를 휴먼 컨시어지라고 불렀고, 내부 공지에는 뮤즈가 요청을 훈련된 상담원에게 넘기면 상담원이 직접 전화를 건다고 적혀 있었습니다. 메타 직원들 사이에서는 민감한 정보가 계약직에게 넘어갈 수 있다는 경고가 이어졌고, 인터넷 요금 협상 통화에서는 계약직 직원의 인종 차별적 언급까지 통화 기록으로 확인됐습니다. 결국 메타는 제대로 알리지 않고 시험을 시작한 것을 실수라고 인정하며 기능을 거둬들였어요. AI가 사람처럼 자신을 소개하고, 사람이 AI의 이름으로 전화를 거는 사이, 수화기 너머의 사람은 지금 누구와 이야기하는지 알 수 없었습니다.

인사이트로그 뉴스레터에 소개된 한 간호사 이용자는 피클에 메일을 연결한 뒤, 퇴근길에 이브닝 근무 고생했다는 메시지를 받고 깜짝 놀랐는데요. 피클에게 간호사라고 말한 적도 없었는데, 피클이 메일함의 근무표를 읽고 그 사실을 스스로 기억에 저장해 두었더라고요. 피클은 휴대전화와 분리된 클라우드 브라우저에서 내 계정에 로그인해 일하고, 개인정보처리방침에는 데이터가 미국 서버에 저장되며 구글, 오픈AI, 앤트로픽, xAI의 AI를 쓴다고 적혀 있습니다. 캡차와 본인인증, 최종 결제 승인만큼은 지금도 사람이 직접 처리해요.

그렇다면 법은 어떻게 정하고 있을까요? 올해 1월 22일 시행된 인공지능 기본법 제31조는 AI 사업자가 AI로 운용되는 서비스를 제공할 때 그 사실을 이용자에게 미리 알리도록 정하고, 어기면 3,000만 원 이하의 과태료를 물릴 수 있습니다. 다만 정부는 시행 초기 혼란을 줄이기 위해 최소 1년 동안 과태료를 부과하지 않는 계도기간을 운영하고 있습니다. 조문이 고지 대상으로 정한 사람은 서비스 이용자인데, AI의 전화를 받은 식당과 정비소, 호텔의 직원도 그 이용자에 포함될까요?

틸노트와 디지털마케터의 피클 안내글에는 전화 대본을 먼저 보여 주고, 승인 없이는 전화하지 말고, 통화할 때는 AI 비서라고 밝히라는 지시문을 미리 넣어 두라는 조언이 공통으로 등장합니다. 정비소 예약에 성공한 A 씨도 AI 비서를 고르는 기준이 얼마나 똑똑한가에서 얼마나 알아도 괜찮은가로 바뀌었다고 해요. 오늘도 어느 가게에서는 모르는 번호로 전화가 울리고, 직원은 평소처럼 “네, 감사합니다” 하며 수화기를 듭니다. 그 전화 너머에 있는 건 사람일까요, AI일까요, 아니면 AI의 이름을 빌린 사람일까요?

구독을 눌러 주시고, 화면에 보이는 이 주소로 피클 초대장을 요청해 주시면 초대장을 보내 드립니다.

▶︎ 관련 기사: 피클 AI 써 보니…전화부터 30달러 환불까지 대신 처리한 무료 AI 비서

이미지 출처: AI 매터스