안녕하세요, AI Matters입니다. 이번 영상에서는 AI 비서 앱 피클(Pickle)이 사용자 몰래 호텔에 전화를 건 오노다 사건을 출발점으로, AI가 대신 거는 전화가 지금 어디까지 왔는지 살펴봅니다. 구글 듀플렉스와 메타 뮤즈 사례, 인공지능 기본법의 AI 고지 의무까지 함께 정리합니다.
일본 여행 유튜버 오노다가 연말연시 호텔 조건을 묻자, 피클은 AI 전용 050 번호로 호텔에 두 번 전화를 걸었습니다.
피클은 박채근 대표를 비롯한 한국인 창업자들이 미국 샌프란시스코에서 만든 개인 AI 에이전트 앱으로, 10월 22일 보도 기준 한국 앱스토어 소셜 네트워킹 무료 부문 17위까지 올랐습니다.
한국 이용자들은 정비소 예약 전화, 네이버 쇼핑 후기 9건 작성, 슈퍼그록 결제 30달러 환불, KTX 좌석 확보를 피클에게 맡겼습니다. 다만 마지막 결제 보안 인증은 사람이 직접 해야 했습니다.
2018년 구글 듀플렉스는 '음' 하는 추임새까지 넣어 미용실 예약 전화를 걸었고, 비판이 이어지자 통화를 시작할 때 자동 예약 서비스임을 밝히겠다고 설명했습니다.
메타 뮤즈는 직원 대상 시험에서 일부 전화를 콜센터 계약직 직원이 직접 건 사실이 로이터 보도로 알려졌고, 메타는 이를 실수라고 인정하며 기능을 거둬들였습니다.
올해 1월 22일 시행된 인공지능 기본법 제31조는 AI로 운용되는 서비스임을 이용자에게 미리 알리도록 정하고, 어기면 3,000만 원 이하의 과태료를 물릴 수 있습니다.
AI가 사람처럼 전화를 걸고 사람이 AI의 이름으로 전화를 거는 지금, 수화기 너머의 사람은 상대가 누구인지 알기 어렵습니다. 피클 같은 AI 비서에게 전화를 맡길 때는 전화 대본을 먼저 확인하고, 승인 없이는 전화하지 않으며, 통화할 때 AI 비서라고 밝히도록 지시문을 넣어 두는 것이 좋습니다. 피클 초대장은 영상 끝에 안내한 jude@aimatters.co.kr로 요청해 주시면 보내 드립니다.
피클 직접 써 본 사용기: https://youtu.be/kur9EKPYVbE
00:00 피클 초대장 안내
00:03 AI 비서가 호텔에 직접 전화를 걸었다면?
00:10 오노다의 호텔 통화 사건, 두 번 걸린 전화
00:38 AI 전용 050 번호와 한국의 지역번호 전화
00:56 피클은 누가 만든 어떤 앱인가
01:26 한국 이용자들은 피클에게 무엇을 맡길까
01:31 정비소 예약 전화와 통화 기록
01:58 쇼핑 후기 9건과 슈퍼그록 30달러 환불
02:20 KTX 좌석 확보와 마지막 결제 인증
02:27 2018년 구글 듀플렉스 시연과 AI 신원 고지
02:59 첫 번째 통화와 두 번째 통화의 차이
03:23 메타 뮤즈와 휴먼 컨시어지 논란
04:17 사람처럼 말하는 AI, AI 이름으로 전화하는 사람
04:26 피클은 내 메일에서 무엇을 기억할까
04:44 클라우드 브라우저와 데이터 저장 위치
05:03 인공지능 기본법 제31조와 AI 고지 의무
05:21 계도기간과 전화를 받는 직원은 이용자일까
05:38 AI 비서에게 넣어 둘 지시문 세 가지
06:00 사람일까, AI일까, AI의 이름을 빌린 사람일까
06:16 피클 초대장 요청 방법
#피클 #Pickle #AI에이전트 #AI비서 #구글듀플렉스 #메타뮤즈 #인공지능기본법 #AI전화
제공: AI 매터스
