일론 머스크가 10월 11일 일요일 오전 AI 에이전트 ‘그록 봇(Grok Bot)’으로 레고를 주문한 화면을 X에 게시했다가 배송지와 결제 정보 일부를 공개했다. 머스크는 그록 봇에 어린아이가 가장 재미있게 가지고 놀 레고 스타워즈 세트를 찾아 주문해 달라고 요청했고, “그만큼 쉽다”며 결과 화면을 2억 4,000만 명이 넘는 팔로워에게 공유했다.

화면에는 레고 공식 사이트의 주문 완료 페이지가 그대로 나와 있었다. 5개 품목, 총 241.34달러(약 32만 원) 결제 내역과 함께 아메리칸 익스프레스 카드 끝자리, 이메일 주소, 주문 번호, 텍사스주 오스틴의 배송지와 별도 청구지 주소가 표시됐다. 머스크는 해당 주소가 이미 여러 차례 공개됐다며 “나는 그곳에 살지 않는다. 보안팀이 우편물을 받는 곳”이라고 답했다. 유튜버 엔더맨은 레고의 AI 고객 상담원에게 이 주문 번호로 취소를 요청하는 대화 화면을 공개했다.

머스크는 전날인 10일 저녁에도 신용카드를 사진으로 찍어 대화창에 업로드하면 그록 봇이 상품을 찾아 주문해 준다는 글을 게시했다. 이 게시물에는 개발사가 프롬프트에 개인정보를 넣지 말라고 경고하고 있다는 X 커뮤니티 노트가 표시됐다.

스타트업 포천에 따르면 그록 봇은 8월 말부터 구매 기능을 제공해 왔으며, 결제가 필요하면 금액이 표시된 카드에서 이용자가 허용이나 거부를 선택하고 스트라이프의 결제 지갑 링크(Link)로 결제가 처리된다. 이후 업데이트로 저장된 카드를 고르거나 보안 입력 양식으로 카드 정보를 입력하는 기능이 추가됐다. 9월 3일 개정된 이용 약관에는 그록 봇이 고객 데이터와 인증 정보를 클라우드 환경에 보관할 수 있고, 봇의 행동으로 발생한 요금은 이용자가 책임진다는 내용이 포함돼 있다.

개발사 개인정보처리방침에 따르면 이용자가 업로드한 이미지를 포함한 콘텐츠는 서비스 개선과 AI 모델 학습에 사용될 수 있으며, 삭제한 대화는 예외를 제외하고 30일 안에 지워진다. 머스크가 공개한 화면만으로는 그록 봇이 스스로 결제를 마쳤는지, 머스크가 결제를 직접 승인했는지 확인되지 않았다.

자세한 내용은 로 스토리에서 확인할 수 있다.

이미지 출처: xAI