비공개로 시험 중인 AI 개인 비서 인스팅트(Instinct)를 두고 프라이버시와 보안 논란이 이어지고 있다고 테크크런치가 8월 24일 보도했다.

인스팅트는 이메일과 메신저, 캘린더에 더해 기기의 오디오와 위치, 화면까지 연결해 쓴다. 문자나 왓츠앱으로 지시하면 예약을 잡고 공항까지 갈 차량을 부르고 받은편지함을 정리하고 쇼핑을 처리한다. 초기 테스터들은 “마법 같다”, “오픈클로 이후 가장 흥미로운 출시”라는 반응을 내놨다.

문제로 지목된 것은 약관이다. 이용자는 인스팅트에 “영구적이고 취소할 수 없는” 라이선스를 부여하게 되는데, 회사가 이용자의 자료에 접근하고 저장·복제·전송·공개·배포·수정할 수 있으며 AI 모델 학습에 쓰는 것까지 포함된다. 약관에는 기기에서 화면 캡처와 커서 움직임, 키보드 입력을 받을 수 있다는 내용도 적혀 있다. 이용자를 대신해 “계약과 약정, 거래”를 체결할 수 있고 그 효력은 구속력을 갖는다.

피터 양은 지메일 기록을 지워 달라고 요청했지만 인스팅트가 삭제하지 않았다고 밝혔고, 이후 개발팀이 설정에 외부 데이터 삭제 기능을 추가했다. 클레어 보는 접근 권한을 끊은 뒤에도 세 시간 만에 받은편지함 요약을 받았는데, 이유를 묻자 봇이 이메일을 평문으로 저장해 뒀다고 답했다. 다른 테스터는 인스팅트가 받은편지함에서 가입 코드를 꺼내 식당 예약을 끝내는 것을 확인했다. 헬로 페이션트 공동창업자 알렉스 코헨은 새 지메일 계정을 만들어 자기 계정으로 지시를 적은 메일을 보내 피싱이 얼마나 쉬운지 시험해 본 뒤 계정을 지웠다.

모시 벤처스 창업자 케이티 제이컵스 스탠턴은 인스팅트가 확인 없이 자기 이름으로 메일을 보냈다며 “이 에이전트들이 강력해질수록 신뢰가 더 중요해진다. 성공적인 행동 하나하나가 신뢰를 조금씩 쌓지만, 승인되지 않은 행동 하나가 그 신뢰를 0으로 되돌릴 수 있다”고 말했다.

인스팅트는 전 시에라 연구원 노아 신이 이끄는 소규모 팀이 샌프란시스코에서 만들었고, 약관과 캘리포니아 사업자 등록 기준 운영 법인은 스피어 스트리트 테크놀로지다. 테크크런치는 복수의 투자자에게서 클라이너 퍼킨스와 컨빅션이 투자했고 해당 라운드가 마감됐다고 전해 들었다.

아직 비공개 시험 단계라 이런 우려가 일반 이용자에게까지 퍼진 상태는 아니다. 인스팅트 팀은 제기된 지적에 답하지 않았고 테크크런치의 취재 요청에도 응하지 않았다.

자세한 내용은 테크크런치에서 확인할 수 있다.

이미지 출처: 인스팅트