오픈AI(OpenAI)가 챗GPT(ChatGPT)에 사용자의 컴퓨터 활동을 기억하는 ‘컴퓨터 히스토리(Computer History)’ 기능을 개발하고 있다. 더버지(The Verge)에 따르면 8월 17일 공개된 시연에서 이 기능은 마지막으로 편집한 문서를 찾아내고, 그것을 슬랙(Slack)으로 공유했는지 확인하며, 오전 활동을 요약해 보여줬다.

마이크로소프트(Microsoft)의 리콜(Recall) 기능과 달리, 컴퓨터 히스토리는 화면이나 영상, 음성을 계속 캡처하지 않는다는 것이 오픈AI의 설명이다. 대신 ‘이벤트’라고 부르는 구조화된 활동 기록을 남긴다.

이 기능은 개인용 컴퓨팅의 더 큰 변화를 예고한다. AI 비서는 사용자가 무엇을 했고 어떤 파일을 다뤘으며 누구와 소통했는지 맥락을 알수록 훨씬 쓸모가 커진다. 다만 같은 기록은 공격자나 악성 확장 프로그램, 탈취된 AI 에이전트가 접근할 경우 곧바로 보안 위협이 된다.

결국 설계의 관건은 비서에게 더 많은 기억을 주는 것 자체가 아니라, 수집과 보관, 권한, 삭제를 둘러싼 엄격한 경계를 세우는 데 있다.

이 기능은 오픈AI 개발자경험팀의 도미닉 쿤델이 시연했다. 그는 컴퓨터 히스토리가 자신의 오전 작업을 정리해 보여주는 과정을 선보였는데, 이런 편의가 곧 방대한 개인 기록의 축적을 뜻한다는 점에서 통제 설계가 한층 중요해진다.

챗GPT가 사용자의 활동 맥락을 더 많이 확보할수록 비서로서의 쓸모는 커지지만, 그만큼 기록이 새어 나갔을 때의 위험도 함께 커진다. 오픈AI가 수집 범위와 보관 기간, 삭제 권한을 어떻게 설계하느냐가 신뢰의 관건이 될 전망이다.

개인용 컴퓨팅이 AI가 관리하는 활동 기록을 중심으로 재편될수록, 이런 통제 장치는 운영체제 보안의 새로운 층위가 될 전망이다. 편리함과 사생활 사이의 균형을 어떻게 잡느냐, 그리고 어떤 기본값과 권한 설정으로 내놓느냐가 이 기능의 성패를 가를 것으로 보인다.

자세한 내용은 더버지에서 확인할 수 있다.

이미지 출처: AI 생성 이미지