18일(현지시간) 테크크런치에 따르면 챗GPT 사용자들은 챗봇이 대화 과정에서 갑자기 사용자의 이름을 언급하는 현상을 목격했다. 소프트웨어 개발자인 사이먼 윌리슨(Simon Willison)은 17일  아래와 같은 트윗을 게재하며 이를 “소름 돋고 불필요하다”고 표현했다. 

[출처 : X @simonw]

이에 대한 사용자들의 반응은 엇갈렸다. 사용자 'Yuchen Jin'은 “마치 선생님이 계속 내 이름을 부르는 것 같다.”고 했으며 다른 사용자인 'shreyshahi'는 "프라이버시에 대한 기묘한 침범처럼 느껴져서 싫다"고 표현했다.

또 다른 사용자인 '조슈아 레비'는 "분석 업무의 경우, 내가 모르는 온갖 정보에 접근하거나 제 친구인 척하는 에이전트는 원하지 않는다. 내가 완벽하게 통제할 수 있고 문제를 해결하는 강력한 도구를 원한다"고 했다.

긍정적인 반응도 있었다. 'rcanand'라는 사용자는 '처음에는 다소 으스스하게 느껴지지만, 제대로 작동한다면 AI에 대한 공감대를 형성할 수 있을 것이다. Claude는 한동안 이 기능(답변에서 이름을 언급하는 방식)을 사용해 왔다"고 얘기했다.

일각에서는 이 기능이 챗GPT의 업그레이드된 '메모리' 기능과 관련이 있다고 추측하고 있다. 챗GPT에 따르면 메모리 기능은 사용자의 선호, 스타일, 자주 다루는 주제 등을 더 잘 기억하고 반영할 수 있도록 만든 기능으로 예전에는 대화가 끝나면 해당 정보를 삭제했지만, 이제는 선택적으로 기억을 유지해서 더 일관성 있는, 맞춤형 대화를 제공할 수 있도록 한다.

메모리 기능은 2023년 초부터 실험적으로 도입되었고, 이후 피드백을 받아 점차 개선되었다. 공식적으로는 2024년 2월부터 더 넓은 사용자층에게 점진적으로 배포되기 시작했다고 오픈AI는 주장한다.

해당 기능은 웹 기준 왼쪽 하단의 이름 또는 프로필 사진 → 사용자 설정 → 메모리 탭에서 조절 가능하다고 안내하고 있으나 X에 있는 일부 사용자들은 메모리와 관련 개인화 설정을 비활성화했음에도 챗GPT가 그들의 이름을 부르기 시작했다고 말했다. 

테크크런치에 따르면 오픈AI는 이에 대한 테크크런치의 논평 요청에 응답하지 않았다.

[출처 : 챗GPT DALL.E 생성]

이번 논란은 오픈AI가 챗GPT를 사용자에게 더 “개인적인” 느낌을 주려는 노력에서 극복해야 할 ‘불쾌한 골짜기(uncanny valley)’ 현상을 보여준다. 지난 주, 오픈AI CEO 샘 알트먼(Sam Altman)은 “사용자의 삶을 통해 사용자를 알게 되는” AI 시스템을 언급하며 이것이 “매우 유용하고 개인화된 것이 될 것"이라고 언급했다. 그러나 이번 사례처럼 모든 사람이 이 생각에 동조하는 것은 아닐 듯 하다.

글 / 홍정민 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com