※인공지능이 세상을 바꿉니다. IT동아 기자들이 만난 최신 인공지능 서비스와 기능을 독자들도 쉽게 접하도록 풀어서 알려드립니다.

[IT동아 김예지 기자] 이제 생성형 인공지능(AI) 서비스는 우리의 일상과 업무 현장에 자연스로운 존재가 됐다. 챗GPT, 제미나이, 클로드 등 AI는 이메일 초안 작성, 문서 요약, 아이디어 발굴 등 사무 작업은 물론, 여행 계획 수립이나 문체 교정, 나아가 대화 상대의 역할까지 수행하고 있다.

그런데 AI 서비스는 설정에 따라 이용자가 입력한 대화나 자료를 서비스의 품질 개선 및 모델 학습에 활용할 수 있다. 무심코 입력한 데이터가 AI의 학습 재료로 사용될 경우, 개인정보나 사내 기밀이 외부로 노출될 위험이 크다. 이름, 생년월일 같은 개인정보와 계좌, 카드, 투자 내역 등 재무 정보, 비밀번호나 인증 코드 같은 보안 정보, 사내 문서까지 예외가 아니다.

개인정보보호위원회(개인정보위)는 안전한 AI 활용을 위해 이용자가 학습 활용 여부를 직접 선택하도록 권장하고 있다. 대부분의 AI 서비스는 이 설정이 기본적으로 켜짐 상태로 되어 있으므로, 비활성화하는 방안을 알아두는 게 좋다.

챗GPT·클로드, 데이터 제어 옵션 지원

챗GPT는 프로필 사진을 누른 뒤 ‘설정’ 메뉴로 이동해 관리한다. ‘데이터 제어’ 항목에 들어가면 ‘모두를 위한 모델 개선’ 항목을 찾을 수 있다. 옵션을 켜두면 입력한 대화 내용이 모델 학습에 활용될 수 있다. 오디오 녹음 및 영상 녹화 옵션도 있다. 안전한 사용을 위해 하단의 ‘위치’ 옵션을 꺼두는 것도 좋다. 비즈니스 계정은 데이터 공유 거부 상태가 기본으로 적용된다.

모델 학습을 거부했더라도 서비스 품질 향상을 위한 피드백 제보는 가능하다. 이 경우 해당 피드백과 연결된 전체 대화가 학습에 사용될 수 있다. 부모 및 보호자는 자녀 보호 기능을 통해 청소년 계정을 관리할 수 있다. 한편, 개발자용 서비스 코덱스(Codex)는 챗GPT와 별도로 설정을 제어해야 한다.

더욱 확실하게 학습 제외를 요청하려면 해당 메뉴에서 ‘자세히 알아보기’를 통해 ‘프라이버시 포털’로 이동한다. 이곳에서 ‘내 콘텐츠를 학습에 사용하지 않음’을 선택하면 본인의 데이터가 모델 개선에 사용되지 않도록 영구적으로 거부 신청을 할 수 있다. 한편, 개인 용도로 쓰면서 챗GPT의 품질이 향상되길 바란다면 켜두어도 무방하다. 어느 경우이든 비밀번호, 주민등록번호, 금융·의료 기록 등 민감한 정보는 애초에 입력하지 않는 게 원칙이다.

클로드는 프로필 사진의 ‘설정’에서 ‘개인정보보호’를 클릭하면 ‘AI 모델 개선 돕기’ 항목이 나온다. 위치 메타데이터 사용 설정도 가능하다. 앤트로픽은 메뉴 상단에 데이터 보호 방법 및 데이터 사용 방법을 비교적 명확하게 안내하고 있다. 데이터는 익명화된 상태로 모델 개선 및 마케팅 용도로 활용될 수 있으나, 이용자가 허용을 차단하면 즉시 데이터를 삭제한다. 클로드 역시 피드백을 남기거나 신뢰·안전 검토 대상으로 분류된 대화는 예외적으로 활용될 수 있다.

제미나이, 활동 기록 보관 설정…연동 기능 제한 고려해야

구글 제미나이는 프로필 옆 설정의 ‘활동’ 탭에서 관리한다. 별도의 ‘학습 활용’ 대신 ‘활동 기록 보관’ 설정이 학습 활용 여부를 결정한다. 이 설정을 켜두면 사용자의 채팅 내역과 첨부파일(동영상, 화면, 사진 등), 오디오, 대략적인 위치 정보, 방문 웹사이트 및 제품 사용 정보가 저장된다.

수집된 데이터는 모델 학습 및 서비스 개선에 사용되나, 오디오 녹음 및 제미나이 라이브(Gemini Live)의 영상·화면 공유 데이터는 기본 설정에서 제외되어 있다. 활동 기록은 18개월 후 자동 삭제되며, 이 기간을 3개월이나 36개월로 조정하거나 자동 삭제를 아예 끌 수도 있다. 한편, 서비스 제공업체는 계정과 분리된 상태로 데이터를 최대 3년간 보관할 수 있다.

‘활동 기록 보관’을 중지하거나 이전 활동을 삭제하면 모델 학습 대상에서 제외된다. 다만 악용 방지와 서비스 제공을 위해 최소 72시간 동안은 대화 내용이 시스템에 보관된다. 또한 웹 및 앱 활동이나 위치 기록 등 구글의 다른 서비스 설정에 따라 관련 데이터가 별도로 저장될 수 있다. 기업용 계정은 관리자만 설정을 바꿀 수 있다.

주의할 점은 제미나이의 활동 기록 보관을 끌 경우 연동된 구글 앱의 일부 기능을 쓸 수 없게 된다는 것이다. 예컨대, 지메일(Gmail) 내용 요약, 구글 캘린더 일정 생성, 서드파티 앱 콘텐츠 검색, 왓츠앱 및 구글 홈을 통한 스마트홈 기기 관리 등이 제한될 수 있다. 따라서 제미나이와 연동해 생산성 앱을 자주 쓰는 이용자가 활동 기록을 중지하려면 기능 제한에 따른 불편을 감안해야 한다.

메모리 기능? 학습 활용 설정과 다르다

메모리 기능과 AI 학습 활용 설정은 기술적으로 다른 기능이다. 학습 활용 설정은 내 대화가 AI 모델 자체를 훈련시키는 소스로 사용되는지 여부를 결정한다. 반면, 메모리 기능은 이용자와 나눈 대화에서 맥락, 선호도, 직업 배경, 답변 스타일 등을 AI가 기억해 두었다가 다음 대화에 활용하는 ‘개인화 기능’으로, 학습과는 별개다.

다만 메모리 기능을 쓸 때도 프롬프트에 민감정보를 입력하면 해당 내용이 메모리에 저장될 수 있으므로 주의해야 한다. 채팅 내용이 개인화된 답변에 반영되는 것을 원치 않는다면 메모리 기능을 비활성화한다. 어떤 경우든 비밀번호나 주민등록번호, 기밀 자료는 입력하지 않는 것이 원칙이다.

챗GPT는 ‘설정’의 ‘개인 맞춤 설정’ 하단에서 메모리 사용 여부를 활성화할 수 있다. 저장된 정보는 메모리 요약에서 확인할 수 있으며, 채팅창에 변경하고 싶은 내용을 직접 입력하거나 메뉴에서 삭제를 눌러 메모리를 지우고 기능을 끌 수 있다.

다만 메모리를 삭제해도 기존 대화 기록은 남으므로 완전히 삭제하려면 데이터 제어에서 전체 채팅 기록을 지워야 한다. 과거 대화, 보관된 채팅, 파일, 메모리 요약, 연동 앱 내역을 모두 삭제해야 나에 대한 정보가 완전히 정리된다. 한편, 대화 기록이나 메모리를 남기지 않고 사용하려면 오른쪽 상단 ‘임시채팅’ 모드를 활용하는 게 좋다.

클로드에서도 ‘설정’ 하단의 ‘메모리’ 목록에서 메모리 생성 등이 가능하다. 그런데 제미나이는 메모리가 활동 기록 보관에 영향을 받는다. 그래서 활동 기록 보관 사용을 중지하게 되면 ‘개인 인텔리전스’ 메뉴의 메모리 기능까지 사용할 수 없게 된다.

개인정보가 담긴 AI 답변 발견했다면?

프롬프트에 민감정보를 넣는 실수 때문에 AI 답변에 개인정보가 노출되는 사고가 생길 수 있다. 이 경우 당황해서 바로 화면을 닫거나 대화창을 지우지 말고, 신고 시 필요한 증거를 남겨둔다. 문제의 개인정보와 질의 내용, 일시 등이 표시된 화면을 캡처한다.

증빙을 남겼다면 기록을 삭제하고, 업로드했던 파일을 지운다. 또한 AI와 연결된 외부 앱이나 플러그인 중 불필요한 권한을 회수한다. 다음으로 사업자에 신고해 사실을 알리고, 대화·파일 삭제 등 필요한 조치를 요청한다. 예컨대, 챗GPT의 프라이버시 포털에서는 ‘내 개인정보 삭제’ 메뉴를 통해 챗GPT 계정 보유 여부와 관계없이 개인정보를 삭제하도록 요청할 수 있다. 제출 내용이 승인되면 해당 정보는 이후 챗GPT 응답에서 나타나지 않는다.

사후 대응보다 중요한 건 사전 예방이다. 개인정보는 절대 입력하지 말고, 회사 내부자료나 비공개 문서를 그대로 프롬프트에 붙여넣는 습관도 지양해야 한다. 특히 사내 기밀을 다루는 업계 종사자는 AI 학습 활용 설정을 비활성화하는 게 좋다. 한 번 학습 데이터에 포함된 정보는 기술적으로 파기하기 어려워 기업의 핵심 자산 유출이나 법적 책임이라는 문제로 되돌아올 수 있기 때문이다.

여러분이 발견한, 혹은 관심이 가는 인공지능 서비스와 기능이 있으면 itdonga@itdonga.com으로 메일을 보내주세요. 써 본 후 IT동아 기자들이 이해하기 쉽고 자세하게 알리겠습니다.

IT동아 김예지 기자 (yj@itdonga.com)