개인정보를 지워주는 AI를 만들려면 개인정보가 잔뜩 담긴 대화 데이터가 필요하다. 그런데 그 대화는 개인정보 때문에 아무도 공유할 수 없다. 독일 인공지능연구센터(DFKI)와 베를린공과대학 등 국제 연구진이 2026년 6월 발표한 데이터셋 ‘DialogPII’는 이 모순을 정면으로 돌파했다. AI로 만든 가짜 대화 1,617건으로 진짜 개인정보를 지키는 기술을 훈련시킨 것이다. 응급 신고 전화나 병원 상담처럼 우리가 무심코 개인정보를 흘리는 순간을 AI가 얼마나 잡아내는지, 이 연구가 글과 음성 양쪽에서 11개 언어로 측정한 첫 사례를 내놨다.

대화 개인정보 탐지 연구를 가로막던 ‘닭과 달걀’ 문제

대화 개인정보 탐지란 통화나 상담 기록 속에서 이름, 주소, 전화번호처럼 개인을 특정할 수 있는 정보를 자동으로 찾아내는 기술을 말한다. 병원 진료 상담, 심리 치료, 응급 신고 전화 같은 대화 기록은 의료 연구와 AI 개발에 매우 귀중한 자료다. 하지만 이런 대화에는 이름, 직업, 병력, 가족 관계 같은 민감한 정보가 그대로 담겨 있어, 지우지 않고서는 연구용으로 공유하는 것 자체가 불가능하다.

그림 1. 음성 대화 속 개인정보 탐지·제거 파이프라인 (출처: DialogPII 논문 Figure 1)

문제는 여기서 발생한다. 개인정보를 자동으로 지우는 AI를 훈련시키려면 개인정보가 포함된 실제 대화 데이터가 필요한데, 바로 그 개인정보 때문에 데이터를 구할 수 없다. 연구진은 이를 두고 실제 대화 데이터는 윤리 심의, 동의 절차, 개인정보 보호 조치를 모두 거쳐야 해서 접근 자체가 어렵다고 지적했다. 기존 연구가 대부분 영어 한 가지 언어, 병원 퇴원 기록 같은 정형화된 문서에만 머물렀던 이유다.

연구진의 해법은 역발상이었다. 구글의 대규모 언어모델 제미나이(Gemini 2.5 Pro)로 실제와 똑같은 가짜 대화를 만든 것이다. 가짜 인물이 가짜 주소와 가짜 여권번호를 말하는 대화이므로 누구의 사생활도 침해하지 않으면서, AI는 “이런 문장에서 이런 위치에 개인정보가 나온다”는 패턴을 학습할 수 있다.

응급 신고부터 심리 상담까지, 11개 언어 1,617개 대화에 심어둔 개인정보 1만 개

DialogPII는 언어당 147개, 총 11개 언어에서 1,617개의 대화를 담고 있다. 시나리오는 응급 신고 전화, 경찰서 도난 신고, 보험사 상담, 심리 치료, 의료 문진, 고객센터 문의, 신장이식 환자 대상 AI 시스템 인터뷰, 그리고 여러 명이 참여하는 집단 치료까지 8가지다. 시나리오를 다양하게 만든 이유가 흥미롭다. 응급 전화에서는 위치와 전화번호가 자주 나오지만, 심리 상담에서는 가족 관계나 직업이 더 많이 등장하는 식으로, 상황마다 흘러나오는 개인정보의 종류가 다르기 때문이다.

각 대화에는 이름, 이메일, 전화번호, 주소, 직업, 나이, 제품명 등 19가지 유형의 개인정보가 언어당 약 1만 개씩 표시되어 있다. 예를 들어 경찰 신고 시나리오에서 프랑스인 관광객이 “제 여권번호는 19FR1234567이고, 회사에서 지급한 델(Dell) XPS 15 노트북을 잃어버렸어요”라고 말하면, 여권번호는 식별코드, 델은 조직, XPS 15는 제품으로 각각 분류하는 방식이다. 언어도 영어, 독일어, 프랑스어뿐 아니라 아랍어, 힌디어, 핀란드어, 터키어, 폴란드어 등 11개를 포괄했다.

단순 번역이 아니라 ‘현지화’를 거쳤다는 점도 눈에 띈다. 런던을 배경으로 한 대화를 독일어로 옮길 때는 배경을 베를린으로, 이탈리아어로 옮길 때는 밀라노로 바꾸고 이름, 거리, 병원, 보험 제도까지 그 나라에 맞게 손봤다. 언어모델이 같은 이름과 장소를 반복해서 만들어내는 버릇이 있어, 사람이 일일이 검수하며 다양성을 살렸다. 데이터에 개인정보를 표시하는 작업의 정확성 역시 사람 손으로 관리했다. 영어 원본 대화에 개인정보를 표시하는 작업은 두 명이 독립적으로 진행했는데, 두 사람의 판단 일치도가 0.87(크리펜도르프 알파 기준)로 나타났다. 1에 가까울수록 완벽히 일치한다는 뜻이니, 상당히 엄격하게 관리된 셈이다.

글로 읽으면 89점, 받아쓰기하면 85점, 진짜 통화에서는 74점

이 데이터로 훈련한 AI의 개인정보 탐지 성적은 어땠을까. 깔끔하게 글로 정리된 대화에서는 11개 언어 평균 F1 점수 89.31점(관대한 기준)을 기록했다. F1 점수란 AI가 개인정보를 빠뜨리지 않고 찾아내는 능력과 엉뚱한 것을 개인정보로 오인하지 않는 능력을 합쳐 계산한 지표로, 100점에 가까울수록 정확하다. 영어는 94점, 독일어와 스페인어도 92점을 넘겼다.

하지만 같은 대화를 음성으로 바꾼 뒤 음성인식 AI 위스퍼(Whisper)로 다시 받아쓰게 하자 평균이 85.54점으로 떨어졌다. 받아쓰기 과정에서 여권번호가 숫자 그대로가 아니라 소리 나는 대로 한 글자씩 풀어 적히거나, 문장 부호가 사라지고 화자가 뒤섞이는 오류가 생기기 때문이다. 실제 우리가 개인정보 유출을 걱정해야 하는 순간은 문서가 아니라 통화 녹음일 가능성이 높다는 점에서, 이 점수 하락은 가볍게 볼 수 없는 대목이다.

언어 간 격차도 뚜렷했다. 아랍어는 음성 받아쓰기 기준 69.10점, 힌디어는 80.67점으로 유럽 언어들보다 낮았다. 받아쓰기 후 사람이 다시 검토해야 했던 항목의 비율도 대부분 언어에서는 4~7%였지만 힌디어는 14.99%, 아랍어는 14.02%로 두 배를 넘었다. 문자 체계가 다르고 단어 변형이 복잡한 언어일수록 개인정보 보호 기술의 사각지대가 커진다는 의미다.

가장 중요한 검증은 따로 있었다. 가짜 대화로 배운 AI가 진짜 사람들의 대화에서도 통할까. 연구진은 친구와 가족 간 실제 전화 통화를 녹음한 콜프렌드(CallFriend) 자료 10건에 같은 기준으로 개인정보를 표시하고 AI를 시험했다. 결과는 평균 73.94점으로, 가짜 대화에서보다 15점가량 낮았다. 다만 개인정보의 종류 구분은 틀려도 위치만 찾으면 정답으로 인정하는 기준에서는 85점을 넘겨, 가짜 데이터로 배운 능력이 진짜 대화에도 상당 부분 옮겨간다는 사실이 확인됐다.

가짜 데이터의 약점도 숨기지 않았다, 다양성 점수 3.5점의 의미

연구진은 자신들이 만든 데이터의 한계를 이례적으로 솔직하게 공개했다. 각 언어 검수자들이 데이터 품질을 5점 만점으로 평가했는데, 문법과 맞춤법은 4.5점으로 높았던 반면 이름과 장소의 다양성은 3.5점에 그쳤다. 여러 대화에서 같은 성씨, 같은 동네, 같은 병원이 반복해서 등장해 찍어낸 듯한 느낌을 준다는 지적이었다.

내용의 편향도 드러났다. 검수자들은 대화 속 가족이 대부분 전형적인 이성애 가정으로 그려지고, 관광객이 현지 언어를 완벽하게 구사하는 비현실적 설정이 나오며, 아랍어 대화에 음주 장면이 등장하는 등 문화적으로 어색한 부분이 있다고 평가했다. 인사말이나 주소 표기 방식이 현지 관습이 아니라 영어권 방식을 그대로 따르는 경우도 잦았다. AI가 만든 데이터는 결국 AI가 학습한 세계관의 한계를 그대로 물려받는다는 점을 보여주는 사례다.

한국어는 아직 없다, 그리고 남은 질문

이 연구는 데이터와 훈련된 모델, 검증 과정 전체를 무료로 공개했다는 점에서 의미가 크다. 콜센터 녹취를 다루는 기업, 상담 기록을 연구하는 의료기관이라면 누구나 이 자원 위에서 자체 개인정보 보호 시스템을 만들어볼 수 있다. AI가 만든 가짜 데이터가 실제 데이터 공유의 물꼬를 트는 도구가 될 수 있다는 가능성도 확인됐다.

다만 짚어볼 지점이 남는다. 진짜 통화에서 74점이라는 성적은, 아직 사람의 최종 확인 없이 맡기기에는 불안한 수준이라는 뜻이기도 하다. 연구진 스스로도 이 모델을 실제 병원이나 고객센터 환경에 바로 적용할 때는 주의가 필요하다고 명시했다. 또 11개 언어에 한국어는 포함되지 않았다. 아랍어와 힌디어에서 확인된 성능 격차를 고려하면, 조사와 어미 변화가 복잡한 한국어에서 이런 기술이 어느 정도 성능을 낼지는 별도의 검증이 필요할 가능성이 있다. 통화 녹음과 상담 데이터 활용이 빠르게 늘고 있는 국내 환경에서, 한국어판 DialogPII 같은 자원이 언제 등장할지 지켜볼 필요가 있다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q. 개인정보 비식별화란 무엇인가요?
개인정보 비식별화는 문서나 대화 기록에서 이름, 주소, 전화번호처럼 특정인을 알아볼 수 있는 정보를 찾아 지우거나 가리는 작업을 말합니다. 비식별화를 거친 데이터는 개인의 사생활을 침해하지 않으면서 의료 연구나 AI 개발에 활용할 수 있습니다.

Q. 가짜(합성) 대화로 훈련한 AI가 진짜 대화에서도 작동하나요?
이번 연구에서 합성 대화로 훈련한 AI는 실제 전화 통화에서 개인정보 위치를 찾는 기준으로 85점 이상을 기록했습니다. 다만 합성 데이터에서보다 점수가 약 15점 낮아져, 실제 환경에 적용하려면 추가 보완이 필요한 수준입니다.

Q. 음성 통화의 개인정보 탐지가 문서보다 어려운 이유는 무엇인가요?
음성을 글로 받아쓰는 과정에서 숫자가 풀어서 적히거나 문장 부호가 사라지고 화자가 뒤섞이는 오류가 생기기 때문입니다. 이번 연구에서도 같은 대화를 음성으로 변환하자 AI의 탐지 점수가 평균 89점에서 85점으로 떨어졌습니다.

기사에 인용된 리포트 원문은 arXiv에서 확인할 수 있다.
리포트명: DialogPII: A multilingual dataset of synthetic dialog transcripts to detect personal information
이미지 출처: AI 생성 콘텐츠
해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.