AI 기술이 발전하면서 사이버 공간에서의 신뢰가 흔들리고 있다. 월드(World)의 기술 개발사 툴스 포 휴머니티(Tools for Humanity, 이하 TFH)는 10월 ‘사이버 보안 인식의 달’을 맞아 AI 시대의 새로운 사이버 범죄에 대응하기 위한 해법으로 ‘인간 증명(Proof of Human)’ 기술을 제시했다.

TFH는 딥페이크를 비롯한 AI 사기가 폭발적으로 증가하고 있다고 경고했다. 올해 딥페이크 관련 사기는 전년 대비 162% 늘어날 것으로 예상되며, 관련 파일 수도 2023년 50만 건에서 2025년 800만 건으로 급증할 전망이다. AI로 복제된 음성이 가족이나 직장 상사를 사칭해 금전을 요구하거나, 가짜 영상으로 직원에게 송금을 지시하는 등 피해 사례가 속출하고 있다.

TFH가 지난 3월 국내 게이머 800명을 대상으로 실시한 설문조사에서도 응답자의 79%가 봇으로 인한 공정성 훼손을 우려했으며, 83%는 게임 내 인간 검증 기술이 필요하다고 답했다. 특히 91%는 “AI와 인간을 구별하는 메커니즘이 향후 필수 기술이 될 것”이라고 인식했다.

산업 전반으로 번지는 ‘신뢰 위기’

TFH는 사이버 공간 전반에서 ‘진짜 인간’과 ‘AI 봇’을 구별하기 어려운 신뢰 위기가 확산되고 있다고 분석했다. 그중 대표적인 세 가지 위협으로 ‘합성 사칭’, ‘가짜 프로필 확산’, ‘거짓된 다수 형성’을 꼽았다.

첫 번째는 합성 사칭(Synthetic Impersonation)이다. 온라인에 영상을 올린 누구나 음성 복제 기술의 표적이 될 수 있다. 실제 데이터와 가짜 데이터를 결합한 합성 신원은 수년간 탐지되지 않는 경우도 많아, 모든 전화나 영상통화가 의심의 대상이 되고 있다.

두 번째는 가짜 프로필로 인한 신뢰 위기다. 데이팅 앱 이용자 중 10~15%가 가짜 프로필로 추정되며, 비즈니스 네트워크에서는 AI로 생성된 이력서가 증가하고 있다. 리뷰 플랫폼에서는 봇이 주도하는 허위 후기 캠페인이 기업의 평판을 무너뜨리는 사례도 있다.

세 번째는 거짓된 다수(False Majorities)다. 봇 계정이 여론조사나 댓글을 조작해 허위 여론을 형성하며, 소수의 개인이 수천 개의 계정을 통제하는 사례도 보고되고 있다. 이로 인해 진짜 대화와 조작된 의견을 구분하기 점점 더 어려워지고 있다.

‘월드 ID’, 익명 기반의 인간 증명 솔루션

TFH는 “이제는 보안 체계의 핵심에 ‘인간성의 증명’을 구축해야 한다”고 주장하며, 개인정보 보호 중심의 ‘월드 ID(World ID)’ 기술을 대안으로 제시했다. TFH가 제안한 새로운 보안 패러다임은 네 가지 원칙에 기반한다.

첫째, 개인정보 보호 중심 검증(Privacy-First Verification)이다. 개인 정보를 노출하지 않고 인간임을 증명하며, 암호학적 기술을 통해 감시 없이 신뢰를 확보한다. 둘째, 보편적 상호운용성(Universal Interoperability)으로 한 번의 검증만으로도 여러 서비스에서 재확인 없이 신뢰를 유지할 수 있으나, 교차 추적은 불가능하도록 설계됐다.

셋째는 사기 방지 설계(Fraud-Resistant Design)다. 탈취될 수 있는 비밀번호 대신 복제나 전송이 불가능한 고유한 인간 검증 방식을 사용한다. 마지막으로 글로벌 접근성(Global Accessibility)을 강조하며, 기술 수준이나 기기 종류에 관계없이 누구나, 어디서나 사용할 수 있도록 보편적 적용이 가능해야 한다고 설명했다.

월드 ID는 이러한 원칙을 구현한 기술로, 사용자가 단 한 번 익명으로 인간임을 증명하면 다른 서비스에서도 이를 반복 확인할 필요 없이 신뢰 기반 상호작용이 가능하다. 이 솔루션을 도입한 조직은 실제 고객을 대상으로 서비스를 제공하고, 사용자를 보호하며, 플랫폼의 신뢰를 유지할 수 있다.

“보안은 비밀번호가 아니라 인간성의 문제”

TFH 한국지사 박상욱 지사장은 “AI가 놀라운 가능성을 열고 있지만, 동시에 인간의 행동을 정교하게 모방하기도 쉬워졌다”며 “보안은 이제 방화벽이나 비밀번호를 넘어 ‘사람임’을 증명하는 문제로 진화해야 한다”고 말했다.

그는 “기존의 보안 시스템은 ‘비밀번호가 맞는가’, ‘SMS를 받을 수 있는가’를 묻지만, 그 문을 통과하는 존재가 진짜 사람인지 확인하지 않는다”며 “기술이 사람에게 봉사하도록 만들기 위해서는 개인정보를 보호하면서도 보편적으로 인간성을 검증할 수 있는 새로운 접근이 반드시 필요하다”고 강조했다.

TFH는 이번 발표를 통해 AI 시대의 사이버 보안은 기술적 방어를 넘어 신뢰의 회복이 핵심임을 시사했다. 앞으로 ‘인간 증명’ 기술이 사이버 보안의 새로운 표준으로 자리잡을지 주목된다.

이준문 기자/jun@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지