진실 없는 세상 헤쳐 나가기 (Gartner Business Quarterly, 2024 Q3)

위기의 시대, CEO 신뢰도 하락과 AI 위협의 이중고

2024년은 전 세계적으로 중요한 변곡점이 될 전망이다. 전 세계 인구의 절반에 해당하는 40억 명이 거주하는 국가들에서 주요 선거가 예정된 가운데, 가트너의 최신 보고서는 기업들이 직면한 새로운 위협을 경고하고 있다. 특히 우려되는 점은 현재 열 명 중 여섯 명이 넘는 CEO들이 자신들에 대한 사회적 신뢰도가 낮아지고 있다고 인식하는 상황에서, AI 기반 사이버 공격이 이를 더욱 악화시킬 수 있다는 것이다.

이러한 위협은 기업과 소비자 간, 고용주와 직원 간, 고위 경영진 상호 간의 신뢰도 심각하게 훼손할 수 있다. IT 리더와 부서는 이러한 상황에서 조직을 외부의 악의적 공격자들로부터 보호하는 핵심적 역할을 수행해야 한다.

허위정보 확산의 가속화 요인들

가트너는 허위정보가 전례 없는 속도로 확산되는 배경을 세 가지 측면에서 분석했다. 우선 인터넷과 소셜 미디어의 발달로 멀티미디어 콘텐츠를 매우 낮은 비용으로 즉각 전파할 수 있게 되었다. 여기에 생성형 AI의 등장으로 진짜와 구분하기 어려운 딥페이크 이미지, 음성, 영상을 누구나 쉽게 제작할 수 있게 되었다. 특히 주목할 만한 점은 이러한 기술을 활용하여 특정 수신자, 고객, 시민 그룹에 따라 맞춤화된 메시지를 전달할 수 있게 되었다는 것이다.

더욱 우려되는 것은 행동 과학이 빅데이터, 애널리틱스, AI와 결합되어 개인의 심적 모델과 의사결정, 행동 변화를 목적으로 하는 매우 정교한 설득 메시지를 만들어낼 수 있게 되었다는 점이다.

AI 기반 사이버 공격, 기업 리더들의 최대 위협으로 부상

가트너의 조사에 따르면 기업 리스크 관리 책임자들은 2024년 상반기 최대 위협으로 AI 기반 사이버 공격을 지목했다. 특히 주목할 만한 점은 기업 최고 경영진 열 명 중 여섯 명 이상이 향후 3년간 딥페이크로 인한 운영 비용 증가와 조직 피해를 우려하고 있다는 것이다. 더욱 심각한 것은 이미 일부 경영진들이 현재 직면한 실질적 위협으로 딥페이크를 인식하고 있다는 점이다.

특히 최근에는 제약, 환경 과학 등 특정 산업 전체에 대한 대중의 신뢰를 훼손시키는 간접적 공격도 증가하고 있다. 대표적인 예로 세계경제포럼 회의에서 화이자(Pfizer)의 CEO가 세계 인구를 절반으로 줄이는 계획을 지지하는 것처럼 교묘하게 편집된 동영상이 등장해 큰 파문을 일으켰다. 실제로는 '화이자의 의약품을 구매하지 못하는 사람의 수를 절반으로 줄이는 것'이 발언의 맥락이었으나, 이는 백신에 대한 반감과 음모론 확산에 악용되었다.

딥페이크 공격의 현실화

영국의 글로벌 엔지니어링 기업 Arup의 사례는 딥페이크 위협의 실체를 적나라하게 보여줬다. 화상회의에서 딥페이크 기술로 CFO의 모습과 음성을 완벽하게 모방한 공격자가 직원을 속여 2,500만 달러의 자금을 빼돌린 것이다. 이는 더 이상 딥페이크가 단순한 기술적 위협이 아닌, 기업의 존속을 위협할 수 있는 심각한 경영 리스크로 진화했음을 보여주는 사례다.

기업의 대응 전략과 기술적 해법

기업들은 딥페이크 위협에 대응하기 위해 다각적인 접근을 시도하고 있다. 우선 딥페이크 감지 기술을 보유한 보안 벤더를 신중하게 평가하고 선정하는 것이 중요하다. 이때 벤더들이 기본적인 생체 검증 이상의 기술을 보유하고 있는지 면밀히 평가해야 한다. 가상 카메라와 에뮬레이터 감지, 이미지 워터마크, 메타데이터 검증 등 추가적 보안 기능의 보유 여부를 확인할 필요가 있다. 또한 생체 감지, 인증 통제, 다층 검증, 디지털 워터마크 등 다양한 보안 솔루션을 복합적으로 활용하고, C2PA라는 콘텐츠 출처 인증을 위한 기술 표준을 도입하며, 전사적 차원에서 인식을 제고하고 체계적인 대응 시스템을 구축하는 것이 필수적이다.

미래 전망과 CISO 역할의 확대

가트너는 2027년까지 정보보안담당임원(CISO) 절반 가까이가 악성 정보 대응을 핵심 직무로 다루게 될 것으로 전망했다. AI 기술이 발전하면서 딥페이크의 형태와 종류는 더욱 다양해질 것으로 예측된다. 이에 대응하기 위해서는 자동으로 업데이트되는 클라우드 기반 보안 솔루션을 도입하고, 지속적으로 보안 체계를 개선해 나가는 것이 무엇보다 중요하다고 전문가들은 조언한다.

가트너는 2027년까지 정보보안담당임원(CISO) 절반 가까이가 악성 정보 대응을 핵심 직무로 다루게 될 것으로 전망했다. AI 기술이 발전하면서 딥페이크의 형태와 종류는 더욱 다양해질 것으로 예측된다. 특히 양자 컴퓨팅의 등장은 전례 없는 정보 처리 능력을 제공하여 더욱 고도화된 공격의 동력이 될 수 있다는 우려가 제기된다. 여기에 가상 현실 기술의 발전은 더욱 그럴듯하고 설득력 있는 콘텐츠 제작을 가능하게 할 전망이다. 더욱이 자율주행차량과 침습형 기술들의 보급 확대는 공격 대상과 취약성을 더욱 증가시킬 것으로 예상된다.

이러한 복합적 위협에 대응하기 위해서는 자동으로 업데이트되는 클라우드 기반 보안 솔루션을 도입하고, 지속적으로 보안 체계를 개선해 나가는 것이 무엇보다 중요하다고 전문가들은 조언한다. 특히 마케팅적 주장에 현혹되지 않고 여러 벤더들의 솔루션을 현장 테스트를 거쳐 비교 분석하는 신중한 접근이 필요하다.

결론: 전사적 대응 체계 구축의 시급성

허위정보와 딥페이크에 대한 대응은 더 이상 IT 부서만의 과제가 아닌 전사적 차원의 시급한 경영 과제가 되었다. 기업들은 기술적 대응 체계 구축과 함께 임직원들의 인식 제고, 관련 정책 수립, 부서 간 협력 체계 구축 등 종합적인 접근을 통해 이러한 새로운 위협에 대비해야 할 것이다.

해당 리포트의 원문은 가트너에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.