The Privacy Advantage: Building Trust in a Digital World

생성형 AI 친숙도 63%로 상승, 기업 절반이 직원 개인정보 입력 중

다국적 기술 기업 시스코(Cisco)가 발표한 '2025 데이터 프라이버시 벤치마크 연구'에 따르면 기업들의 생성형 인공지능(GenAI) 활용이 크게 증가했다. 이 연구에서는 생성형 AI에 대한 친숙도가 2023년 55%에서 2024년 63%로 증가했으며, 이 기술로부터 '매우 중요한 가치'를 얻고 있다고 응답한 비율도 전년도 37%에서 48%로 크게 상승했다. 이러한 생성형 AI 활용 증가세에도 불구하고 관련 우려사항은 여전히 존재한다. 특히 정보 유출 가능성에 대한 우려는 68%에서 64%로 소폭 감소했지만, 응답자의 절반 가까이가 여전히 직원 개인정보나 비공개 정보를 생성형 AI 도구에 입력하고 있는 것으로 나타났다.

흥미로운 점은 기업의 법적 권리(저작권 또는 지적재산권)가 생성형 AI로 인해 침해받을 수 있다는 우려가 2023년 69%에서 2024년 55%로 크게 감소했다는 것이다. 이는 책임 있는 AI 사용과 더 나은 거버넌스 및 통제 체계에 대한 인식이 높아졌음을 시사한다. 또한 조직들이 생성형 AI 사용에 더 익숙해지면서 민감한 정보 유출에 대한 우려도 소폭 감소한 것으로 나타났다.

개인정보 보호법 인식한 소비자 81%, '내 데이터 보호 가능하다' 자신감 표현

연구 결과에 따르면 응답자의 90%가 강력한 개인정보 보호법이 고객들이 생성형 AI 도구에 자신의 데이터를 공유하는 데 더 편안함을 느끼게 한다고 동의했다. 개인정보 보호법은 투명성, 공정성, 책임성을 의무화하여 사용자가 자신의 데이터가 어떻게 사용되는지 이해하고 적절하고 책임 있게 사용되도록 보장한다. 이러한 투명성은 개인이 법적 안전장치가 자신의 개인 데이터를 보호하기 위해 마련되어 있다는 것을 알고 더 큰 확신을 가지고 생성형 AI 기술과 상호작용할 수 있게 한다.

또한 시스코의 2024 소비자 개인정보 보호 설문조사에 따르면, 2019년 이후 처음으로 전 세계 소비자의 과반수(53%)가 자국의 개인정보 보호법을 인지하고 있는 것으로 나타났다. 개인정보 보호법에 대한 인식은 소비자 신뢰와 밀접한 관련이 있다. 자국의 개인정보 보호법을 인지하지 못하는 응답자 중에서는 44%만이 개인 데이터를 보호할 수 있다고 말한 반면, 이러한 법률을 인지하고 있는 응답자 중에서는 81%가 자신의 데이터를 보호할 수 있다고 응답했다. 이는 규제가 소비자에게 신뢰를 구축하는 요인임을 강조한다.

AI 투자 긴급성 느끼는 기업 98%, 예산 재할당 예상 99%

시스코의 '2024 AI 준비도 지수'에 따르면 전 세계적으로 AI에 투자해야 한다는 긴박감이 압도적이다. 조사 대상 기업의 98%가 전년도 대비 이러한 긴박감이 증가했다고 느끼는 반면, 단 13%만이 이 기술의 잠재력을 최대한 활용할 준비가 되어 있다고 응답했다. 이 지수는 또한 향후 몇 년 안에 IT 예산 할당이 거의 두 배로 증가할 것으로 예상한다.

이러한 맥락에서, 이번 '데이터 프라이버시 벤치마크 연구'의 응답자 중 99%가 향후 1년 동안 개인정보 보호 예산에서 AI 예산으로 자원이 재할당될 것이라는 데 거의 만장일치로 동의했다는 점은 주목할 만하다. 이는 기업들이 AI의 가치를 인식하고 투자를 확대하려는 의지를 보여준다.

AI 거버넌스 투자, 고객 신뢰 43% 향상 및 제품 품질 39% 개선 효과

기업들이 AI를 도입하면서 위험 관리, 이해관계자 보호, 신뢰 구축, 벌금 회피를 위한 윤리적, 법적, 운영적 프레임워크를 포함하는 강력한 AI 거버넌스 투자의 이점을 실감하고 있다. 조사 대상 기업의 75% 이상이 제품 품질, 직원 관계 향상, 기업 가치 실현, 규제 대비, 이해관계자 신뢰 등에서 강력한 AI 거버넌스의 중간 또는 상당한 이점을 인정했다.

특히 응답자의 43%가 AI 거버넌스 프로그램이 고객, 파트너, 규제 기관과의 신뢰 구축에 상당한 이점을 제공한다고 응답했으며, 39%는 제품 품질 향상과 규제 대비에 상당한 이점을 제공한다고 답했다. 조직이 이러한 이점을 얻기 위해 AI 거버넌스 프로그램을 확장하려면 이러한 프로그램이 기존 개인정보 보호 투자를 기반으로 하거나 보완하는 방법을 결정하고 고객 신뢰에 미치는 영향을 고려한 모든 잠재적 결정을 고려해야 한다.

개인정보 보호 투자 ROI 1.6배... 고객 신뢰도 79% 향상 효과

데이터 프라이버시 규정 준수에는 상당한 자원이 필요하지만, 대부분의 응답자들은 규제가 비즈니스 가치 창출에 중요한 역할을 한다는 점을 인식하고 있다. 올해 조사 대상 조직의 96%가 이러한 투자로 인한 이점이 비용보다 크다고 응답했다. 개인정보 보호에 대한 전반적인 지출은 지난 4년 동안 조직 전반에 걸쳐 평균 270만 달러로 일관성을 유지했다.

투자 가치에 관해서는 조사 대상 조직의 과반수(53%)가 개인정보 보호 지출에 대해 1배에서 2배 사이의 투자 수익률(ROI)을 보고했으며, 중간값은 1.6배로 나타났다. 응답자의 75% 이상이 판매 지연 감소, 보안 손실 완화, 회사 매력도 증가, 민첩성 및 혁신 향상, 운영 효율성 개선, 고객 충성도 및 신뢰 향상 등의 이점을 언급했다. 특히 개인정보 보호 투자가 조직을 대중에게 더 매력적으로 만든다고 응답한 비율이 전년 대비 75%에서 78%로 증가했다.

기업들은 개인정보 보호 정책과 투명성이 고객 신뢰 구축에 필수적이라는 점을 널리 인식하고 있다. 대부분의 기업들은 강력한 데이터 보호 조치가 없다면 고객들이 제품이나 서비스를 구매할 가능성이 점점 낮아진다고 생각한다. 이는 2024 소비자 개인정보 보호 설문조사에서 응답자의 75%가 자신의 데이터를 신뢰하지 않는 제공업체에서 구매하지 않을 것이라고 응답한 맥락에서 이해할 수 있다.

FAQ

Q: 생성형 AI를 사용할 때 기업이 가장 우려하는 개인정보 보호 문제는 무엇인가요?

A: 기업들이 생성형 AI 사용 시 가장 우려하는 개인정보 보호 문제는 민감한 정보가 유출될 가능성(64%)과 결과의 부정확성(61%)입니다. 이 외에도 인류에 대한 잠재적 위협(62%)과 저작권이나 지적재산권과 같은 법적 권리 침해(55%)도 주요 우려사항으로 나타났습니다.

Q: 강력한 개인정보 보호법이 AI 사용에 어떤 영향을 미치나요?

A: 강력한 개인정보 보호법은 소비자가 AI 시스템에 자신의 데이터를 공유하는 데 더 편안함을 느끼게 합니다. 연구에 따르면 응답자의 90%가 이에 동의했으며, 이는 법적 안전장치가 있다는 것을 알 때 소비자들이 더 큰 신뢰를 갖고 AI 기술과 상호작용한다는 것을 보여줍니다.

Q: 기업들이 AI 거버넌스에 투자하면 어떤 혜택을 얻을 수 있나요?

A: AI 거버넌스에 투자하면 고객 및 이해관계자와의 신뢰 구축(74%), 제품 품질 향상(83%), 직원 관계 개선(85%), 기업 가치 실현(85%), 규제 대비(83%) 등 다양한 혜택을 얻을 수 있습니다. 이러한 투자는 AI 시스템이 윤리적이고 책임감 있게 사용되도록 보장하여 장기적인 비즈니스 가치를 창출합니다.

해당 기사에서 인용한 리포트의 원문은 링크에서 확인할 수 있다.

이미지 출처: Cisco

기사는 클로드와 챗GPT를 활용해 작성되었습니다.