홍콩중문대학교 장위쿤(Zhang Yukun) 교수와 마카오대학교 장톈양(Zhang Tianyang) 교수 연구팀이 AI 시대 정보 오염 문제를 경제학적으로 분석한 연구 결과를 발표했다. 연구진에 따르면 대형 언어 모델(LLM)의 등장으로 저품질 콘텐츠 생산의 한계비용이 거의 0에 가깝게 떨어진 반면, 고품질 정보 생산 비용은 여전히 높은 수준을 유지하고 있다. 이러한 비대칭적 비용 구조가 정보 오염을 체계적으로 조장하고 있으며, 업계 보고서에 따르면 생성형 AI의 API 비용은 2년간 90% 이상 하락했고 잘못된 정보로 인한 연간 경제 손실은 1,000억 달러를 넘어선다고 밝혔다.

AI는 저품질 콘텐츠에서 인간 대체재, 고품질에서는 보완재 역할

연구진은 AI 기술이 콘텐츠 유형에 따라 다른 역할을 한다는 핵심 가정을 제시했다. 저품질 콘텐츠 생산에서 AI 자본과 인간 노동은 대체 관계에 있다. 이는 표준화된 콘텐츠 특성상 AI가 문법적으로는 올바르지만 깊이 있는 검증이 부족한 텍스트를 효율적으로 생성할 수 있기 때문이다. 반면 고품질 콘텐츠 제작에서는 AI 자본과 인간 노동이 보완 관계를 형성한다. 복잡한 콘텐츠 특성상 AI 도구가 연구와 작성을 도울 수는 있지만 인간의 창의성, 비판적 분석, 윤리적 판단을 대체할 수는 없다는 것이다.

이러한 기술적 비대칭성의 직접적 결과로 비용 비대칭이 나타난다. AI 자본 비용이 감소할 때 저품질 콘텐츠의 비용 절감 효과가 고품질 콘텐츠보다 더 크게 나타난다. AI가 저렴해질수록 저품질 콘텐츠 생산 비용이 고품질 콘텐츠보다 훨씬 급격히 떨어지며, 이것이 정보 오염의 근본적인 공급 측면 동력이 된다.

플랫폼-생산자-소비자 간 3단계 게임에서 나타나는 시장 실패

연구진은 정보 시장을 3단계 순차 게임으로 모델링했다. 1단계에서 플랫폼은 콘텐츠 조정 강도와 알고리즘 증폭 가중치를 설정해 수익을 극대화한다. 2단계에서 콘텐츠 생산자들은 플랫폼 정책을 관찰하고 최적 공급을 선택한다. 3단계에서 소비자들은 불완전한 신호를 관찰하고 검증 비용을 지불할지 결정한다.

연구진은 이 게임에서 '오염된 정보 균형'이 유일하게 존재하며 이것이 파레토 비효율적임을 증명했다. 비효율성은 세 가지 상호작용하는 시장 실패에서 기인한다.

첫째, 생산 외부효과로 저품질 콘텐츠 생산자들이 자신의 결과물이 미치는 부정적 사회 효과를 내재화하지 않는다.
둘째, 플랫폼 거버넌스 실패로 플랫폼의 목적 함수가 사회 복지와 일치하지 않는다.
셋째, 정보 공유지 외부효과로 검증은 공공재이지만 소비자들이 사회적 편익에 대한 완전한 보상을 받지 못해 과소 투자가 일어난다.


정보 오염 지수로 생태계 건강도를 4차원으로 측정

연구진은 사회 복지 함수에 내생적인 정보 오염 지수(IPI)를 구축했다. 이 지수는 네 가지 이론적 차원의 선형 결합으로 정의되며, 각 차원의 가중치는 사회 복지에 대한 한계 영향으로 내생적으로 결정된다.

첫 번째 차원인 효과적 오염 밀도는 소비자 주목 시장에서 오염의 실질적 비중을 측정한다. 플랫폼 알고리즘에 의해 증폭되고 조정을 피한 저품질 콘텐츠가 유한한 정신적 대역폭에 미치는 영향을 포착한다.
두 번째 차원인 사회 복지 손실은 3중 시장 실패로 인한 경제적 비용을 화폐화한다.
세 번째 차원인 신뢰 공유지 붕괴는 '신뢰'를 고갈 가능한 사회 자본으로 다루며, 정보 오염의 장기적이고 누적적이며 경로 의존적 피해를 포착한다.
네 번째 차원인 비대칭 기술 위험은 콘텐츠 생성과 탐지 간 기술 군비경쟁을 측정하는 전망적 위험 지표다.

실험 검증 결과 IPI는 사회 복지와 -0.839의 강한 음의 상관관계를 보였고, 외부 충격에 대해 평균 37.5% 증가하는 민감성을 나타냈다. 20% 수준의 측정 노이즈에서도 0.045의 낮은 측정 오차를 유지했다.

다중 정책 도구와 IPI 기반 적응형 거버넌스 필요

연구진은 각 시장 실패에 대응하는 정책 도구가 필요하다고 제안했다. 생산 외부효과에는 저품질 콘텐츠에 대한 피구세를, 정보 공유지 외부효과에는 콘텐츠 출처 표준 의무화를, 플랫폼 거버넌스 실패에는 정보 수탁 의무를 각각 적용해야 한다고 밝혔다.

6가지 정책 시나리오를 비교한 실험에서 모든 개입이 기준선을 개선했다. 복합 정책이 가장 높은 사회 복지(79.82)를 달성해 기준선 대비 2.3% 개선을 보였다. 기술 개입이 오염 밀도 감소(0.596)와 IPI 개선(0.622)에 가장 효과적이었다. 단일 정책 도구의 효과는 제한적이며 다중 도구 정책 포트폴리오가 3중 시장 실패를 효과적으로 해결하는 데 필요하다는 이론적 주장이 검증됐다.

루카스 비판과 불확실성 문제에 대응해 연구진은 IPI를 실시간 피드백 신호로 활용하는 적응형 거버넌스 프레임워크를 제안했다. 정책 도구들이 관찰된 생태계 건강도에 따라 동적으로 조정되는 상태 의존적 규칙을 통해 기술 혁신이나 시장 구조 변화로 인한 체계적 변화에 내생적으로 대응할 수 있다고 설명했다.

FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q1: 정보 오염이란 무엇이고 왜 문제가 되나요?

A1: 정보 오염은 AI로 인해 저품질 콘텐츠 생산 한계비용이 거의 0에 가까워지면서 발생하는 시장 실패입니다. 사실 확인이나 독창성이 부족한 콘텐츠가 그럴듯해 보이지만 전통적인 품질 신호를 훼손해 소비자 의사결정을 왜곡합니다.

Q2: 일반인이 정보 오염으로부터 자신을 보호하는 방법은?

A2: 개인 차원에서는 정보 출처 확인, 여러 정보원 교차 검증, 전문 기관 콘텐츠 우선 참조 등이 가능하지만, 구조적 문제 해결을 위해서는 플랫폼과 정부 차원의 체계적 대응이 필요합니다.

Q3: 정보 오염 지수는 어떻게 활용되나요?

A3: IPI는 정보 생태계 건강도를 실시간 모니터링하는 조기 경보 시스템입니다. 정책 입안자들이 오염 수준을 객관적으로 측정하고 상황에 따라 정책 도구를 동적으로 조정하는 적응형 거버넌스에 활용됩니다.

기사에 인용된 논문 원문은 arXiv에서 확인할 수 있다.

논문명: The Economics of Information Pollution in the Age of AI: A General Equilibrium Approach to Welfare, Measurement, and Policy

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.