AI가 만든 콘텐츠가 일상적으로 소비되면서, 제작 과정의 투명성을 요구하는 목소리가 다시 커지고 있다. 이미지, 영상, 기사, 광고까지 생성형 AI가 관여한 결과물이 빠르게 늘어나자, 이용자가 이를 명확히 인지할 수 있어야 한다는 사회적 요구가 힘을 얻고 있다. 콘텐츠 신뢰의 기준이 흔들리고 있다는 위기의식이 논의의 출발점이다.

가장 큰 배경은 허위 정보 확산이다. AI가 만든 콘텐츠가 인간의 작업물과 구분되지 않으면서, 출처와 의도를 판단하기 어려운 상황이 반복되고 있다. 특히 정치, 금융, 건강 정보처럼 사회적 영향력이 큰 영역에서는 AI 생성 여부를 숨긴 채 유통되는 콘텐츠가 심각한 혼란을 초래하고 있다. 이에 따라 사용 여부를 명확히 밝히는 최소한의 장치가 필요하다는 주장에 힘이 실리고 있다.

콘텐츠 생산자에 대한 신뢰 문제도 핵심 쟁점이다. AI 활용 자체보다, 이를 숨기거나 오인하게 만드는 행위가 더 큰 문제로 인식되고 있다. 사용자는 인간의 판단과 책임이 개입된 콘텐츠인지, 자동 생성된 결과물인지에 따라 신뢰 기준을 다르게 적용한다. 이 구분이 사라질수록 미디어와 플랫폼 전체에 대한 신뢰도 함께 흔들린다.

플랫폼 책임을 강화해야 한다는 요구도 함께 제기되고 있다. 개별 창작자에게만 공개 의무를 맡기는 방식으로는 한계가 분명하다는 지적이다. 유통 단계에서 AI 생성 여부를 표시하거나, 메타데이터를 통해 출처를 추적할 수 있는 구조를 플랫폼이 제공해야 한다는 목소리가 커지고 있다. 기술적으로 가능함에도 이를 방치하는 것은 책임 회피로 받아들여지고 있다.

AI 사용 여부 공개 논의는 표현의 자유보다 신뢰 회복에 초점이 맞춰지고 있다. 콘텐츠가 넘쳐나는 환경에서, 이용자가 무엇을 보고 판단하는지 알 수 있어야 한다는 요구는 점점 더 강해지고 있다. 이 논쟁은 단순한 표시 문제를 넘어, AI 시대에 콘텐츠 신뢰를 어떻게 재구성할 것인가라는 본질적인 질문으로 이어지고 있다.

글 / 한만수 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com