전 세계 주요 국가들이 생성형 AI에 대한 규제를 한 단계 끌어올리고 있다. 초기 규제가 ‘위험성 인식’과 ‘자율 가이드라인’에 머물렀다면, 이제는 초거대 모델이 실제로 어떤 데이터를 학습했고, 그 결과에 대해 누가 책임을 져야 하는지를 명확히 규정하려는 방향으로 이동 중이다. 생성형 AI가 사회 전반의 의사결정과 정보 유통 구조에 깊숙이 개입하면서, 기술 발전 속도를 더 이상 시장 자율에만 맡길 수 없다는 판단이 작용한 것이다.

이번 규제 2라운드의 핵심은 학습 데이터의 출처와 합법성이다. 텍스트, 이미지, 영상 등 대규모 데이터가 저작권자 동의 없이 활용됐다는 논란이 누적되면서, 각국 정부는 ‘무엇을 학습했는지 설명할 의무’를 모델 개발사에 요구하기 시작했다. 단순히 결과물만 관리하는 사후 규제가 아니라, 모델 탄생 과정 자체를 통제 대상으로 삼는 구조로 규제의 무게중심이 이동하고 있다.

책임 소재에 대한 재정의도 중요한 변화다. 기존에는 AI가 만든 결과물의 문제를 사용자 책임으로 돌리는 경우가 많았지만, 이제는 모델 설계와 학습 단계에서의 선택이 결과에 직접적인 영향을 미친다는 점이 강조되고 있다. 허위 정보, 차별적 출력, 저작권 침해 등이 발생했을 때 개발사·플랫폼·배포 주체 중 누가 어디까지 책임을 져야 하는지 법적 경계를 다시 그으려는 시도가 본격화됐다.

이 같은 흐름은 기술 견제라기보다 산업 질서 재편에 가깝다. 초거대 모델을 보유한 소수 기업이 정보 생산과 해석의 주도권을 독점하는 상황을 방치할 경우, 미디어·교육·행정 영역 전반에서 구조적 종속이 발생할 수 있다는 위기감이 깔려 있다. 각국 정부는 규제를 통해 기술 발전의 속도를 늦추기보다는, 통제 가능한 범위 안에서 영향력을 분산시키는 쪽을 택하고 있다.

생성형 AI 규제 2라운드는 ‘가능하냐’의 문제가 아니라 ‘어떤 조건에서 허용할 것이냐’를 둘러싼 싸움이다. 데이터 투명성과 책임 명확화는 향후 AI 경쟁력의 새로운 기준이 될 가능성이 크며, 규제를 감당할 수 있는 구조를 갖춘 기업만이 다음 단계로 진입할 수 있는 환경이 만들어지고 있다. 이는 AI 산업이 실험의 시대를 지나 제도권 산업으로 편입되고 있음을 보여주는 분명한 신호다.

글 / 한만수 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com