현지 시각 8월 27일 테크타임스(TechTimes)에 따르면, 중국 공업정보화부(MIIT)가 핵심 AI 표준 약 200종을 확정하고 시 차원 AI 윤리 심사 파일럿을 여러 도시에서 가동 중이라고 밝혔다. 8월 26일 베이징에서 열린 국무원 신문판공실 브리핑에서 신궈빈 공업정보화부 부부장이 발표했다. 중국은 AI 프로젝트가 개발을 시작하기 전에 윤리 심사를 받도록 한 주요국 중 유일한 사례가 됐다.

근거가 된 ‘인공지능 과학기술 윤리 심사·서비스 행정조치(시행)’는 지난 3월 20일 MIIT를 포함한 10개 부처가 공동 발표했고, 4월 3일부터 시행됐다. 대학과 연구기관, 의료기관, 기업 등 중국에서 AI 활동을 하는 모든 조직은 내부 윤리 위원회를 두고, 프로젝트 착수 전에 심사를 받아야 한다. 원칙적으로 모델 사전학습이 시작되기 전에 심사가 이뤄진다. 심사 대상에는 생성형 AI와 추천 시스템, 자율주행 등 다양한 AI 응용이 포함된다.

모든 프로젝트는 데이터와 알고리즘, 모델을 대상으로 한 기본 심사를 먼저 받는다. 심사는 통제 가능성과 신뢰성, 사용자 개입 가능성 등 여섯 가지 항목으로 이뤄진다. 인간의 행동이나 건강에 영향을 주거나 여론을 움직일 수 있는 고위험 프로젝트는 정부가 지정한 전문가 패널의 2차 심사를 추가로 거쳐야 한다. 심사자는 접수 뒤 30일 안에 결론을 내거나 연장을 공식 통보해야 한다. 승인 뒤에도 일반 프로젝트는 12개월, 고위험 프로젝트는 6개월 안에 후속 심사를 받는다. 시 차원 파일럿은 제조와 교육, 의료, 금융 등 아홉 개 수직 분야 중 최소 세 개를 선택해 운영한다.

다만 전문가들은 이 체계가 절차적 심사에 초점을 맞춰 리스크 임계값을 규정하지 않았다는 점을 지적한다. 어떤 수준의 위험이 심사를 통과하지 못하게 하는지, 어떤 완화 조치가 필요한지가 명시되지 않아, 서류를 제대로 갖추면 통과되는 ‘절차적 준수’에 그칠 수 있다는 것이다. 심사 기준이 구체화되면 기업들의 준수 부담도 커질 수 있다.

EU의 적합성 평가가 시장 진입 전 단계에서 이뤄지는 것과 달리, 중국의 심사는 연구개발 전 단계에서 개입한다. 다만 확정된 표준 약 200종 가운데 법적 구속력이 있는 강제 국가표준(GB)은 AI 생성물 라벨링 한 건뿐이고, AI 에이전트 보안 표준이 두 번째로 채택 절차를 밟고 있다. 나머지는 권고 표준(GB/T)이다. 국가사이버정보판공실의 알고리즘 등록과 생성형 AI 서비스 의무를 이미 이행한 시스템은 추가 전문가 심사를 면제받을 수 있다. 이 체계는 중국에서 AI를 연구개발하는 외국 기업에도 똑같이 적용된다.

자세한 내용은 테크타임스에서 확인할 수 있다.

이미지 출처: 신화통신