미국 반도체, AI 분석 기관 세미애널리시스(SemiAnalysis)가 현지 시각 10월 8일 중국 AI 개발사 9곳의 안전성 평가 공개 현황을 분석한 보고서 ‘베이징은 프런티어의 속도를 조절하지 않는다’를 발표했다. 보고서는 알리바바와 바이트댄스, 텐센트, 바이두, 딥시크, 문샷 AI, Z.ai(즈푸), 미니맥스, 스텝펀이 2021년부터 2026년 9월 15일까지 출시한 모델 857개를 분석했다.

857개 모델 가운데 특정 모델과 연결되는 안전성 평가 결과가 공개된 모델은 31개(3.6%)였고, 출시 시점이나 그 전에 결과가 공개된 모델은 9개(1.1%)에 그쳤다. 813개(94.9%)는 평가 결과를 공개하지 않았다. 출시 뒤 결과를 공개한 16개 모델은 공개까지 중간값 42일이 소요됐고, 공개가 가장 늦은 딥시크 R1은 출시 349일 뒤에 결과가 공개됐다. 추론 모델의 93%도 공개된 평가 결과가 확인되지 않았다.

기업별로는 알리바바가 238개 모델 중 7개, 텐센트가 133개 중 1개, 바이트댄스가 120개 중 2개, 바이두가 49개 중 1개 모델의 평가 결과를 공개했다. 2022년부터 매년 평가 결과를 공개해 온 개발사는 Z.ai뿐이었다. 스타트업의 공개율은 6.3%(317개 중 20개)로 대형 기술기업의 2%(540개 중 11개)보다 높은 편이었다. 사이버 공격이나 생물학적 위험을 평가한 문서는 3건이었고, 대형 기술기업 4곳의 문서는 포함되지 않았다. 세미애널리시스는 기업별 비율을 순위가 아닌 참고 지표로 봐 달라고 덧붙였다.

중국 표준화 기구 TC260과 국가인터넷정보판공실(CAC)이 9월 14일 발표한 ‘AI 안전 거버넌스 프레임워크 3.0’은 AI의 무단 권한 획득과 보호 장치 우회, 평가자 기만 등을 위험 항목으로 규정했다. 세미애널리시스는 이 프레임워크가 ‘AI 혁신과 발전 촉진’을 첫 번째 원칙으로 제시하고 있으며, 중국 규제는 학습 연산량이나 성능이 아니라 콘텐츠와 응용 서비스를 대상으로 한다고 지적했다. 유럽연합(EU)은 10²⁵ 플롭(FLOP), 미국 캘리포니아주 SB 53은 10²⁶회 연산을 기준으로 최상위 모델 개발사에 별도 의무를 부과한다. 플롭은 AI 학습에 투입된 연산량을 나타내는 단위다.

자세한 내용은 세미애널리시스에서 확인할 수 있다.

이미지 출처: 세미애널리시스