[IT동아 정연호 기자]

지난 4월, 유럽연합(이하 EU) 집행위원회가 '인공지능에 대한 조화로운 규칙 수립 및 개정 입법 제안'을 발표했다. 주요국 중 EU가 처음으로 인공지능 산업에 대한 포괄적 규제안을 내놓은 것이다.

EU 집행위원회는 규제안을 발표하면서, "사람들이 인공지능 기술을 신뢰할 수 있도록, 규제안이 EU의 가치와 기본권에 맞춰져야 한다"고 강조했다. 본 규제안은 유럽의회와 회원국 승인을 거쳐야 시행되며, EU 내외에 기반을 둔 업체에 모두 적용된다(해당 업체의 서비스가 EU 내에서 이용될 경우). 가령, EU 내 은행이 한국 업체의 이력서 필터링 서비스를 이용한다면, 그 한국 업체도 규제 대상이다.

EU는 인공지능으로 발생할 수 있는 위험을 '용납할 수 없는(unacceptable risk)', '고위험(high risk)', '제한된 위험(limited risk)', '낮은 위험(minimal risk)' 등 총 4가지로 분류하고, 각 단계에 맞는 세부적인 규제를 마련했다.

법안을 살펴보면, '용납할 수 없는 위험'은 기본권 침해 등 EU의 가치에 위배되기 때문에 금지된다. 인공지능을 통한 공공 사회 신용평가시스템, 취약계층(어린이, 장애인)의 취약성을 착취하는 시스템, 무의식을 조종하는 시스템, (국가테러 아동범죄를 제외한) 공개된 장소에서 법 집행 목적으로 쓰는 실시간 원격 생체인식 시스템 등은 모두 용납할 수 없는 위험에 해당된다.

'고위험'은 문제 발생 시 사람의 건강/안전/기본권에 위험을 가할 수 있는 영역이다. 기계와 의료기기 부품/교육기관 입학, 회사 채용 시스템/필수 공공시설(도로 교통 및 물, 가스, 난방 전기 공급의 관리 및 운영)과 관련된 인공지능 서비스는 고위험으로 분류된다.

고위험 인공지능 시스템은 엄격한 의무사항을 이행해야 한다. 이 의무사항에는 인공지능에 고품질 데이터가 사용되도록 관리, 인공지능 알고리즘 정보를 담은 시스템 기술 명세서/시스템 운영 기록 작성, 이용자가 요구하는 정보를 제공, 사람에 의한 통제 등이 있다. 이외에도 서비스 출시 전, 적합성 평가를 수행하고 시스템을 EU 데이터베이스에 등록해야 한다.

'제한된 위험'으로 분류되면, 서비스에 인공지능을 활용했다는 점을 이용자에게 알려야 한다(투명성 의무). 챗봇 채팅/딥페이크 등이 제한된 위험에 해당된다. 낮은 위험의 경우는 법적인 의무를 부여받진 않는다. 대신 EU의 인공지능 규제안을 자율규범으로 만들고, 이를 따를 것을 권고했다.

금지된 인공지능 이용 행위를 하거나 데이터관리 요구사항을 위반할 시 과징금이 부과된다. 최대 3,000만 유로(한화 410억 원) 또는 전년도 전 세계 매출의 6%이다(둘 중 더 높은 금액의 과징금을 내야 한다). 이외의 의무를 위반할 경우 최대 2,000만 유로(한화 273억 원) 혹은 전년도 전 세계 매출의 4%의 과징금이 부과될 수 있다.

입법 앞에 놓인 갈등

외신에 따르면, EU 인공지능 규제안은 입법 과정에서 진통을 겪을 것으로 보인다. 다국적 IT기업과 인권단체의 팽팽한 싸움이 예상된다는 것이다. 기업은 인공지능으로 인한 위험은 대부분 입증되지 않았다고 주장하며, 과도한 규제가 인공지능 혁신을 저지할 것을 우려한다. 반면, 인권단체는 규제안이 기존 법안보다 후퇴했으며, 원격 생체인식은 처벌 면제 조항이 넓어서 이를 악용할 수 있다고 비판한다.

다국적 IT기업에 문의한 결과, 대부분 명확한 입장을 내놓지 않았다. 일부 기업은 "이번 규제안은 오히려 인공지능에 사용할 데이터 품질을 우수하게 만드는 가이드라인"이라며 법안을 긍정적으로 평가했다.

입법 가능성에 대해선, 익명의 관계자는 "진통을 겪더라도 법안이 입법될 가능성이 크다"고 말했다. 그는 "주요국 중에서 EU가 먼저 인공지능 규제안을 내놓은 이유는, 전 세계에 'EU 내에서 이루어지는 인공지능산업은 신뢰할 수 있다'는 메시지를 전달하기 위함"이라고 덧붙였다. 사실상, 미국과 중국이 인공지능 시장을 주도하는 상황에서, 인공지능 표준을 EU가 선도해 EU 경쟁력을 높이려 한다는 게 중론이다.

또한, 이번 규제안은 EU가 오랜 시간에 걸쳐 준비했고, 본 법안 입법을 담당할 EU 의회는 이미 인공지능 윤리를 규제화해야 한다고 결의했다. 그만큼 법안이 통과될 가능성이 높다.

글로벌 스탠다드가 될 인공지능 규제안

EU의 인공지능 규제안은 과연 세계 표준이 될 수 있을까? 전문가들의 답은 "그렇다"이다. EU 규제안은 전세계 학자와 정부 관계자들이 오랫동안 논의해온 인공지능 윤리 실현 방안을 그대로 담았기 때문이라는 것. 그만큼 여러 나라에서 법안이 만들어질 때, 내용은 비슷할 수밖에 없다. 결국, EU 인공지능 규제안은 '글로벌 스탠다드'로 자리잡을 가능성이 높다.

사실상 EU가 입법에 먼저 나섰을 뿐, 주요국들 역시 인공지능 규제안을 준비하는 중이다. 정보통신정책연구원(KISDI) 이경선 연구위원의 보고서 'EU 인공지능 규제안의 주요 내용과 시사점'에 따르면, 미국에서도 대대적인 인공지능 알고리즘 규제를 예고하고 있어, 향후 전 세계적으로 인공지능 규제 논의가 빠르게 진전될 것으로 예상된다. 실제로, 미국 연방거래 위원회(FTC)는 지난 4월 19일 '기업의 인공지능사용에서의 진실, 공정성, 평등을 위하여'라는 성명을 발표했다.

최근 과학기술통신부(이하 과기통부)도 '신뢰할 수 있는 인공지능 전략'을 발표했다. 과기통부는 "인공지능 챗봇/딥페이크/사이코패스 인공지능 등 예상하지 못한 사회적 이슈와 우려가 대두되는 만큼, 사람이 중심이 되는 '인공지능 강국'으로 도약할 필요가 있다. 신뢰할 수 있는 인공지능 실현을 위한 지원정책이 필요하다는 판단에 따라 전략을 마련했다"고 밝혔다. 과기통부가 발표한 인공지능 전략은 EU 인공지능 규제안과는 상당 부분 유사하다. 학습용 데이터와 고위협 인공지능의 신뢰확보 모두 EU 규제안의 핵심내용이었다.

과기통부 관계자는 "정책을 만드는 과정에서 글로벌 동향을 참고한 것은 맞다. 하지만, EU는 규제에 포커스를 맞췄다면, 한국은 산업을 진흥하는 목적으로 전략을 만들었다"고 밝혔다.

한편, 전문가들은 법안을 제정하기 전, 구체적인 증거에 기반한 준비가 필요하다고 강조한다. 인공지능의 순기능 및 역기능에 대한 구체적인 증거가 여전히 제한적이기 때문에, 이에 대한 지속적인 증거 축적이 필요하다는 것.

인공지능은 중요한 미래 산업인만큼, 규제안을 만들기 전 국내 인공지능 사업현황과 위험성을 꼼꼼하게 파악하는 과정이 선행돼야 한다.

글 / IT동아 정연호 (hoho@itdonga.com)