Earning Trust for AI in Health: A Collaborative Path Forward

2020년 의료 AI가 신약 개발 추월, 2000억 달러 시장 급성장의 이면

세계경제포럼에서 발표한 리포트에 따르면, 인공지능(AI) 기술이 의료 분야에서 급속도로 확산되고 있다. 글로벌 AI 시장 규모는 2020년 620억 달러에서 2023년 약 2,000억 달러로 3배 증가했다. 특히 2020년에는 의료 분야에 도입되는 새로운 AI 기술의 수가 신약 개발을 넘어섰다. 미국 식품의약청(FDA)이 연평균 47개의 신약을 승인하는 것과 달리, AI 기술은 훨씬 빠른 속도로 의료 현장에 진입하고 있다.

그러나 현재의 의료 규제 프레임워크는 주로 의약품과 의료기기를 대상으로 설계되어 AI 기술의 확률적이고 동적인 특성을 완전히 관리하기에는 적합하지 않다. 전통적인 평가 방법은 시장 출시 전 검증에 중점을 두고 있어, 배포 후에도 지속적으로 진화하는 AI 시스템을 수용하기 어려운 상황이다.

미국 vs EU, 글로벌 의료 AI 규제 접근법 극명한 대조

전 세계적으로 AI 규제에 대한 첫 번째 세대의 법적 프레임워크가 등장하고 있지만, 지역별로 상당한 차이를 보이고 있다. 미국은 국가 경쟁력과 경제적 강점을 우선시하며 혁신을 촉진하는 정책을 선호하고 있다. 연방 감독을 제한하여 민간 부문의 혁신과 숙련된 인력 개발을 촉진한다는 가설에 기반하고 있다.

반면 유럽연합(EU)은 2024년 3월 EU 의회에서 채택된 인공지능법(EU AI Act)을 통해 포괄적인 입법을 제정했다. 이 법안은 AI 시스템을 위험 수준에 따라 분류하고 고위험 애플리케이션에 비례적 통제를 적용한다. 의료 분야 내에서 AI 기술은 의료기기 규정, 체외진단 규정, 일반데이터보호규정, 유럽보건데이터공간 규정 등 다른 규정의 적용도 받는다.

이러한 분화는 특히 여러 입법 환경을 탐색해야 하는 다국적 기업들에게 국가와 지역 간 AI 기반 의료 기술 배포에 마찰을 만들고 있다. 규제 접근법의 국제적 조화가 이러한 장벽을 줄이는 데 도움이 될 수 있다.

영국 'AI 에어록' 출시, 진화하는 AI 특성 반영한 규제 샌드박스 확산

AI 기술의 동적 특성을 관리하기 위해 규제 모델의 진화가 필요하다. 규제 샌드박스, 생애주기 평가, 사후 시장 모니터링과 같은 동적 거버넌스 메커니즘이 AI 시스템이 전체 수명 동안 안전하고 효과적이며 공평하게 유지되도록 하는 데 필수적이다. 영국 의약품건강관리제품규제청(MHRA)은 2024년 봄 의료기기로서의 AI(AIaMD)를 위한 첫 번째 규제 샌드박스인 'AI 에어록(AI Airlock)'을 출시했다. 이 프로젝트의 목표는 영국 시장에 진입하는 혁신적 기기의 현저한 증가로 인한 AIaMD의 새로운 규제 과제에 대한 해결책을 이해하고 가속화하는 것이다.

사후 시장 감시는 AI 기술에 특히 적합한 새로운 위험의 조기 발견과 반복적 적응을 가능하게 한다. 이는 개발과 배포 후 사이에 AI 기술의 정확도가 변할 수 있기 때문에 실제 데이터를 사용한 AI 기술의 생애주기 모니터링을 포함한다.

마이크로소프트-CHAI 연합체 등장, 민간 주도 품질 보증 프레임워크 확산

민간 부문은 의료 분야에서 고품질 AI 시스템을 구축하는 데 핵심적인 역할을 해야 한다. 의료 AI 기술 대부분이 민간 혁신가들에 의해 개발되고 있어, 이들은 증거 생성 역량이 현지 가이드라인과 어떻게 비교되는지에 대한 중요한 통찰을 제공할 수 있다.

건강 AI 연합(Coalition for Health AI, CHAI)과 같은 공공-민간 파트너십이 AI 의료 표준과 보고를 조화시키기 위해 만들어졌다. 또한 마이크로소프트(Microsoft)와 다양한 의료 기관이 주도하는 신뢰할 수 있고 책임감 있는 AI 네트워크(Trustworthy and Responsible AI Network, TRAIN)가 2024년에 출범하여 윤리적 AI 사용을 촉진하고 안전하고 공평한 AI 배포에 중점을 두고 있다.

품질 보증 자원은 합의 기반 표준과 모범 사례를 사용하여 AI 모델을 독립적으로 평가하고 검증하기 위해 구축되고 있다. 이러한 자원은 품질 보증 자원 제공업체(QARPs) 네트워크에서 호스팅되는 실험실 형태의 구조화된 환경이다. 2024년 말 CHAI는 주로 민간 부문이 주도하는 품질 보증 자원을 인증하는 프레임워크를 도입했다.

FAQ

Q: 의료 AI 기술이 기존 의약품과 다른 점은 무엇인가요?

A: 의료 AI는 배포 후에도 지속적으로 학습하고 진화하는 동적 특성을 가지고 있습니다. 기존 의약품이 승인 후 변하지 않는 정적 제품인 반면, AI는 확률적 행동을 보이며 새로운 데이터에 따라 성능이 변할 수 있어 기존 규제 프레임워크로는 완전한 관리가 어렵습니다.

Q: 규제 샌드박스란 무엇이며 왜 중요한가요?

A: 규제 샌드박스는 의료 당국이 혁신가들이 맞춤형 규제 제약 하에서 새로운 디지털 의료 기술을 테스트할 수 있도록 만든 프레임워크입니다. 통제된 환경에서 AI 기술의 실제 성능에 대한 통찰을 수집하면서 환자 안전과 개인정보 보호를 보장할 수 있어 중요합니다.

Q: 공공-민간 파트너십이 의료 AI 발전에 왜 필요한가요?

A: 대부분의 의료 AI 기술이 민간에서 개발되므로, 민간 부문의 기술적 전문성과 공공 부문의 규제 경험을 결합하여 혁신과 안전성을 모두 확보할 수 있습니다. 또한 증가하는 AI 기술의 테스트와 모니터링 요구사항에 대응하기 위해서는 협력이 필수적입니다.

해당 기사에 인용된 리포트 원문은 WEF에서 확인 가능하다.

이미지 출처: WEF

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.