병원에서 AI가 진단을 내리거나 백신 접종 순서를 정할 때, 환자나 의사들은 종종 "왜 이런 결정을 내렸지?"라고 궁금해한다. 지금까지 대부분의 AI는 답만 제시할 뿐 그 이유를 제대로 설명하지 못했다. 특히 사람의 생명과 건강에 관련된 의료 분야에서는 정확한 답만큼이나 그 이유를 아는 것이 중요하다.

독일 로버트 코흐 연구소 연구팀이 개발한 PHAX라는 새로운 기술은 이런 문제를 해결한다. PHAX는 의료 AI가 내린 결정을 사람이 쉽게 이해할 수 있도록 설명해 주는 시스템이다. 기존 기술들이 단순히 "이 요소가 중요했다"는 식으로만 설명했다면, PHAX는 마치 사람이 논리적으로 설명하는 것처럼 차근차근 이유를 들어 설명한다.

의사에게는 전문 지식으로, 환자에게는 쉬운 말로 같은 내용을 다르게 설명

PHAX의 가장 큰 장점은 듣는 사람에 따라 설명 방식을 바꾼다는 것이다. 같은 백신 접종 권고라도 의사에게는 "임상실험에서 92% 효과를 보였습니다"라고 전문적으로 설명하고, 환자에게는 "이 백신이 당신 같은 분들을 안전하게 지켜주었어요"라고 쉽게 풀어서 말한다. 정책을 만드는 사람들에게는 "이 순서로 접종하면 병원 응급실이 덜 붐빕니다"라는 식으로 정책 효과를 중심으로 설명한다.

이런 맞춤 설명이 가능한 이유는 PHAX가 각 사용자의 전문 지식 수준, 어려운 용어에 대한 이해도, 얼마나 자세한 설명을 원하는지 등을 미리 파악하기 때문이다. 시스템은 이런 정보를 바탕으로 설명의 내용과 표현을 자동으로 조정한다.

어려운 의학 용어를 쉬운 말로 바꾸는 것도 논리적 근거가 있어야

PHAX는 어려운 의학 용어를 쉬운 말로 바꿀 때도 단순히 바꾸기만 하는 것이 아니라, 왜 바꿨는지 이유를 명확히 제시한다. 예를 들어 '심근경색'을 '심장마비'로 바꿀 때는 다음과 같이 설명한다.

결정: '심근경색'을 '심장마비'로 바꾼다. 이유 1: '심장마비'가 일반 사람들이 더 많이 사용하는 말이다. 이유 2: 의미가 똑같다는 것을 확인했다. 반대 의견: 의사들 사이에서는 '심장마비'가 애매할 수 있다.

이처럼 PHAX는 단순히 "이 말이 더 쉬워서 바꿨다"고 하는 것이 아니라, 구체적인 근거와 함께 혹시 있을 수 있는 문제점까지 함께 알려준다. 또한 듣는 사람이 환자인지 의사인지에 따라 용어를 바꿀지 말지를 다르게 결정할 수도 있다.

4단계로 정보를 차근차근 처리해서 맞춤 설명 완성

PHAX는 4개 단계를 거쳐 정보를 처리한다. 첫 번째 단계에서는 병원 기록, 환자 정보, 질병 통계, 소셜미디어 글 등 다양한 자료를 모아서 정리한다. 두 번째 단계에서는 이런 자료들을 컴퓨터가 이해할 수 있도록 분석한다. 여기서는 중요한 단어 찾기, 문장 의미 파악, 글의 흐름 분석, 어려운 말을 쉬운 말로 바꾸기 등의 작업을 한다.

세 번째 단계가 PHAX의 핵심이다. 여기서는 AI의 결정을 논리적인 주장과 근거로 만든다. 마치 사람이 토론할 때 "이런 이유로 이렇게 생각한다"고 말하는 것처럼, 컴퓨터도 자신의 결정에 대한 논리적 근거를 제시한다. 마지막 네 번째 단계에서는 이런 설명을 화면, 챗봇, 요약문 등을 통해 사용자에게 전달하며, 듣는 사람에 따라 말투와 자세함 정도를 조절한다.

이런 4단계 시스템은 기존 기술들과 달리 개발할 때부터 배포할 때까지 계속해서 설명 기능을 유지한다. 각 단계가 AI 모델을 만드는 것과 실시간으로 설명을 만드는 것을 동시에 담당해서, 언제든지 AI의 결정 과정을 추적하고 사용자가 이해할 수 있도록 한다.

의학적 정확성과 이해하기 쉬운 설명 사이의 위험한 줄타기

하지만 PHAX와 같은 의료용어 간소화 기술에는 주의해야 할 점이 있다. 앞서 예시로 든 '심근경색'과 '심장마비'는 의학적으로 엄연히 다른 개념이다. 심근경색은 심장 근육에 혈액 공급이 차단되어 심장 조직이 죽는 구체적인 상태를 가리키는 반면, 심장마비는 심장이 갑자기 멈추는 더 넓은 개념으로 다양한 원인을 포함한다.

이처럼 정확한 의학 용어를 일반인이 이해하기 쉬운 말로 바꾸는 과정에서 의미가 왜곡되거나 중요한 정보가 사라질 위험이 있다. 환자가 자신의 정확한 병명을 모르게 되면 다른 의료진과 소통할 때 혼란이 생길 수 있고, 인터넷에서 잘못된 정보를 찾아볼 가능성도 높아진다.

따라서 PHAX 같은 기술을 실제 의료 현장에 적용할 때는 의학적 정확성을 해치지 않으면서도 환자가 이해할 수 있는 적절한 수준의 설명을 찾는 것이 가장 중요한 과제가 될 것이다. 아무리 좋은 의도라도 의학적 정확성을 희생해서는 안 되기 때문이다.

FAQ

Q: PHAX는 기존 의료 AI와 어떻게 다른가요?

A: 기존 의료 AI는 결과만 알려주고 이유는 제대로 설명하지 못했습니다. PHAX는 AI가 결정을 내리는 과정 자체에 설명 기능을 넣어서, 의사든 환자든 정책 담당자든 각자에게 맞는 방식으로 이유를 쉽게 설명해 줍니다.

Q: 어려운 의학 용어를 쉽게 바꾸는 기능은 어떻게 작동하나요?

A: 단순히 어려운 말을 쉬운 말로 바꾸는 것이 아니라, 일반인들이 얼마나 많이 쓰는지, 의미가 같은지, 상황에 맞는지 등을 종합적으로 따져서 결정합니다. 그리고 왜 그 단어를 선택했는지 구체적인 이유도 함께 알려줍니다.

Q: PHAX는 의료 현장에서 어떻게 활용될 수 있나요?

A: 백신 접종 순서 정하기, 환자 위험도 판단하기, 의학 용어 쉽게 설명하기, 진단 근거 제시하기, 정책 결정 이유 설명하기 등 다양한 의료 및 보건 분야에서 활용할 수 있습니다. 특히 정보가 부족하거나 의견이 엇갈리는 상황에서 투명한 결정을 내리는 데 도움이 됩니다.

해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문 명: PHAX: A Structured Argumentation Framework for User-Centered Explainable AI in Public Health and Biomedical Sciences

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.