AI anxiety: Explication and exploration of effect on state anxiety when interacting with AI doctors

AI 불안증의 실체: 40%는 기대, 35%는 우려하는 의료 AI의 양면성

펜실베이니아 주립대학교의 도널드 P. 벨리사리오 커뮤니케이션 칼리지 연구팀이 발표한 논문에 따르면, 인공지능(AI)은 의료 분야에서 많은 잠재력을 가지고 있음에도 불구하고 아직 충분히 활용되지 못하고 있다. 퓨 리서치 센터의 조사에 따르면, 미국 성인들은 AI가 의료 문제를 진단하는 것에 대해 양분된 태도를 보이고 있다. 40%는 기대감을, 35%는 우려를, 24%는 기대와 우려가 공존한다고 응답했다. 전통적으로 진단은 인간 의료 전문가의 영역이었기 때문에 AI 의사로의 전환은 현상 유지(status quo)에서 벗어나는 변화다. 사람들은 일반적으로 변화의 결과에 대한 불확실성 때문에 현상 유지를 선호하는 경향이 있으며, 이것이 AI에 대한 불안감으로 이어진다.

AI 불안증(AI anxiety)은 학계에서 아직 완전히 정립되지 않은 개념이다. 도널드 P. 벨리사리오 커뮤니케이션 칼리지 연구팀은 AI 불안증을 특성(trait) 불안으로 정의하고, AI 의사와 상호작용할 때 발생하는 상태(state) 불안에 미치는 영향을 조사했다. 연구자들은 이를 "AI의 존재나 작동으로 인해 잠재적으로 부정적인 결과를 고려할 때 불쾌한 긴장감, 걱정, 생리적 각성을 경험할 가능성에 있어 개인 간의 차이"로 정의했다.

설명 가능한 AI가 불안을 줄인다: 높은 AI 불안증 환자에겐 +35%, 낮은 불안증 환자에겐 -61% 효과

연구자들은 AI 의사가 진단 과정을 설명할 경우 환자의 불안을 줄일 수 있을 것이라는 가설을 세웠다. 이는 미셀리와 카스텔프란키(Miceli & Castelfranchi)의 연구에 기반하는데, 그들은 잠재적 위험이 실현될지 여부에 대한 인식론적 목표가 달성되면 불안이 제거된다고 주장했다. 유럽 위원회가 제안한 인공지능법(Artificial Intelligence Act)도 의료 AI에 설명 가능성(explainability)을 요구하며, 이는 AI 결정의 근거를 더 잘 이해할 수 있도록 "인과 가능성(causability)"으로 향상될 수 있다.

불안에 관한 기본 연구에 따르면, 어떤 종류든 특성 불안 수준이 높은 개인은 특성 불안 수준이 낮은 사람들보다 의료 방문 중에 더 높은 수준의 상태 불안을 경험하는 경향이 있다. 이를 AI 불안증의 맥락에 적용하면, AI 특성 불안이 높은 환자는 그렇지 않은 환자보다 상태 불안이 유의미하게 높을 것으로 예측할 수 있다.

346명 실험 참가자가 보여준 AI와 인간 의사 상호작용의 차이

연구팀은 감기 증상(콧물, 재채기, 인후통, 가벼운 기침)이 있는 346명의 미국 성인을 대상으로 2x2 실험을 진행했다. 참가자들은 인간 의사 또는 AI 의사와 상호작용했으며, 의사가 진단을 설명하거나 설명하지 않는 조건에 무작위로 배정되었다. 모든 조건에서 참가자들은 실제로는 AI 챗봇과 상호작용했지만, '인간 의사' 조건에서는 챗봇이 인간 의사로 소개되었다.

실험은 온라인 헬스케어 웹사이트 시뮬레이션을 통해 진행되었으며, 참가자들은 진단과 의학적 추천을 받았다. '설명 가능' 조건에서는 의사가 진단 이유를 참가자의 이전 응답에 기반하여 설명했고, '설명 불가능' 조건에서는 그런 맞춤형 사후 설명이 제공되지 않았다.

개인 맞춤형 AI 설명의 필요성: 불안 수준에 따라 달라지는 최적의 AI 경험

구조방정식 모델링(SEM) 분석 결과, AI 특성 불안이 높은 환자들이 낮은 환자들보다 유의미하게 높은 상태 불안을 경험하는 것으로 나타났다. 또한 AI 의사의 설명 가능성이 환자의 AI 특성 불안과 상호작용하여 상태 불안에 영향을 미치는 것으로 확인됐다.

흥미롭게도 AI 의사의 진단 설명은 AI 특성 불안이 높은 환자의 상태 불안을 유의미하게 감소시켰지만, AI 특성 불안이 낮은 환자에게는 오히려 상태 불안을 증가시켰다. 반면, 인간 의사의 설명은 환자의 상태 불안에 유의미한 영향을 미치지 않았다.

이러한 발견은 AI 특성 불안과 상황적 요인이 상태 불안에 미치는 상호작용 효과가 잠재적 위협에 대한 인식론적 통제 필요성을 충족시킬 수 있는 사후 설명의 존재에 의해 조절된다는 것을 보여준다. AI 특성 불안이 낮은 개인들은 인식론적 통제의 필요성이 덜하므로, 설명이 정보 과부하를 일으켜 필요한 정보를 선택하거나 이해하는 능력에 대한 불안감('정보 불안')을 야기할 수 있다.

이 연구 결과는 AI 의료 챗봇의 설명 가능성이 모든 사용자에게 무조건적으로 불안을 줄여주지 않음을 시사한다. 따라서 AI 개발자들은 각 개인의 AI 특성 불안 수준에 따라 설명 가능성을 조정하는 개인화 및 사용자 맞춤형 도구를 구현해야 한다. 예를 들어, AI 의료 챗봇은 초기 단계에서 사용자의 AI 특성 불안을 평가하는 질문을 하거나, 검색 기록 및 소셜 미디어 활동과 같은 비간섭적 방법을 통해 사용자의 AI 특성 불안 수준에 기반한 개인화된 사용자 경험을 제공할 수 있다.

FAQ

Q: AI 불안증(AI anxiety)이란 정확히 무엇인가요?

A: AI 불안증은 인공지능의 존재나 작동으로 인해 잠재적으로 부정적인 결과를 고려할 때 불쾌한 긴장감, 걱정, 생리적 각성을 경험할 가능성에 있어 개인 간의 차이를 의미합니다. 이는 특성 불안의 한 형태로, 개인마다 AI에 대한 불안 수준이 다를 수 있습니다.

Q: AI 의사의 설명이 모든 환자의 불안을 줄여주나요?

A: 아니요, 연구 결과에 따르면 AI 의사의 설명은 AI 특성 불안이 높은 환자의 상태 불안은 감소시키지만, AI 특성 불안이 낮은 환자의 상태 불안은 오히려 증가시킬 수 있습니다. 이는 개인의 AI에 대한 특성 불안 수준에 따라 설명의 효과가 다르다는 것을 의미합니다.

Q: 의료 AI 개발자들은 이 연구 결과를 어떻게 활용할 수 있을까요?

A: 개발자들은 사용자의 AI 특성 불안 수준에 따라 AI 의사의 설명을 조정하는 개인화 및 맞춤형 시스템을 구현할 수 있습니다. 예를 들어, 초기 단계에서 사용자의 AI 특성 불안을 평가하고, 그 수준에 맞게 설명의 양과 깊이를 조절하여 최적의 사용자 경험을 제공할 수 있습니다.

해당 기사에서 인용한 논문은 링크에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

기사는 클로드와 챗gpt를 활용해 작성되었습니다.