AI 챗봇이 섭식장애 환자에게 위험한 조언을 내놓는다는 지적이 이어지고 있다. 미국 하버드 T.H. 챈 공중보건대학원(Harvard T.H. Chan School of Public Health)은 챗GPT(ChatGPT)를 비롯한 AI 도구가 섭식장애와 관련해 해로운 조언을 제공한다는 분석을 내놨다. 섭식장애는 체중·음식·체형에 대한 왜곡된 인식으로 식사 행동에 문제가 생기는 정신질환이다.

연구진이 13세 소녀로 가장해 질문하자, 챗봇은 하루 0칼로리에 가까운 극단적 열량 제한 계획을 제시하고 이를 가족에게 숨기라고 조언하기도 했다. 별도 연구에서는 챗GPT-4o와 제미나이(Gemini) 2.5 프로 등 주요 챗봇 5종이 청소년용 식단을 짜면서, 등록 영양사가 만든 식단보다 하루 필요 열량을 평균 695칼로리 낮게 잡았다.

섭식장애 환자들은 AI와의 대화에서 힘을 얻었다고 느끼면서도, 해롭거나 문제 있는 응답을 알아차리지 못하는 경우가 많았다. AI를 크게 신뢰한 탓에 의료진의 판단보다 챗봇의 답을 앞세우는 상황이 나타났다.

AI 상담은 언제든 접근할 수 있고 기본 정보를 빠르게 준다. 그러나 지속적 치료가 필요한 섭식장애처럼 민감한 영역에서는 전문가의 진단을 대체하기 어렵다. 오픈AI(OpenAI)는 최근 챗GPT의 구체적 의료·법률·재정 조언 제공을 제한하고, 정신건강 관련 안전장치는 완화하지 않겠다고 밝힌 바 있다.

자세한 내용은 하버드 T.H. 챈 공중보건대학원(Harvard T.H. Chan School of Public Health)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성