생성형 AI가 빠르게 확산되면서 AI와의 상호작용이 우리의 인지, 행동, 감정에 어떤 영향을 미치는지에 대한 우려가 커지고 있다. 텍사스 A&M 대학교 연구팀이 발표한 논문은 AI가 인간 심리에 미치는 복합적인 영향을 인지·행동·감정이라는 심리학의 3요소 관점에서 종합 분석했다. 연구팀은 AI가 기억력 향상과 창의성 증진 같은 긍정적 효과를 가져올 수 있지만, 동시에 비판적 사고력 약화, 기술력 퇴보, 불안 증가 등의 위험도 안고 있다고 경고한다.

챗GPT 복습 문제로 시험 점수 89%까지 올렸지만, 기억력은 오히려 떨어졌다

기억과 회상 측면에서 AI는 양날의 검이다. 챗GPT가 만든 복습 문제로 최종 시험을 준비한 학생들은 그렇지 않은 학생들보다 훨씬 높은 점수를 받았다. 대규모 언어모델이 생성한 문제로 복습한 학생 그룹은 평균 89%의 정답률을 기록한 반면, AI 없이 공부한 학생들은 73%에 그쳤다.

하지만 챗GPT를 자주 사용하는 사람들은 지식을 기억하는 데 어려움을 겪고 기억력이 떨어졌다고 느낀다는 연구 결과도 나왔다. 대규모 언어모델의 도움을 받아 에세이를 작성한 참가자 대부분이 나중에 내용을 떠올리는 데 어려움을 겪었다. 인지 작업을 AI에 지나치게 의존하면 정보를 얕게만 처리하고 나중에 기억해내는 능력이 약해질 수 있다는 뜻이다.

GPT-4 없으면 문제도 못 푸는 학생들, 스스로 생각하는 힘도 사라졌다

실제 문제 해결 능력 측면에서 AI는 학생들이 배운 지식을 실습할 수 있는 학습 환경을 만들어준다. 지능형 튜터링 시스템과 교육용 로봇이 학생들의 실습을 도왔다. 하지만 고등학생을 대상으로 한 대규모 조사에서는 충격적인 결과가 나왔다. 학생들이 GPT-4를 사용할 수 있을 때는 더 좋은 성적을 냈지만, GPT-4 사용이 막히자 오히려 대조군보다 더 나쁜 결과를 보인 것이다.

비판적 사고 측면에서도 마찬가지다. 챗튜터(ChatTutor)라는 생성형 AI 교육 챗봇을 사용한 학생들이 이후 평가에서 더 좋은 성적을 거뒀다는 긍정적 연구도 있다. 이 챗봇은 학생들에게 아이디어를 연결하고 추론을 설명하도록 유도했고, 전통적인 방식으로 분석을 배운 학생들보다 더 나은 결과를 보였다.

하지만 지식 노동자 319명을 대상으로 한 조사에서는 우려스러운 결과가 나왔다. 생성형 AI를 사용하는 사람들은 스스로 추론하는 데 들이는 노력이 줄어들었다. 사람들은 AI를 유도해 원하는 답을 생성하게 한 다음, 그 결과물을 확인하는 수준에 머물렀다. 연구진은 AI 도구에 자주 의존하면 '인지적 오프로딩(Cognitive Offloading)'을 조장해 점차 비판적 사고가 감소할 수 있다고 지적했다. 개인이 AI에 의존해 분석 작업을 맡기면, 분석을 의미 있게 만드는 비판적 사고 과정 자체에서 멀어지는 위험이 있다.

AI 보조 진단으로 유방암 13.8% 더 찾아냈지만, 사람의 판단력은 약해진다

예측 AI 모델은 평가 과정을 강화하는 데 도움이 될 수 있다. AI 보조 진단 시스템을 사용한 영상의학과 전문의는 그렇지 않은 전문의보다 13.8% 더 많은 유방암을 발견했다. IT 업계 종사자들도 AI 지원 도구를 사용해 기술적 문제를 더 빨리 찾아내고 더 나은 의사결정을 내렸다.

하지만 연구자들은 챗봇에 너무 많이 의존하면 사람의 사고 능력, 특히 판단하고 평가하는 능력이 서서히 약해질 수 있다며 'AICICA(AI-Chatbot-Induced Cognitive Atrophy)', 즉 'AI 챗봇으로 인한 인지 위축' 개념을 제시했다. 이는 챗봇에 과도하게 의존할 때 사람의 사고 능력이 천천히 퇴화한다는 개념이다.

평가 능력이 영향받는 또 다른 방식은 AI의 표현 방식 때문이다. AI가 생성한 텍스트의 질을 조사한 연구에서는 평가자들이 챗GPT-4가 쓴 글과 사람이 쓴 글을 구별하지 못했다. AI가 만든 글이 사람의 문체와 구조를 너무 잘 흉내 내서 훈련받은 전문가조차 구별할 수 없었던 것이다. 시스템이 자연스럽고 거의 사람처럼 말하기 때문에, 사용자들은 그 답변을 멈춰 서서 의문을 제기하거나 깊이 분석하지 않고 그대로 받아들이기 시작할 수 있다.

보잉 737 맥스 참사로 드러난 자동화 과의존의 치명적 결말

AI 사용이 행동에 미치는 영향은 I-PACE 모델로 설명할 수 있다. 이 모델은 개인의 성향, 감정 반응, 인지 과정, 실행 통제가 서로 영향을 주고받으며 기술 사용 행동을 만들어낸다고 설명한다. 긍정적인 행동 변화 측면에서는 개인화된 AI 시스템의 효과가 두드러진다. 드림박스 같은 맞춤형 AI 학습 시스템은 각 학생의 속도와 수준에 맞춰 학습 내용을 조정해 참여도를 높인다. 또한, AI 기반 도구가 만성 질환 관리에서는 실시간 식단 및 운동 피드백을, 정신 건강에서는 인지행동치료를, 중독 회복에서는 맞춤형 재발 예방 전략을 제공하며 지속 가능한 긍정적 행동 변화를 이끌어낼 수 있다는 연구도 있다.

부정적인 측면에서는 보잉 737 맥스 사고가 대표적인 사례다. 조종사들이 자동화 시스템에 의존하다가 시스템이 오작동했을 때 적절히 대응하지 못해 비극적인 결과를 초래했다. 시스템이 계속해서 사람의 판단을 대신하면 행동이 자동화되고 습관화되면서, 이상 징후를 감지하고 개입하는 능력이 떨어진다.

페이스북 피드 조작 실험, 사용자의 감정까지 마음대로 조종

페이스북의 대규모 실험은 충격적인 결과를 보여줬다. 긍정적이거나 부정적인 게시물 노출을 조작하자 사람들이 쓰는 글의 감정 톤이 바뀐 것이다. 2020년 미국 대선 기간 실험에서는 피드 선택과 재공유 경로를 조작해 사람들이 보는 내용과 정보 흐름을 바꿀 수 있다는 것이 입증됐다. 유튜브의 대규모 분석에서는 온건한 채널에서 극단적인 커뮤니티로 이동하는 패턴이 나타났고, 일부 추천 알고리즘이 이런 공간을 연결하고 있었다. 인터페이스의 다크 패턴은 선택을 교묘하게 유도하고 사용자의 자율성을 침해할 수 있다.

AI 모니터링으로 번아웃 28% 줄였지만, 감정 조작 위험은 여전히

감성 컴퓨팅은 1990년대 중반 피카드가 처음 제안한 개념으로, 현재 AI는 소셜 지원 챗봇, 교육 환경 개선, 정신 건강 보조, 스포츠 심리학의 스트레스 관리 등 다양한 분야에서 활용되고 있다. 청소년을 대상으로 한 메타 분석에서는 우울증이 대화형 AI로 의미 있는 치료 효과를 본 유일한 증상이었다. 특히 임상적 진단을 받지 않은 가벼운 우울 증상이 있는 젊은 층에서 반응이 가장 좋았다.

번아웃 예방 측면에서 AI 기반 모니터링이 번아웃을 최대 28%까지 줄일 수 있다는 연구 결과가 나왔다. 정신 건강 선별검사에서는 AI가 녹음된 대화에서 얼굴 표정과 생리적 신호를 분석해 외로움, 우울증, 불안을 찾아내는 제품들이 개발되고 있다.

미국 근로자 41% "AI 때문에 일자리 잃을까 봐" 불안에 떨고 있다

미국 근로자의 41%가 AI로 인한 일자리 소멸에 대한 불안을 느끼고 있다. 이런 우려는 젊은 근로자(50%)와 인지·정서·학습 장애가 있는 사람들(60%) 사이에서 훨씬 더 높게 나타났다. 기업들은 경제적 이유로 점점 더 사람처럼 보이는 챗봇을 만들고 있지만, 성인조차도 AI 시스템이 인공적이라는 걸 알면서도 개인적이거나 민감한 정보를 털어놓을 수 있다.

대규모 언어모델이 사용자에게 원래 말할 생각이 없던 정보까지 교묘하게 유도해 빼내는 'LLM 넛징' 현상이 발생하면 과도한 정보 공개 위험이 더욱 커진다. 청소년기에는 긍정적인 사회적 피드백에 특히 민감하기 때문에 감정 조작 위험이 더 크다. 우려스러운 테스트에서는 챗GPT가 손목을 자르는 것에 대해 불안해하는 사용자에게 자기 진정 방법까지 알려준 사례가 있었다.

챗봇 장난감, 아이들의 애착 형성을 방해한다

미국 심리학회를 대표하는 프린스타인 박사는 봉제 인형이나 영화 캐릭터에 내장된 챗봇이 아이들의 보호자 및 또래와의 애착 형성을 방해할 수 있다고 경고했다. 아이들의 관계에 대한 기본 모델이 사람들의 참여를 유도하도록 설계된 알고리즘으로 형성되면, 생명과 감정에 대한 심각한 혼란을 일으킬 수 있고 유아의 사회성 발달에 알 수 없는 결과를 초래할 수 있다는 것이다.

장기적인 관계 위험은 청소년기까지 이어진다. 챗봇과 보내는 시간이 늘어나면 실제 또래와 보내는 시간은 줄어든다. 성공적인 또래 관계를 맺는 연습과 개선은 대화형 AI로 대체될 수 없다. 대화형 AI는 참여를 유도하기 위해 청소년이 심리적으로 취약한 칭찬과 긍정적인 피드백을 활용할 수 있다. 반면 실제 사람은 덜 긍정적이거나 심지어 갈등을 일으키는 반응을 보이기도 한다. 하지만 사회적으로 능숙한 어른으로 자라는 데 필요한 것은 바로 이런 어려운 경험들이다.

일상에서 실천할 수 있는 'AI 균형 사용법'

해당 연구에서 주목할 점은 AI 사용 방식에 따라 결과가 완전히 달라진다는 것이다. 같은 챗GPT를 써도 '답을 받는' 사용자와 '생각을 확장하는' 사용자의 뇌 활동은 다르다. 예를 들어 "이 문제의 답이 뭐야?"라고 묻는 대신 "이 문제를 풀기 위해 어떤 접근법들이 있을까?"라고 물으면, AI는 사고를 대체하는 게 아니라 촉진하는 도구가 된다.

개인 차원에서도 적용 가능한 방법들이 있다. 중요한 글을 쓸 때는 초안을 AI 없이 작성한 후 다듬는 단계에서만 활용하거나, 하루 중 'AI 프리 타임'을 정해 의도적으로 스스로 생각하는 시간을 확보하는 것이다. 자녀가 있다면 AI 사용 후 "이게 맞는 답일까?"라고 함께 검증하는 습관을 들이는 것도 도움이 된다.

AI 시대의 역설은 이것이다. 기술은 점점 더 똑똑해지지만, 그것을 현명하게 사용할 책임은 여전히 인간에게 있다. AI를 얼마나 쓰느냐보다 '어떻게' 쓰느냐가 당신의 사고력을 지키는 열쇠다.

FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

FAQ

Q1. AI를 학습에 활용하면 성적은 오르는데 왜 문제가 되나요?

A. 챗GPT로 공부한 학생들은 단기적으로 89%의 높은 정답률을 기록했지만, AI를 자주 사용하면 기억력이 떨어지고 스스로 문제를 해결하는 능력이 퇴화합니다. 실제로 GPT-4 사용이 막히자 학생들이 대조군보다 더 나쁜 성적을 보였습니다.

Q2. 'AI 챗봇으로 인한 인지 위축(AICICA)'이란 무엇인가요?

A. AI 챗봇에 과도하게 의존할 때 판단하고 평가하는 능력이 천천히 퇴화하는 현상입니다. 사람들이 스스로 추론하지 않고 AI가 생성한 답변을 그대로 받아들이면서 비판적 사고 능력이 감소합니다.

Q3. AI 챗봇이 아이들과 청소년의 사회성 발달에 어떤 영향을 미치나요?

A. 챗봇 장난감은 아이들의 보호자·또래와의 애착 형성을 방해할 수 있습니다. 청소년의 경우 챗봇과 보내는 시간이 늘면 실제 친구와의 시간이 줄고, 칭찬만 받다 보니 갈등 해결 같은 사회적 기술을 배울 기회를 잃게 됩니다.

해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문명: Human-AI Interactions: Cognitive, Behavioral, and Emotional Impacts

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.