그리스 고등학생 109명을 대상으로 한 실험에서 챗GPT-5의 허위 정보 생성(환각) 문제를 직접 경험한 학생들이 AI 사용 방식을 스스로 제한하는 흥미로운 행동 패턴이 발견됐다. 이들은 AI에게 질문할 때 자신이 이미 알고 있는 주제만 선택해 답변의 정확성을 검증할 수 있도록 하는 전략을 취했다. 연구자들은 이를 '인식론적 안전장치(epistemic safeguarding)'라는 새로운 개념으로 명명했다.

AI 환각 경험 후 달라진 학생들의 대처법

해당 논문에 따르면, 그리스 국립 아테네대학교 연구팀은 2025년 9월부터 10월까지 그리스 아테네 인근 3개 고등학교의 16세 학생 109명을 대상으로 챗GPT-5 활용 수업을 진행했다. 이 연구의 핵심은 학생들에게 의도적으로 챗GPT-5의 환각 현상을 경험하게 했다는 점이다.

연구팀은 8시간에 걸친 수업에서 학생들에게 정보 검색, 이력서 작성, 문서 및 영상 요약, 이미지 생성, 퀴즈 제작 등 7가지 활동을 제공했다. 특히 챗GPT-5가 허위 과학적 사실을 만들어내거나 잘못된 역사·지리 정보를 제공하는 사전 확인된 질문들을 학생들에게 직접 입력하도록 했다. 학생들은 AI가 생성한 답변을 검색을 통해 확인하면서 오류를 직접 발견했다.

36명의 학생을 대상으로 한 심층 인터뷰에서 많은 학생들이 "앞으로는 내가 어느 정도 아는 주제에 대해서만 챗GPT에 물어볼 것"이라고 답했다. 이들은 자신이 기존에 알고 있는 지식을 활용해 AI의 답변이 정확한지 판단할 수 있을 때만 AI를 사용하겠다는 전략을 세운 것이다. 연구팀은 이러한 행동을 단순한 사실 확인을 넘어서 학생들이 AI 사용 영역을 스스로 제한함으로써 인식론적 통제권을 유지하려는 능동적인 메타인지 전략으로 해석했다.

AI에 대한 태도는 긍정적이지만 불안감도 공존

학생들의 AI에 대한 태도를 측정하기 위해 연구팀은 'SATAI(Student Attitude Toward Artificial Intelligence)' 척도를 사용했다. 5점 척도로 측정한 결과, 전체 평균은 3.24점으로 중간 이상의 긍정적 태도를 보였다. 특히 "AI가 사람들의 삶을 더 편리하게 만든다"(3.65점)와 "학교에서 AI에 대해 배우는 것이 중요하다"(3.52점) 항목에서 높은 점수를 받았다.

그러나 세부적으로 살펴보면 흥미로운 차이가 나타났다. 인지적 태도(AI가 중요하다는 생각)는 3.44점, 정서적 태도(AI에 대한 감정)는 3.38점으로 비교적 높았지만, 행동적 의도(실제 AI를 사용하거나 관련 진로를 선택하려는 의향)는 3.04점으로 상대적으로 낮았다. "AI 분야에서 일자리를 선택하겠다"는 항목은 2.58점으로 가장 낮은 점수를 받았다. 이는 학생들이 AI의 교육적 가치는 인정하지만 실제 행동으로 옮기는 데는 주저하고 있음을 보여준다.

흥미롭게도 이전에 챗GPT를 사용해 본 경험이 있는 학생들(31.2%)은 모든 태도 항목에서 더 높은 점수를 보였다. 경험이 있는 학생들의 전체 SATAI 점수는 3.57점인 반면, 경험이 없는 학생들은 3.09점에 그쳤다. 이는 AI에 대한 직접적인 경험이 긍정적인 태도 형성에 중요한 역할을 한다는 것을 시사한다.

일자리 대체 우려가 학습 불안보다 크다

AI 관련 불안감을 측정하는 'AIAS(Artificial Intelligence Anxiety Scale)' 조사에서는 7점 척도로 측정한 결과, 학습 관련 불안은 3.09점으로 중간 이하 수준이었다. "AI 기술/제품 사용법을 배울 때 불안하다"(3.27점), "AI가 실제로 어떻게 작동하는지 배울 때 불안하다"(3.19점) 등의 항목이 이에 해당한다.

반면 일자리 대체와 관련된 불안은 4.07점으로 훨씬 높았다. 특히 "AI 기술/제품이 우리를 더 게으르게 만들까 봐 두렵다"는 항목이 4.46점으로 가장 높은 점수를 받았으며, "AI 기술/제품이 인간을 대체할까 봐 두렵다"(4.37점)도 높은 불안감을 나타냈다. 이는 고등학생들이 미래 직업 세계에서 AI로 인한 변화에 대해 상당한 우려를 갖고 있음을 보여준다.

주목할 만한 점은 AI에 대한 긍정적인 태도와 AI 관련 불안감이 거의 무관하다는 것이다. AI 태도 점수가 높은 학생들이라고 해서 AI 불안감이 낮지 않았고, 반대로 AI에 대해 부정적인 학생들이 더 불안해하는 것도 아니었다. 이는 학생들이 교육 현장에서 AI의 유용성을 인정하면서도 동시에 AI가 사회와 고용에 미칠 광범위한 영향에 대해서는 별도로 걱정할 수 있음을 의미한다.

성별 차이도 발견됐다. AI 불안감에서는 남녀 간 유의미한 차이가 없었지만, AI에 대한 태도에서는 여학생들이 남학생들보다 더 긍정적이었다. 특히 인지적 태도에서 여학생은 3.68점, 남학생은 3.09점으로 뚜렷한 차이를 보였다.

즉각적 피드백과 친숙한 인터페이스가 장점

질적 분석에서는 챗GPT-5 사용의 4가지 교육적 장점이 확인됐다. 가장 많은 학생(29명)이 언급한 것은 '새로운 지식 생성'이었다. 학생들은 챗GPT-5를 특정 주제에 대한 지식을 확장하는 도구로 활용했다. 다만 환각 현상을 경험한 후에는 자신이 사전 지식을 갖고 있는 주제에 대해 질문하는 경향을 보였다.

두 번째로 18명의 학생이 '즉각적인 피드백'을 장점으로 꼽았다. 학생들은 자신의 글쓰기에 대한 피드백을 요청하거나 영상과 파일 요약을 받을 때 빠른 응답 시간이 동기 부여와 시간 효율성 측면에서 유리하다고 평가했다. 16명의 학생은 소셜미디어와 유사한 '친숙하고 직관적인 사용자 인터페이스'를 언급했으며, 10명은 챗GPT-5가 계산적 사고, 문제 해결, 비판적 사고, 디지털 리터러시 등 '기술 개발'에 도움이 된다고 답했다.

한편 제약 사항으로는 21명의 학생이 '콘텐츠 정확성에 대한 불확실성'을 지적했다. 흥미롭게도 챗GPT-5 입력창 하단에 "챗GPT가 잘못 답할 수 있습니다"라는 경고문을 읽었던 학생 20명은 이것이 수학 계산 오류를 의미한다고 생각했지, 환각 현상을 통한 잘못된 정보 제공을 의미한다고는 해석하지 않았다.

11명의 학생은 'AI 피드백과 관련된 불안'을 언급했다. 이들은 챗GPT-5가 지속적으로 수정 제안을 하는 피드백 루프 때문에 자신의 작업이 "결코 충분히 좋지 않을 것"이라는 느낌을 받았다고 답했다. 4명의 학생은 개인정보 보호에 대한 우려를 표현하며, 자신이 입력한 정보가 어디에 저장되고 누가 접근할 수 있는지에 대한 불확실성을 지적했다.

AI 리터러시 교육의 새로운 방향

이번 연구는 중등교육에서 생성형 AI 활용에 대한 중요한 시사점을 제공한다. 첫째, 학생들에게 AI의 한계를 직접 경험하게 하는 것이 오히려 더 현명한 AI 사용 전략을 개발하는 데 도움이 될 수 있다. 환각 현상을 숨기거나 회피하기보다는 교육 과정에서 명시적으로 다루는 것이 학생들의 비판적 AI 리터러시를 강화한다.

둘째, '인식론적 안전장치' 개념은 단순한 팩트체크를 넘어서는 능동적인 메타인지 전략이다. 학생들은 AI를 완전히 거부하거나 맹목적으로 의존하는 대신, 자신이 통제할 수 있는 범위 내에서 AI를 활용하는 중간 지점을 찾았다. 이는 AI 시대에 필요한 인식론적 주체성(epistemic agency)의 중요한 사례다.

셋째, AI에 대한 긍정적 태도와 불안감이 독립적으로 존재할 수 있다는 발견은 교육 정책 수립 시 고려해야 할 중요한 요소다. 학생들이 AI의 교육적 가치를 인정하도록 하는 것만으로는 충분하지 않으며, 일자리 대체와 같은 장기적 우려에 대한 논의와 대비 교육도 함께 제공해야 한다.

넷째, 이전 챗GPT 경험이 있는 학생들이 더 긍정적인 태도를 보인다는 결과는 조기 노출의 중요성을 시사한다. 다만 이러한 노출은 비판적 사고와 검증 능력 개발과 함께 이루어져야 한다.

다섯째, 여학생들이 남학생들보다 AI에 대해 더 긍정적인 인지적 태도를 보인 것은 기존의 성별 고정관념과 상반되는 결과로, AI 교육이 기술 분야의 성별 격차를 줄이는 데 기여할 가능성을 보여준다.

마지막으로, 이 연구는 AI 교육이 단순히 기술적 사용법을 가르치는 것을 넘어, 학생들이 AI와의 상호작용을 어떻게 구조화하고 제한할지를 스스로 결정할 수 있는 능력을 키워야 함을 강조한다. AI의 성능을 향상만큼 학생들이 AI를 비판적으로 활용하는 능력을 키우도록 돕는 것이 중요하다.

FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q1. 챗GPT를 사용해 본 학생과 처음 사용하는 학생의 태도 차이가 있나요?

A: 네, 이번 연구에서 이전에 챗GPT를 사용해 본 경험이 있는 학생들(31.2%)은 처음 사용하는 학생들보다 AI에 대해 훨씬 긍정적인 태도를 보였습니다. 경험이 있는 학생들의 AI 태도 점수는 3.57점인 반면, 경험이 없는 학생들은 3.09점으로 약 0.5점 차이가 났습니다. 특히 인지적 태도(AI가 중요하다는 생각)에서는 3.72점 대 3.31점, 정서적 태도(AI에 대한 감정)에서는 3.75점 대 3.22점으로 뚜렷한 차이를 보였습니다. 이는 AI에 대한 직접적인 경험이 긍정적인 태도 형성에 중요한 역할을 한다는 것을 보여줍니다.

Q2. 학생들이 AI를 좋아하면 AI에 대한 불안감도 낮아지나요?

A: 흥미롭게도 그렇지 않습니다. 연구 결과에 따르면 AI에 대한 긍정적인 태도와 AI 불안감은 거의 상관관계가 없었습니다. 즉, 학생들은 AI가 학습에 유용하고 미래에 중요하다고 생각하면서도, 동시에 AI가 일자리를 빼앗거나 사람들을 의존적으로 만들 수 있다는 우려를 할 수 있습니다. 실제로 학습과 관련된 AI 불안은 3.09점으로 낮았지만, 일자리 대체에 대한 불안은 4.07점으로 상대적으로 높게 나타났습니다. 특히 "AI가 우리를 더 게으르게 만들까 봐 두렵다"는 항목은 4.46점으로 가장 높은 불안감을 보였습니다.

Q3. 인식론적 안전장치란 무엇을 의미하나요?

A: 인식론적 안전장치(epistemic safeguarding)는 이번 연구에서 새롭게 제시된 개념으로, 학생들이 AI의 환각 현상을 경험한 후 자신이 이미 알고 있는 지식 영역에서만 AI를 사용하도록 스스로 제한하는 전략을 말합니다. 학생들은 자신의 기존 지식을 활용해 AI의 답변을 검증할 수 있을 때만 AI를 활용함으로써, 잘못된 정보에 오도될 위험을 최소화하고 인식론적 통제권을 유지합니다. 이는 단순한 팩트체크를 넘어서는 능동적이고 메타인지적인 AI 리터러시 전략입니다.

해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문명: ChatGPT-5 in Secondary Education: A Mixed-Methods Analysis of Student Attitudes, AI Anxiety, and Hallucination-Aware Use

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.