AI가 아이러니를 이해할 수 있을까? 지금까지 대부분의 연구는 이 질문에 집중해 왔다. 하지만 홍콩중문대학교 연구팀은 정반대 질문을 던졌다. AI가 만든 아이러니를 인간이 제대로 이해할 수 있을까? 대형 언어 모델(LLM)이 개인 비서, 가상 튜터, 정신건강 챗봇, AI 동반자로 활용되면서 유머와 아이러니를 구사하도록 훈련받고 있는 지금, 이 질문은 더욱 중요해졌다. 사람들이 AI의 재치 있는 발언을 접할 때, 이를 의도적인 소통으로 해석할까, 아니면 단순한 계산 결과물로 여길까? 연구팀은 뇌파 측정을 통해 이 질문에 답했다.

AI 아이러니, 의도보다 '실수'로 해석하는 경향 뚜렷

해당 논문에 따르면, 연구팀은 참가자들에게 문맥과 맞지 않는 발언을 보여주고 그 원인을 분류하도록 했다. 예를 들어 "오늘 하루 종일 치킨만 먹었어"라는 말에 "정말 건강하게 먹네!"라고 답하는 상황이다. 결과는 명확한 차이를 보였다. 사람이 한 불일치 발언은 대부분 의도적인 비꼼으로 해석되었지만, AI의 경우 상대적으로 더 적은 비율만 아이러니로 인식되었다.

더 주목할 만한 점은 AI의 불일치 발언을 '이해 실패'로 해석한 경우가 사람보다 2.5배 이상 많았다는 것이다. 이는 사람들이 AI의 언어적 불일치를 의도적인 비꼼보다는 문맥 파악에 실패한 기계적 오류로 받아들이는 경향이 강함을 보여준다.

뇌가 AI 아이러니 처리할 때 투입하는 노력, 사람의 절반 수준

신경학적 데이터는 행동 실험 결과를 명확히 뒷받침했다. 연구팀은 아이러니를 이해하는 과정에서 나타나는 두 가지 핵심 뇌파 신호를 측정했다. 하나는 문장이 이상하다는 것을 초기에 감지하는 신호이고, 다른 하나는 그 이상함을 의도적인 비꼼으로 재해석하는 신호다. 분석 결과, AI가 생성한 아이러니를 처리할 때 두 신호 모두 사람이 생성한 경우보다 현저히 약했다. 초기 감지 신호는 사람의 절반 이하 수준이었고, 재해석 신호도 절반에 못 미쳤다. 이는 뇌가 AI의 언어적 모순을 접했을 때 초기 탐지 단계와 후기 재해석 단계 모두에서 훨씬 적은 노력을 기울인다는 것을 의미한다.

정보 업데이트는 출처 무관, 하지만 의도 파악은 차별적

흥미롭게도 새로운 정보를 기존 이해에 통합하는 일반적인 뇌 활동은 AI와 사람 조건에서 차이가 없었다. 이는 뇌가 출처와 무관하게 정보를 업데이트하는 데는 비슷한 노력을 투입하지만, 언어의 의미를 처리하고 의도를 파악하는 특정 과정은 출처에 따라 달라진다는 것을 보여준다. 결국 뇌는 AI의 말을 '이해'는 하지만, 그 이면의 '의도'를 파악하는 데는 소극적이라는 의미다.

AI를 진실하다고 믿을수록 뇌 반응도 사람 수준에 가까워져

모든 사람이 AI를 똑같이 처리하는 것은 아니었다. AI를 더 진실하고 진정성 있다고 생각하는 참가자들은 AI가 생성한 아이러니를 처리할 때 더 강한 뇌파 반응을 보였다. 초기 감지 신호와 재해석 신호 모두 증가했다. 또한 AI를 더 신뢰할 만하다고 평가한 참가자들은 정보 업데이트 과정에서도 더 큰 뇌 활동을 보였다. 이는 AI에 대한 의도성 인식이 고정된 것이 아니라 개인의 AI에 대한 믿음에 따라 달라진다는 것을 의미한다. 즉, AI에 더 인간적인 특성을 부여하는 사람일수록 AI의 언어를 처리할 때 사람과의 소통에서 나타나는 것과 유사한 뇌 활동 패턴을 보인다.

진정한 AI 동반자 되려면 언어 능력 넘어 신뢰 구축 필요

연구 결과는 현대 LLM의 뛰어난 언어 능력에도 불구하고, 사람들이 AI가 생성한 아이러니를 접할 때 완전한 의도적 태도를 취하지 않는다는 것을 보여준다. 의도적 태도란 상대방의 행동을 그들의 정신 상태와 의도를 통해 이해하고 예측하는 인지 방식이다. 뇌파 분석은 사람들이 AI의 불일치 발언을 의도적인 소통보다는 계산 오류로 해석하는 경향이 있음을 객관적으로 입증했다. 연구진은 AI가 유머와 아이러니를 통해 사회적 친밀감을 형성하는 진정한 동반자가 되려면, 단순히 언어적 역량을 넘어 사람들이 인공 에이전트에 진정한 의도성을 부여하도록 만드는 근본적 전환이 필요하다고 결론지었다.

'역발상' 연구가 보여준 AI 연구의 새로운 방향

AI 분야에서 아이러니나 유머 이해 연구는 낯설지 않다. 하지만 대부분의 연구는 'AI가 인간의 비꼼을 얼마나 정확히 파악하는가'에 초점을 맞춰왔다. 이번 홍콩중문대 연구팀의 접근은 정반대다. AI가 생성한 아이러니를 인간이 제대로 이해하는가를 물었다. 이는 단순한 관점의 전환이 아니라, AI 기술 발전의 실질적 효과를 측정하는 새로운 방법론을 제시한다. 이러한 접근은 향후 AI 서비스 효과성을 평가하는 데 있어 사용자 만족도 조사를 넘어서는 새로운 기준을 제시한다는 점에서 의의가 있다.

FAQ (※ 이 FAQ는 본지가 논문을 참고해 자체 작성한 내용입니다.)

Q1. 의도적 태도란 무엇인가?

A: 의도적 태도란 상대방의 행동을 그들의 생각과 의도로 설명하고 예측하는 방식이다. 예를 들어 지각한 사람에게 "시간 정말 잘 지키네"라고 하면, 우리는 자동으로 그것을 칭찬이 아닌 비꼼으로 이해한다.

Q2. 왜 AI의 아이러니는 다르게 처리되나?

A: 뇌파 분석 결과, AI의 언어적 모순을 접할 때 불일치 감지와 의도 파악에 관련된 뇌 활동이 모두 사람의 절반 수준으로 감소했다. 이는 뇌가 AI에게 의도적인 소통을 덜 귀속시킨다는 것을 의미한다.

Q3. 개인에 따라 AI 처리 방식이 다를 수 있나?

A: 그렇다. AI를 더 진실하다고 인식하는 사람들은 AI 아이러니 처리 시 더 강한 뇌 반응을 보였고, AI를 더 신뢰하는 사람들은 정보 처리 과정에서도 더 큰 뇌 활동을 보였다. 이는 AI에 대한 태도가 개인의 믿음에 따라 달라짐을 보여준다.

해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문명: When AI companions become witty: Can human brain recognize AI-generated irony?

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.