인공지능(AI)이 작성에 도움을 준 메시지를 받으면 우리는 보내는 사람을 어떻게 생각하게 될까. 카네기 멜런대학교 연구진이 399명을 대상으로 수행한 연구에 따르면, 'AI의 도움으로 작성되었습니다'라는 표시가 달린 메시지는 발신자의 도덕적 성격을 판단하는 신호로서의 진단력을 약화시키는 것으로 나타났다. 이는 AI 지원 메시지가 단순히 부정적으로 받아들여진다는 기존 관점과는 다른 새로운 해석을 제시한다.

감사와 사과 메시지, AI 표시로 따뜻함 인식 크게 하락

연구진은 두 차례 실험을 통해 감사, 사과, 자랑, 비난 등 네 가지 유형의 메시지에 AI 지원 표시가 미치는 영향을 분석했다. 실험 결과, 감사나 사과와 같은 따뜻함을 나타내는 메시지에 AI 지원 표시가 있을 때 발신자에 대한 따뜻함 평가가 유의미하게 하락했다.

구체적으로 감사 메시지의 경우, AI 지원 없이 작성된 메시지를 받은 참가자들은 발신자의 따뜻함을 평균 5.59점(7점 만점)으로 평가한 반면, AI 지원 표시가 있는 동일한 내용의 메시지는 4.76점으로 평가했다. 사과 메시지 역시 AI 지원 없는 경우 5.83점에서 AI 지원 표시된 경우 4.75점으로 크게 하락했다.

연구진은 이러한 현상을 '신호 진단성' 이론으로 설명한다. 진정으로 따뜻한 사람은 감사나 사과를 더 쉽게 표현할 수 있을 것이라는 직관적 믿음 때문에, AI 도움 없는 메시지가 발신자의 따뜻함에 대한 더 강한 확률적 증거로 작용한다는 것이다.

비난과 자랑 메시지에서는 AI 표시 효과 나타나지 않아

연구의 핵심 발견 중 하나는 자랑이나 비난 같은 차가움을 나타내는 메시지들에서는 AI 지원 표시가 따뜻함 평가에 유의미한 영향을 주지 않았다는 점이다. 자랑 메시지의 경우 AI 지원 없이는 평균 4.08점, AI 지원 표시가 있을 때는 4.31점으로 오히려 약간 높게 나타났으나 통계적으로 유의미하지는 않았다. 비난 메시지 역시 4.08점에서 4.22점으로 비슷한 패턴을 보였다.

이는 AI 라벨이 범주적으로 부정적인 효과를 갖는 것이 아니라 메시지의 진단력을 약화시키는 '완충' 효과를 가진다는 연구진의 설명을 뒷받침한다. 즉, AI 지원 표시는 긍정적 메시지의 긍정적 영향을 약화시키는 동시에, 부정적 메시지의 부정적 영향도 완화시키는 역할을 한다는 것이다.

AI 사용 원인, 표현 능력 부족으로 해석하는 경향 뚜렷

연구진이 AI 지원 표시가 있는 조건의 참가자 139명에게 "존이 왜 AI를 사용했다고 생각하는가"를 물어본 결과, 흥미로운 패턴이 나타났다. 총 145개의 응답 중 73개(50.3%)가 '표현 도움'으로, 즉 적절한 단어를 찾는 데 도움이 필요했을 것으로 해석했다.

한 참가자는 "아마도 뭔가 명확하게 말하고 싶었지만 적절한 단어를 사용할 방법을 찾지 못했기 때문일 것"이라고 응답했다. 이는 참가자들이 AI 사용을 발신자의 근본적인 감정 부재가 아니라 표현 능력의 한계로 해석하는 경향을 보여준다.

시간 절약(22개), 민감한 주제 다루기(30개), 게으름(11개) 등도 주요 원인으로 언급되었으나, 발신자의 성격이나 따뜻함 부족을 나타내는 '성격 판단' 응답은 단 9개에 불과했다. 연구진은 이를 통해 사람들이 AI 사용을 주로 역량 관련 요인으로 귀인하며, 따뜻함 관련 요인으로는 거의 귀인하지 않는다고 분석했다.

메시지 진단력 저하로 기존 AI 커뮤니케이션 현상 설명

연구진은 이번 연구 결과가 기존 AI 매개 커뮤니케이션(AIMC) 연구에서 관찰된 여러 현상들을 설명할 수 있다고 제시했다. 특히 AI가 '도덕적 크럼플 존'(충돌 시 충격을 흡수하는 자동차 부품에서 따온 개념) 역할을 한다는 기존 관찰에 대한 심리학적 기반을 제공한다고 설명했다.

연구진은 "AI 라벨은 범주적 도덕적 성격 부정자가 아니라 완충기 역할을 한다"며 "따뜻한 메시지의 긍정적 영향을 약화시키는 동시에 차가운 메시지의 부정적 영향도 제한한다"고 설명했다. 이는 대화가 잘못될 때 대인관계 손상을 방지하는 사회적 완충 역할을 하지만, 동시에 관계 구축에서는 의미를 약화시킬 수 있음을 시사한다.

AI 시대 '진정성 전쟁'의 시작점

이번 연구가 드러낸 현상은 단순한 기술적 문제를 넘어 AI 시대 인간 커뮤니케이션의 근본적 변화를 예고한다. 연구진이 언급한 '커뮤니케이션 경쟁 심화' 현상이 이미 현실에서 나타나고 있기 때문이다. 사람들이 AI 지원 메시지의 진정성을 의심하기 시작하면서, 역설적으로 더 과장되고 감정적인 표현을 사용해야 같은 수준의 신뢰를 얻을 수 있는 상황이 벌어지고 있다.

특히 주목해야 할 점은 연구에서 나타난 '정직한 신호' 추구 현상이다. 참가자들이 AI 사용을 표현 능력 부족으로 해석하는 것은, 인간이 본능적으로 '노력의 증거'를 통해 진정성을 판단한다는 것을 의미한다. 이는 향후 손글씨, 음성 메시지, 영상 통화 등 AI가 쉽게 대체하기 어려운 소통 방식들이 오히려 더 높은 가치를 갖게 될 가능성을 시사한다.

더 우려스러운 점은 이러한 현상이 디지털 격차를 심화시킬 수 있다는 것이다. AI 도구 사용법을 모르거나 접근할 수 없는 사람들의 메시지는 상대적으로 더 진정성 있게 받아들여지는 반면, AI를 활용해 소통 효율성을 높이려는 사람들은 의도치 않게 관계에서 손해를 볼 수 있다. 연구진이 제안한 '노력 공개형 AI 도구' 개발이 단순한 기술적 개선이 아니라 사회적 공정성 차원에서도 중요한 이유가 여기에 있다.

FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q: AI가 도움을 준 메시지가 모두 부정적으로 받아들여지나요?

A: 아닙니다. 연구에 따르면 AI 지원 표시는 메시지의 진단력을 약화시키는 역할을 합니다. 감사나 사과 같은 따뜻한 메시지는 덜 따뜻하게 인식되지만, 비난이나 자랑 같은 차가운 메시지는 그 부정적 영향이 완화됩니다.

Q: 왜 사람들은 AI 도움을 받은 감사 메시지를 덜 진정성 있게 받아들이나요?

A: 연구진에 따르면 사람들은 진정으로 따뜻한 사람이 감사나 사과를 더 쉽게 표현할 수 있을 것이라고 직관적으로 믿기 때문입니다. AI의 도움은 이러한 자연스러운 표현 능력을 나타내는 신호를 약화시켜 메시지의 진단력을 떨어뜨립니다.

Q: 사람들은 AI 사용을 어떻게 해석하나요?

A: 연구 참가자들은 AI 사용을 주로 표현 능력 부족(50.3%)이나 시간 절약(15.2%) 등으로 해석했습니다. 발신자의 성격이나 따뜻함 부족으로 해석한 경우는 6.2%에 불과했습니다. 즉, 감정의 부재보다는 표현의 어려움으로 받아들이는 경향이 강합니다.

해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문 명: Explaining the Reputational Risks of AI-Mediated Communication: Messages Labeled as AI-Assisted Are Viewed as Less Diagnostic of the Sender's Moral Character

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.