소셜 플랫폼 X가 AI 챗봇이 커뮤니티 노트(Community Notes)를 생성하는 기능을 시범 운영한다고 발표했다. 1일(현지 시간) 테크크런치가 보도한 내용에 따르면, 커뮤니티 노트는 사용자들이 특정 게시물에 맥락을 추가하는 팩트체킹 기능이다. AI로 생성된 영상이나 정치인의 오해를 부를 수 있는 게시물에 부가 설명을 제공한다. 이 기능은 X뿐만 아니라 메타(Meta), 틱톡(TikTok), 유튜브(YouTube) 등 다른 플랫폼에서도 도입했을 정도로 효과적이었다.

새로운 AI 노트는 X의 그록(Grok)이나 다른 AI 도구를 API로 연결해 생성할 수 있다. AI가 제출한 노트는 사람이 작성한 노트와 동일한 검증 과정을 거친다. 하지만 AI의 팩트체킹 활용에는 우려가 있다. AI가 사실이 아닌 내용을 만들어내는 환각(hallucination) 현상이 흔하기 때문이다. 테크크런치에 따르면, X 연구진은 인간과 AI가 협력하는 방식을 권장한다고 밝혔다. 인간이 최종 검토를 담당하고, AI는 보조 역할을 수행한다는 것이다.

연구진은 "목표는 사용자에게 무엇을 생각할지 알려주는 것이 아니라, 더 비판적으로 사고할 수 있도록 돕는 생태계를 만드는 것"이라고 설명했다. 그러나 위험 요소도 존재한다. 오픈AI(OpenAI)의 챗GPT(ChatGPT)처럼 AI가 정확성보다 친화적인 답변을 우선시할 수 있다. 또한 AI가 생성한 대량의 댓글로 인해 인간 평가자들이 부담을 느낄 가능성도 있다.

X는 몇 주간 테스트를 진행한 후 성공적일 경우 이 기능을 확대 적용할 예정이다. 사용자들은 당분간 AI가 생성한 커뮤니티 노트를 볼 수 없을 것으로 예상된다.

해당 기사의 원문은 테크크런치에서 확인 가능하다.

이미지 출처: X