오픈AI가 10대 청소년의 책임감 있는 챗GPT 사용을 돕기 위한 가족 가이드를 공개했다. 오픈AI는 18일(현지 시각) 공개한 가이드를 통해 "챗GPT를 구동하는 AI 모델은 창의성 표현과 학습, 새로운 기회 창출에 도움이 되는 중요한 신기술"이라며 "작동 원리를 이해하면 더 신중하고 안전하게 사용할 수 있다"고 밝혔다.

가이드는 AI의 '환각(hallucination)' 현상을 특히 강조했다. 챗GPT가 출처를 제공하더라도 내용을 잘못 이해하거나 다른 정보를 혼합해 그럴듯하지만 검증되지 않은 응답을 생성할 수 있다는 것이다. 오픈AI는 "질문이 모호하거나 세부 사항이 복잡할 때, 또는 최근 정보에 의존할 때 환각이 더 발생하기 쉽다"며 비판적 사고와 팩트체크의 중요성을 강조했다.

가이드의 핵심은 "AI를 대체재가 아닌 파트너로 사용하라"는 메시지다. 오픈AI는 "AI는 정보를 빠르게 이해하도록 도울 수 있지만, 무엇이 진실이고 적절한지 결정하는 것은 사용자"라고 설명했다. 에세이를 쓸 때 AI가 아이디어 정리를 도울 수 있지만 생각과 의견은 사용자가 주도해야 하며, 두통 증상을 요약할 수는 있어도 의학적 진단을 제공할 수 없다는 것이 그 예다.

감정적 지원의 한계도 명확히 했다. 오픈AI는 감정적 고통 감지 기능 등 안전장치를 구축했지만 "챗GPT는 사람처럼 사용자의 삶을 진정으로 이해할 수 없으며 전문적 도움을 대신할 수 없다"고 강조했다. 긴급한 상황에서는 AI 응답을 기다리지 말고 즉시 실제 사람에게 도움을 요청해야 한다는 조언이다.

오픈AI는 "AI는 빠르게 변화하고 있으며, 배워가면서 접근 방식과 리소스를 계속 업데이트할 것"이라고 밝혔다.

해당 기사에 인용한 가이드는 오픈AI 뉴스룸에서 확인 가능하다.

이미지 출처: 오픈AI