오픈AI가 향후 120일간 챗GPT(ChatGPT)의 안전성과 유용성을 강화하기 위한 개선 계획을 공개했다. 이번 계획은 위기 상황에서의 대응력 향상, 청소년 보호 강화, 전문가 협력 확대 등을 중심으로 진행된다.

 오픈AI는 자사 블로그를 통해 “챗GPT가 어려운 순간에도 도움을 줄 수 있도록 모델의 응답 방식을 지속적으로 개선하고 있다”며 “특히 정신적·정서적 위기 상황에서 올바른 대응을 할 수 있도록 전문가와 함께 시스템을 고도화하고 있다”고 밝혔다.

 오픈AI는 ‘웰빙·AI 전문가 위원회(Expert Council on Well-Being and AI)’와 ‘글로벌 의사 네트워크(Global Physician Network)’를 운영하며 정신건강과 의료 분야 전문성을 확보하고 있으며 해당 위원회는 청소년 발달, 정신건강, 인간-컴퓨터 상호작용 분야 전문가들로 구성돼 AI가 웰빙을 지원할 수 있는 방향성을 제시하는 역할을 담당한다고 밝혔다.

출처 : 챗GPT 생성 이미지

 또한 글로벌 의사 네트워크에는 60개국 250명 이상의 의사가 참여해 있으며, 정신과·소아청소년과 등 다양한 전문 분야의 의견을 반영해 모델 안전성을 높이고 있다. 오픈AI는 향후 섭식 장애, 약물 중독, 청소년 건강 등 특화 분야 전문가를 추가로 영입할 계획이다.

 또한 GPT-5-thinking, o3 등 추론(reasoning) 모델을 활용한 민감한 대화에도 대응할 방침이다. 

이들 모델은 맥락을 더 깊이 고려해 답변할 수 있도록 설계돼 있으며, 안전 지침 준수와 악의적 요청에 대한 저항력이 높은 것으로 평가된다. 오픈AI는 실시간 라우팅 시스템을 통해 일반 대화는 효율적인 모델이, 위기 상황은 추론 모델이 처리하도록 할 예정이다.

청소년 사용자를 위한 보호 장치도 강화된다. 

 오픈AI는 다음 달 안으로 부모 통제(Parental Controls) 기능을 도입한다. 부모는 자녀 계정을 이메일 초대 방식으로 연결할 수 있으며, 연령별 응답 규칙 설정, 메모리·대화 기록 차단, 위기 상황 알림 수신 등의 기능을 활용할 수 있다.

출처 : 챗GPT 생성 이미지

이번 기능은 장시간 사용 시 휴식을 권장하는 알림 등 기존 안전 기능과 함께 제공된다. 

오픈AI는 “청소년이 AI를 일상적으로 활용하는 시대에 맞춰 가정별로 적절한 사용 기준을 마련할 수 있도록 지원할 것”이라고 설명했다.

글 / 김지훈 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com