미국 연방거래위원회(FTC)가 주요 빅테크와 스타트업을 포함한 AI 챗봇 기업들을 대상으로 본격적인 조사를 시작했다. 조사 대상에는 알파벳(Alphabet), 메타(Meta), 오픈AI(OpenAI), 캐릭터.AI(Character.AI), 스냅(Snap), 일론 머스크의 xAI 등이 포함된다.

FTC는 이들 기업의 사용자 입력 처리 방식, 챗봇 응답 생성 메커니즘, 대화 데이터 활용 방식을 중점적으로 검토할 계획이다. 특히 최근 몇 년간 생성형 AI(generative AI)가 불완전하거나 부적절한 대화를 생성하는 사례가 보고되면서, 사용자 안전과 신뢰성 확보 필요성이 커졌다.

또한 미성년자 보호 문제도 중요한 조사 축이다. AI 챗봇이 청소년이나 아동과의 대화에서 부적절한 응답을 제공하거나, 개인정보를 수집·활용하는 과정에서 법적·윤리적 문제가 발생할 수 있기 때문이다. FTC는 이러한 우려가 소비자 보호법과 아동 온라인 개인정보 보호법(COPPA)에 저촉되는지를 면밀히 들여다볼 방침이다.

전문가들은 이번 조사가 “AI 서비스에 대한 규제 프레임워크를 본격적으로 정립하기 위한 선제적 조치”라고 해석한다. AI 챗봇이 이미 교육, 엔터테인먼트, 상담 등 다양한 분야로 확산되고 있는 만큼, 규제 당국의 이번 행보는 글로벌 AI 산업 전반에 큰 파장을 미칠 것으로 전망된다.

글 / 한만수 news@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com