미국 플로리다주 법무장관 제임스 유트마이어(James Uthmeier)가 9일(현지 시각) 오픈AI(OpenAI)와 그 챗봇 서비스 챗GPT(ChatGPT)에 대한 공식 수사를 개시했다. 수사의 도화선은 2025년 발생한 플로리다 주립대학교(Florida State University, FSU) 총기 난사 사건으로, 피의자가 범행 전 챗GPT를 활용했다는 법원 서류가 공개되면서 논란이 불거졌다.

테크크런치(TechCrunch)에 따르면, 법원 제출 서류에는 피의자가 사건 발생 전 AI 시스템에 200개가 넘는 프롬프트(prompt)를 입력했다는 내용이 담겨 있다. 해당 사건은 두 명이 사망한 비극적인 총기 사고로, AI 챗봇의 안전성 논란에 다시 불을 지폈다.

유트마이어 법무장관은 챗GPT가 현재 주간 활성 사용자 9억 명을 보유하고 있다는 점을 언급하며, 아동 성적 학대 관련 콘텐츠, 자살·자해 조장 등 다양한 범죄 행위와 AI 챗봇의 연관성을 제시했다. 또한 오픈AI의 기술과 데이터가 중국 공산당(Chinese Communist Party)과 같은 미국의 적대 세력의 손에 넘어갈 수 있다는 국가 안보 측면의 우려도 강조했다.

수사의 또 다른 배경에는 오픈AI의 기업공개(Initial Public Offering, IPO) 계획이 있다. 오픈AI는 최대 1조 달러의 기업 가치를 인정받는 상장을 추진 중인 것으로 알려졌으며, 이 시점에 법무장관의 수사가 시작됐다는 점에서 시장의 주목을 받고 있다. 법무장관 측은 IPO를 앞두고 회사의 안전 관행과 데이터 처리 방식에 대한 투명성 확보가 선행돼야 한다는 입장이다.

유트마이어 법무장관은 오픈AI에 소환장(subpoena)을 발부할 것이라고 밝혔으며, 플로리다 의회에도 미성년자를 AI 위험으로부터 보호하고 AI 기업에 대한 법무장관의 기소 권한을 강화하는 새로운 규제 법안 마련을 촉구했다. 이번 사건은 AI 기업이 고급 AI 모델의 안전한 배포를 위해 어떠한 책임을 져야 하는지에 대한 사회적 논쟁을 촉발하고 있으며, AI 챗봇이 수십억 명의 일상에 침투한 시대에 안전 책임의 소재를 어떻게 규정할 것인지가 법적·사회적 핵심 과제로 부상하고 있다. 이번 사건을 계기로 미국 내 AI 기업들에 대한 법적 책임 강화 논의가 더욱 가속화될 것으로 전망된다. AI 챗봇의 사회적 책임 문제는 미국 전역으로 확산될 조짐을 보이고 있다.

자세한 내용은 테크크런치(TechCrunch)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성