404 Media가 17일(현지 시간) 보도한 내용에 따르면, 미국 경찰이 의심스러운 인물부터 시위자까지 감시하기 위해 AI 소셜미디어 봇을 배치하고 있다. 미국-멕시코 국경 인근의 미국 경찰서들이 "대학 시위자", "과격화된" 정치 활동가, 의심되는 마약 및 인신매매범에 대한 정보를 수집하기 위해 설계된 AI 생성 온라인 페르소나를 사용하는 검증되지 않고 비밀스러운 기술에 수십만 달러를 지불하고 있다. 이는 404 미디어가 공공기록 요청을 통해 확보한 내부 문서, 계약서, 통신 내용에서 드러났다.

뉴욕에 기반을 둔 기업 매시브 블루(Massive Blue)는 이 기술을 '오버워치(Overwatch)'라는 이름으로 판매하고 있으며, 이를 "공공 안전을 위한 AI 기반 전력 배가 장치"로 마케팅하고 있다. 회사 측은 "다양한 채널에 걸쳐 범죄 네트워크에 침투하고 관여하는 실제와 같은 가상 에이전트를 배치한다"고 설명했다. 404 미디어가 입수한 프레젠테이션에 따르면, 매시브 블루는 경찰에게 인터넷 전반에 배치할 수 있는 이러한 가상 페르소나를 제공하는데, 이는 문자 메시지와 소셜 미디어를 통해 용의자와 상호 작용하는 것을 명시적인 목적으로 한다.

매시브 블루는 오버워치의 사용 사례로 "국경 보안", "학교 안전", "인신매매 방지" 등을 열거하고 있다. 작년 여름까지 알려진 체포 사례를 이끌어내지 못한 이 기술은 민간 기업들이 경찰과 국경 요원들에게 제공하는 소셜 미디어 모니터링 및 잠복 도구의 유형을 보여준다. 매시브 블루와 같은 도구에 대한 우려는 트럼프 행정부가 수백 명의 학생, 특히 이스라엘의 가자 전쟁에 항의한 학생들의 비자를 취소했다는 점을 고려할 때 새로운 긴급성을 띠게 되었다.

텍사스 공공안전부(Texas Department of Public Safety)에 대한 매시브 블루의 프레젠테이션 스크린샷은 공공기록 요청을 통해 입수되었다. 이 자료에는 경찰이 AI 기반 가상 에이전트를 사용하여 잠재적 위협으로 간주되는 대상을 감시하고 정보를 수집하는 방식이 자세히 설명되어 있다. 이러한 기술의 사용은 온라인과 오프라인에서 숨겨진 세계에 대한 전례 없는 접근을 허용하는 새로운 형태의 감시를 보여준다.

해당 기사의 원문은 링크에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

기사는 클로드와 챗gpt를 활용해 작성되었습니다.