마이크로소프트(Microsoft)가 자사의 애저 오픈AI(Azure OpenAI) 서비스를 포함한 생성형 AI 도구의 보호장치를 우회한 미국 및 해외 범죄 해커들을 식별했다고 발표했다. 블룸버그가 27일(현지 시간) 보도한 내용에 따르면, 이들 해커는 유명인의 동의 없는 은밀한 이미지와 기타 성적으로 노골적인 콘텐츠를 포함한 유해 콘텐츠를 생성하는 데 이러한 도구를 악용했다.

해커들은 공개 소스에서 고객 로그인 정보를 수집하여 애저 오픈AI를 포함한 생성형 AI 서비스에 접근했다. 애저 오픈AI는 고객이 오픈AI(OpenAI)의 모델을 사용할 수 있게 해주는 마이크로소프트 클라우드 제품이다. 해커들은 AI 제품의 기능을 변경한 후 다른 악의적인 그룹에게 접근 권한을 판매하며, 유해 콘텐츠를 생성하는 방법에 대한 지침을 제공했다.

마이크로소프트가 식별한 해커들은 이란, 영국, 홍콩, 베트남에 기반을 두고 있다. 이들은 마이크로소프트가 'Storm-2139'라고 부르는 글로벌 사이버 범죄 네트워크의 일원으로 알려졌다. 다른 두 명은 플로리다와 일리노이에 위치하고 있지만, 마이크로소프트는 형사 수사를 방해하지 않기 위해 이들의 이름을 공개하지 않았다.

소프트웨어 제조업체인 마이크로소프트는 미국 및 해외 법 집행 기관에 형사 고발을 준비 중이라고 밝혔다. 이번 조치는 생성형 AI 도구의 인기가 높아지면서 공인 및 일반인의 가짜 불법 이미지 생성, 아동 성 학대 자료 제작 등의 오용에 대한 우려가 커지는 가운데 이루어졌다. 마이크로소프트와 오픈AI 같은 기업들은 이러한 행위를 금지하고 차단하기 위한 기술적 조치를 취하고 있지만, 악의적인 그룹들은 여전히 무단 접근을 시도하고 있다.

해당 기사의 원문은 링크에서 확인할 수 있다.

기사는 클로드와 챗GPT를 활용해 작성되었습니다.