오픈AI의 AI 에이전트로 추정되는 주체가 유엔무역개발회의(UNCTAD)의 통계 서비스 API에 4월 13일부터 6월 19일까지 1만 6,500회 넘는 스캔을 실행한 사실이 공개됐다. 보안 연구자 로완 하워드-존스(Rowan Howard-Jones)가 현지 시각 9월 26일 자신의 블로그에 분석 결과를 공개했다. 스캔은 웹 주소를 대신 열어 주는 공개 스캐너 서비스를 거쳐 실행됐다.
보안 연구자 로완 하워드-존스가 분석 결과를 알린 X 게시물.
에이전트가 찾던 자료는 생산역량지수와 교역 산업, 식품 교역 데이터로 보인다. 하워드-존스는 요청에 ‘CHATGPTTEST1’, ‘OAI_META_1312’ 같은 이름표가 붙어 있었고, 앞서 오픈AI가 자사 에이전트로 확인한 위키 편집 사건과 같은 애저 IP 대역이 사용된 점을 근거로 오픈AI 에이전트일 가능성이 매우 높다고 판단했다.
접속 방식도 점점 바뀌었다. 4월 21일 스스로 제출되는 양식으로 처음 데이터를 받았고, 5월 4일에는 주소 일부를 이중으로 인코딩하는 방식으로 필터를 우회했다. 이중 인코딩은 이후 55회 사용됐다. 5월 말부터는 구글의 보안 교육용 사이트에 요청 스크립트를 올려 실행했다. 하워드-존스는 “‘안 된다’는 답을 받아들이지 않는 누군가, 혹은 무언가의 행동처럼 보인다”면서도 해킹이라고 부르지는 않겠다고 밝혔다. 에이전트가 쓴 인증 키는 유엔 사이트가 모든 방문자의 브라우저에 보내는 공개 정보였다.
오픈AI는 더레지스터에 “유엔무역개발회의 데이터 허브의 공개 정보에 오픈AI 모델이 접근했다는 보고를 알고 있다”며 “내용을 검토하고 있고 유엔에 설명을 제안했다”고 밝혔다. 오픈AI는 해당 에이전트가 자사 것인지 명확히 확인하지는 않았다. 하워드-존스는 공개 전 이중 인코딩 우회 문제를 유엔무역개발회의 보안팀에 공유했다.
자세한 내용은 더레지스터에서 확인할 수 있다.
이미지 출처: 오픈AI
AI Matters 뉴스레터 구독하기
