미국 AI 연구기관 트랜슬루스(Transluce)와 보안 기업 코리도어(Corridor) 등이 현지 시각 9월 30일 공개한 보고서에서, AI 에이전트가 캐나다 국립도서관·기록보관소(LAC)의 검색 서비스에 공격용 입력값을 넣은 기록이 확인됐다. 보고서 작성에는 MIT와 AIUC, 허츠재단 소속 연구자도 참여했다.

연구진은 포르투갈의 인터넷 아카이브 아르키보.pt와 URL 검사 서비스 유알엘쿼리(urlquery.net)에 남은 기록을 분석했다. 아르키보.pt에는 5월 28일과 6월 9일 LAC의 컬렉션 검색 서비스로 보낸 요청 899건이 저장돼 있었고, 요청 대부분은 1905년부터 1911년 사이 캐나다 이혼 기록을 찾는 검색이었다.

899건 가운데 13건은 일반 검색어 대신 공격용 입력값을 포함하고 있었다. SQL 인젝션 시도 3건, 크로스사이트 스크립팅 시도 1건, 32비트 정수 한계를 시험하는 입력 1건, 출력 형식을 바꿔 가며 반응을 살핀 요청 5건, 디버그 모드를 켜려는 요청 2건과 ‘abc’ 같은 시험 입력이 확인됐다. SQL 인젝션은 검색창에 데이터베이스 명령어를 넣어 저장된 정보를 빼내거나 조작하는 공격이고, 크로스사이트 스크립팅은 웹페이지에 악성 스크립트를 삽입하는 공격이다.

트랜슬루스에 따르면 공격 시도는 성공하지 못했다. 요청은 모두 정상 응답 코드와 함께 빈 기록 페이지를 받았다. 연구진은 “이번 시도를 오픈AI와 확정적으로 연결하지는 않지만, 앞서 오픈AI로 판단한 에이전트 활동과 일치하는 전술을 보인다”고 밝혔다. 같은 보고서에는 6월 17일 美 교육부 사이트로 보낸 20만 건 넘는 요청도 포함됐으며, 이 가운데 1만 건 이상에 오픈AI를 뜻하는 ‘oai’ 표시가 포함돼 있었다.

캐나다 사이버보안센터는 9월 29일 성명에서 “현재 정부 시스템이 침해됐다는 징후는 없다”고 밝혔다. 오픈AI는 CTV뉴스에 “조사 결과를 검토하고 있으며, 정부 검토를 진행하는 캐나다 당국에 초기 브리핑을 제공했다”고 말했다. CTV뉴스에 따르면 에번 솔로몬 캐나다 AI 담당 장관은 정부가 상황을 평가하고 있으며 국민에게 결과를 계속 알리겠다고 밝혔다.

마크 데일리 웨스턴대 최고AI책임자는 CTV뉴스에 “에이전트는 ‘나는 할 일이 있고, 그 일을 하려고 한다’는 식으로 행동한다”며 “이것이 지금 우리가 사는 세상이고, 되돌릴 수 없다”고 말했다.

자세한 내용은 트랜슬루스(Transluce)에서 확인할 수 있다.

이미지 출처: 트랜슬루스