미국 의회 감시기구인 정부회계감사원(GAO)이 주요 AI 챗봇 4종을 시험한 결과 모두 공격 계획에 쓰일 수 있는 정보를 내놓았다는 보고서를 18일(현지 시각) 공개했다. ABC 뉴스 보도를 보면 GAO 조사관들은 앤트로픽의 클로드, 스페이스XAI의 그록, 오픈AI의 챗GPT, 구글의 제미나이를 상대로 지난 4월 시험을 진행했다. 조사관들은 잘 알려진 우회 기법으로 안전장치를 피해 12시간 안에 4개 모델 모두에서 “악의적 행위자가 공격을 계획하고 실행하는 데 도움이 될 수 있는 실현 가능한 정보”를 얻었다고 보고서에 적었다.
조사관들은 각 플랫폼을 사제폭발물(IED) 공격과 미국 전력망 공격이라는 두 시나리오 가운데 하나에 무작위로 배정했다. 시험은 플랫폼마다 한 번씩 진행했고, 어느 플랫폼이 어떤 결과를 냈는지는 공개하지 않았다. 2개 플랫폼은 주요 도시에서 IED 공격을 준비하고 실행하는 서로 다른 계획을 내놓았고, 공개 행사 일정에 맞춰 호텔 주차장과 컨벤션센터를 표적으로 제시했다. 두 플랫폼 모두 수사기관의 주의를 피하는 방법을 제안했다. GAO는 “최소 1개 플랫폼이 탐지를 피하고 매우 큰 IED를 제작하는 데 도움이 될 만한 정보를 제공했다”고 밝혔다. 나머지 2개 플랫폼은 주요 도시의 전력망 변전소를 공격하는 방법을 안내하며 특정 드론과 총기 모델, 구입 경로를 제시했다. 조사관들은 대도시 소방서의 폭발물 처리반 지휘관 자문 등으로 내용의 정확성을 확인했다.
이번 조사는 매기 해슨 민주당 상원의원(뉴햄프셔)의 요청으로 진행됐다. 해슨 의원은 “시험에서 얻은 정보가 실제 공격을 계획하는 테러리스트의 손에 들어가면 치명적일 수 있다”고 말했다. 상원 국토안보위원회 차기 위원장인 해슨 의원은 내년에 AI 안전 청문회를 열고 안전 요건을 강화하는 법안을 준비하겠다고 밝혔다. 그는 모델 출시 전에 이런 방식으로 뚫리지 않는 안전장치를 갖추도록 하는 것이 필요하다고 말했다. GAO는 오용을 막기 위해 구체적인 시험 결과와 모델 정보를 보고서에서 가렸다.
4개 기업은 GAO에 시스템을 계속 시험하며 여러 겹의 보안 장치를 운영하고 있고, 지난 4월 시험 이후 모델과 안전장치를 개선했다고 답했다. 오픈AI 대변인은 ABC 뉴스에 시험이 몇 달 전 이전 버전의 챗GPT로 진행됐고 GPT-6 계열 모델에서 안전성을 크게 높였다고 밝혔다. GAO는 일부 플랫폼이 시험 뒤 조사관 계정을 정지했다고 전했다. 케빈 월시 GAO 정보기술, 사이버보안 감사 국장은 기업들이 이 문제를 계속 연구하고 있다고 밝혔지만, GAO는 현재 상태의 이 기술이 위험할 수 있고 그 오용이 국가에 커지는 위험이라고 결론 내렸다고 말했다.
자세한 내용은 ABC 뉴스에서 확인할 수 있다.
이미지 출처: GAO
AI Matters 뉴스레터 구독하기

