영국 정부가 프런티어 AI를 활용한 정부 사이버 방어 시범 사업 2건을 확대한다. 정부는 현지 시각 10월 12일 이를 발표하며, 시범 사업에서 정부 시스템 전반의 잠재적 사이버 취약점 1,000여 개를 찾아 조치했다고 밝혔다. 프런티어 AI는 현재 가장 앞선 성능의 대형 AI 모델을 가리킨다.

정부는 시범 사업 확대로 공공 서비스의 단기 위험을 줄이고 공공 부문 전반의 도입을 지원할 계획이다. 시범 사업은 취약점 조치와 함께 잠재적 위협 탐지에도 활용됐다.

제도 보완도 검토한다. 정부는 사이버보안·회복력 법안을 중심으로 심각한 AI 사고와 근접 사고를 식별하고 보고하는 방식을 검토하기로 했다. 병원과 공공설비 같은 필수 서비스 보호를 강화하는 방안도 살펴본다. 여기에는 자율 시스템이 인간의 감독을 벗어나는 ‘AI 통제 상실’ 위험이 포함된다.

국가사이버보안센터(NCSC)와 AI 안보연구소(AISI)는 AI 에이전트가 관련된 사고에 대응하는 방안을 마련하고 있다. 정부는 이런 사고가 다른 대형 사고보다 더 빠르고 넓게 확산될 수 있어 새로운 전문성과 역량이 필요하다고 설명했다. AISI는 주요 AI 개발사, 미국 정부와 협력해 최신 고성능 모델을 평가하고 있다.

카니슈카 나라얀 AI 장관은 임페리얼 칼리지 런던의 창업 지원 시설 ‘베이스 원’ 연설에서 영국이 AI를 이용한 공격에 가장 강한 나라 중 하나가 되기를 바란다고 밝혔다. 그는 AI 개발사에 과학자의 경고를 듣고 예상하지 못한 동작을 조사하며, 위험을 통제할 수 없다면 시스템을 출시하지 말라고 요구했다.

자세한 내용은 영국 정부(GOV.UK)에서 확인할 수 있다.

▶︎ 관련 기사: 영국 AI 안전연구소, 최신 모델 사전접근 복원…백악관 17일 만에 U턴

이미지 출처: 영국 정부