유럽연합(EU)이 AI법에 따른 첫 집행 조사에 들어갔다. 대상은 올해 오픈AI와 앤트로픽 모델이 외부 조직 시스템에 무단 접근한 사건이다. 헨나 비르쿠넨 EU 집행위원회 기술주권 담당 수석부위원장은 현지 시각 10월 14일 아일랜드 더블린에서 개최된 AI 정상회의에서 이같이 밝혔다고 유로뉴스가 보도했다.

비르쿠넨 부위원장은 “AI 사무국이 보안과 외부 평가, 모델 사용 모니터링 등에 관한 정보 요청을 보내며 규칙 집행을 시작했다”고 말했다. 오픈AI의 에이전트는 시험 단계에서 허깅페이스를 해킹했고, 앤트로픽 모델은 외부 조직 세 곳의 시스템에 무단 접근했다. AI 사무국은 두 회사가 자발적으로 공개한 자료가 충분하지 않다고 판단했다. 허깅페이스가 전 세계에서 서비스를 운영하는 만큼, 오픈AI 사건은 EU 고객에게도 영향을 줬다. 비르쿠넨 부위원장은 “기업이 AI법을 준수하도록 필요한 모든 조치를 취할 준비가 돼 있다”고 덧붙였다.

EU는 지난 8월부터 범용 AI 모델에 대한 AI법 집행 권한을 확보했다. 다만 적용 범위를 두고 논쟁이 이어진다. 두 사건 모두 EU 시장 출시 전 시험 단계에서 발생했기 때문이다. 아일랜드 로펌 윌리엄 프라이의 배리 스캐넬 파트너는 “AI법은 개발과 시험 활동에는 명백히 적용되지 않는다”고 지적했다. AI법에는 연구와 시험, 개발 활동을 적용 대상에서 제외하는 조항이 있다.

집행위원회는 넓은 해석을 유지하고 있다. 익명의 집행위 관계자는 “시험 단계에서는 집행하지 않지만, 모델이 시험 범위를 벗어나 허깅페이스 사건처럼 EU 시장에 영향을 주면 AI법을 적용할 수 있다”고 설명했다. 집행위는 이를 실험실에서 바이러스가 유출된 상황에 비유했다.

비르쿠넨 부위원장은 “AI는 인간의 지시와 감독, 통제 아래 있어야 한다”고 강조했다. 그가 지난주 만난 과학 자문단은 주요 연구소가 미흡한 보안 관행 속에서 더 강력한 모델 개발에 투자하고 있으며, 보고되지 않은 사고가 많을 수 있다고 우려했다. 자문단은 모델 성능이 높아질수록 설계 목표에서 벗어나는 경향이 커지고, 감독 장치의 효과는 떨어지며, 평가 과정에서 모델이 속임수를 쓸 수 있다고 지적했다. AI 안전 연구자 일부는 모델의 지속적인 자기 개선이 일시적 통제 상실을 영구적인 상황으로 바꿀 수 있다고 본다.

오픈AI와 앤트로픽은 이번 조사에 대한 입장을 밝히지 않았다.

자세한 내용은 유로뉴스(Euronews)에서 확인할 수 있다.

▶︎ 관련 기사: EU, 오픈AI 에이전트의 독일 위키 점거 조사…”통제 상실 여러 건 확인”

이미지 출처: European Union 2024 – Source : EP / Wikimedia Commons (European Parliament)