영국 하원이 오픈AI와 앤트로픽, 구글 딥마인드, 메타를 AI 안전 청문회에 소환했다. 현지 시각 9월 22일 시티에이엠(City AM)의 보도다. 하원 기업·혁신·과학·무역 위원회(BISTC)는 네 회사의 고위 대표에게 오는 10월 13일 의원들 앞에 출석해 증언할 것을 요청하는 서한을 보냈다. 위원회는 진행 중인 영국의 AI 경제 전략 조사와 관련해 이번 청문회를 연다.

서한을 받은 사람은 오픈AI 유럽·중동·아프리카(EMEA) 정책 책임자 톰 더프 고든, 앤트로픽 영국·아일랜드 대표 핍 화이트, 구글 딥마인드 수석부사장 코라이 카부크추올루, 메타 EMEA 부사장 데리아 마트라스다. 네 회사는 9월 29일까지 적절한 대표가 참석할지 확인하게 된다. 위원회는 청문회 전 서면 답변도 요구했다.

위원장 리엄 번은 서한에서 최근 수 주간 업계 지도자와 내부 고발자들의 경고가 영국의 공공 정책 체계와 국제 협정이 아직 미래에 대비하지 못했다는 점을 보여 줬다고 적었다. 위원회는 조사 과정에서 신뢰를 핵심 쟁점으로 제시했다. AI 보안과 안전, AI 기반 경제에서 근로자와 기업이 손해를 보지 않을지가 모두 신뢰 문제로 연결된다는 것이다. 최근에는 AI 안전을 우려하는 내부 고발자들의 증언이 잇따르며 규제 공백 논란이 커졌다. 번 위원장은 AI가 영국 경제에 가져올 기회를 살리려면 시민과 기업의 신뢰가 바탕이 돼야 한다고 강조했다.

청문회에서는 모델 출시 전 독립 안전성 테스트를 법적으로 의무화할지가 다뤄진다. 번 위원장은 서한에서 “AI 기업이 자사 모델이 독립 안전성 테스트를 받아야 할 만큼 강력한지를 스스로 판단해도 되는가, 아니면 출시 전 안전성 테스트를 법으로 의무화해야 하는가”라고 물었다. 규제 당국이 안전성 평가를 통과하지 못한 모델에 대해 배포를 중단시키거나 추가 테스트를 요구하거나 회수를 명령할 권한을 가져야 하는지도 질문에 포함됐다. 위원회는 심각한 사고의 보고 의무화에 동의하는지도 물었다. 대상으로는 의도적 기만 행동, 안전장치 우회, 무단 복제, 인간의 통제가 작동하지 않고 있다는 증거가 제시됐다.

책임 소재도 질문에 들어갔다. 번 위원장은 각 회사에서 프런티어 모델 배포를 개인적으로 책임지는 사람이 누구인지, 예견할 수 있는 피해에 대해 개발사가 법적 책임을 져야 하는지 물었다. AI 안전 연구소(AISI)가 기업의 모델과 학습 데이터, 테스트 방법, 내부 안전 자료에 어떤 법적 접근 권한을 가져야 하는지도 질의 대상이다. 번 위원장은 “안전 테스트와 외부 감독, 규제 역량이 따라가지 못하는 상황에서 프런티어 모델의 개발이나 배포를 늦추는 데 찬성하는가”라고 물으며 “그렇지 않다면 이유는 무엇인가”라고 덧붙였다.

지금 영국 제도는 개발사가 정부에 가장 강력한 시스템을 제공할지 여부를 사실상 스스로 결정하는 구조다. 앤트로픽은 최근 최신 모델을 영국 AI 안전 연구소에 사전 제공하지 않고 출시했다. 번 위원장은 지난주 시티에이엠에 “자발적 자율규제는 앞으로 지속 가능한 안전장치가 되기 어렵다”고 말하며, 기업이 안전 우려를 무시하고 위험한 모델을 출시할 경우 영국에 충분한 권한이 없다고 지적했다.

AI 안전 연구소 소장 헨리 드 주테도 10월 13일 별도 증언을 요청받았다. 앤트로픽에서 사임한 연구원 제이콥 콕슨도 의회 증언에 초청됐다. 콕슨은 주요 AI 기업들이 자기 개선 초지능으로 직행하며 인류의 생명을 걸고 도박하고 있다고 비판한 인물이다. 영국 정부는 더 강한 개입 가능성을 열어 뒀고, 오픈AI는 가장 강력한 AI 시스템을 개발하는 소수 기업에 한해 영국 규제를 강화하는 방안을 공개 지지했다.

자세한 내용은 시티에이엠에서 확인할 수 있다.

이미지 출처: 위키미디어 커먼즈 / Colin (CC BY-SA 4.0)