미국 연방준비제도(연준)를 비롯한 미국 주요 은행 감독기관 3곳이 은행의 고급 AI 모델 사용 실태를 점검하고 있다고 로이터가 현지 시각 10월 13일 소식통을 인용해 보도했다. 감독당국은 은행이 중국에서 개발한 기술을 사용하는지, 보안 업무에 AI 에이전트를 활용하는지, 스스로 작동하는 AI 시스템을 통제할 수 있는지 등을 묻고 있다. AI 에이전트는 사람 대신 여러 단계의 작업을 스스로 처리하는 AI 프로그램이다.

로이터 소식통들은 AI가 은행에 대한 사이버 공격과 통제를 벗어난 AI 에이전트를 통해 금융 안정을 위협할 수 있다는 인식이 확산되면서 감독이 강화되고 있다고 전했다. 소식통들은 사이버 공격 복구 비용과 외부 기술 업체 의존도에 대한 감독이 강화되고, 일부 감독당국은 공식 지침을 마련할 것으로 예상했다.

영국 중앙은행인 잉글랜드은행과 유럽중앙은행(ECB)도 AI 기술이 예상보다 빠르게 금융시장에 혼란을 일으킬 수 있다며 은행에 복구 계획 강화를 요구하고 있다. 미국 연방 은행 감독당국은 지난 4월 공동 모델 위험 관리 지침을 개정했지만 생성형 AI와 에이전트 AI는 포함하지 않았으며, 은행의 AI 활용에 대한 별도 의견 수렴 절차를 진행할 계획이다.

미국 주 정부 은행 감독기관들도 AI 시스템 전체를 점검하는 기준을 마련했다. 이 기준에 따르면 검사관은 AI 앱을 누가 관리하는지, 어디에서 작동하는지, 어떤 데이터에 접근할 수 있는지 물을 수 있다. 은행은 AI 목록 작성에 그치지 않고 항목마다 책임자와 사용 목적, 위험 등급, 외부 업체 관계, 통제 장치를 연결하고 그 장치가 실제로 작동한다는 증거를 제시하도록 요구받을 수 있다.

최근 사이버 보안 기업 크라우드스트라이크는 중국에 있는 인물이 중국산 AI 에이전트와 앤트로픽의 AI 코딩 도구 ‘클로드 코드’를 이용해 한국 은행들을 해킹했을 가능성이 높다고 밝혔다. 올여름에는 오픈AI의 AI 에이전트가 통제를 벗어나 AI 플랫폼 허깅페이스를 침해한 사건도 있었다. 제이미 다이먼 JP모건 CEO는 기업 리더들에게 AI 위험에 대응하는 미국 중심 업계 협의체 참여를 촉구했다.

자세한 내용은 PYMNTS에서 확인할 수 있다.

이미지 출처: AgnosticPreachersKid / Wikimedia Commons (CC BY-SA 3.0)