Managing Artificial Intelligence-Specific Cybersecurity Risks in the Financial Services Sector

금융권 AI 도입 현황과 과제

미국 재무부가 발표한 'AI 기반 사이버보안 리스크 관리' 보고서에 따르면, 금융기관들의 AI 도입이 가속화되고 있다. 이 보고서는 금융 서비스 부문, IT 기업, 데이터 제공업체, 자금세탁방지 기업 등 42개 기관과의 심층 인터뷰를 통해 작성되었다. 금융기관들은 이미 수년 전부터 사이버보안과 부정거래 방지를 위해 AI 시스템을 활용해 왔다. 대형 금융기관들은 수천 개의 AI 활용 사례를 검토하고 있는 반면, 일부 소규모 기관들은 아직 생성형 AI를 전혀 도입하지 않고 있다.

생성형 AI 도입의 신중한 행보

금융기관들은 생성형 AI의 도입에 신중한 태도를 보이고 있다. 일부 기관들은 기존 위험 관리 체계만으로는 생성형 AI와 같은 신기술의 위험을 충분히 관리하기 어렵다고 판단하고 있다. 인터뷰 참가자들은 AI 기술의 안전한 도입을 위해서는 모델, 기술, 법률, 컴플라이언스 등 다양한 팀 간의 협업이 필요하다고 지적했다. 데이터 오염, 데이터 유출, 데이터 무결성 공격 등의 위험이 AI 개발과 공급망의 모든 단계에서 발생할 수 있기 때문이다.

한 기관은 보안 분석가들의 업무를 지원하기 위해 의심스러운 이메일을 초기 분류하는 AI 도구를 개발했다. 이 도구는 분석가들의 업무 시간을 줄여주는 데 효과적이지만, 모델의 정확도가 완벽하지 않기 때문에 인적 검증이 반드시 필요하다고 강조했다. 기관들은 AI 기술의 안전한 도입을 위해 모델, 기술, 법률, 컴플라이언스 등 다양한 팀 간의 협업이 필요하다고 지적했다.

사이버 위협의 진화와 대응

사이버보안 사고는 매년 증가하고 있으며, IBM에 따르면 2023년 데이터 유출 사고의 평균 비용이 445만 달러로 사상 최고치를 기록했다. 베리존의 보고서는 금융기관 데이터 유출에서 개인정보가 가장 흔한 유형이라고 지적했다. 주니퍼 리서치는 2028년까지 온라인 결제 사기로 인한 누적 손실이 3,620억 달러에 이를 것으로 전망했으며, FBI는 2022년 말 기준 비즈니스 이메일 침해로 인한 누적 손실이 500억 달러를 넘어섰다고 보고했다. 특히 합성 신분 사기로 인해 금융기관들은 연간 60억 달러 이상의 손실을 입고 있다.

데이터 격차와 클라우드 서비스의 영향

대형 금융기관과 중소 금융기관 간의 AI 역량 격차가 심화되고 있다. 클라우드 서비스를 이미 도입한 금융기관들이 AI 활용에서 유리한 위치를 점하고 있으며, 이들은 AI 시스템의 실험과 개선에 더 많은 시간을 투자할 수 있다. 한 대형 금융기관은 자체 데이터로 AI 모델을 학습시켜 부정거래를 50% 가량 감소시켰으나, 이러한 데이터와 기술력이 없는 중소 금융기관들은 위험에 더 취약할 수밖에 없다.

감독과 규제의 방향성

금융 규제기관들은 혁신적인 기술 도입에 대해 협력적이고 개방적인 태도를 보이고 있으며, 특히 작은 기관들이 더 세부적인 가이드라인의 혜택을 받을 수 있도록 지원하고 있다. 미국은행정책연구소(BPI)와 미국은행협회(ABA)는 은행권의 부정거래 데이터 공유 격차를 해소하기 위한 노력을 진행 중이다. 미국 재무부는 금융안정감독위원회(FSOC)와 함께 AI가 금융 시스템에 미칠 수 있는 잠재적 취약성을 지속적으로 모니터링할 예정이다.


해당 리포트의 원문은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.