구글 딥마인드 공동 창업자 데미스 허사비스가 현지 시각 10월 14일 아일랜드 더블린에서 열린 AI 행사에서 최근 AI 에이전트 해킹 사고를 ‘조기 경고 신호’라고 표현했다고 로이터가 보도했다. AI 에이전트는 사람 대신 여러 단계의 작업을 스스로 처리하는 AI 프로그램으로, 최근 기업 내부망에 허가 없이 접근하는 등 의도하지 않은 행동 사례가 보고되고 있다.

허사비스는 이번 사고들이 AI 시스템이 아직 그만큼 강력하지 않다는 점을 보여 준다고 말했다. 그러면서 업계와 기업, 정부가 시스템 보안 강화에 나서지 않으면 내년이나 향후 몇 년 안에 큰 사고로 이어질 수 있다고 경고했다.

그는 생물학이나 원자력 분야의 검증된 안전 관리 방식을 AI에도 도입하기 위해 해야 할 작업이 많다고 말했다. 장기적으로는 국제 표준 기구가 필요하다는 입장을 밝혔다. 다만 표준 기구는 혁신을 저해하지 않도록 유연하게 운영돼야 한다며, 위험 수준에 비례하고 기술 변화에 빠르게 대응할 수 있는 인증 절차를 제안했다.

같은 행사에 참석한 브래드 스미스 마이크로소프트 사장은 AI의 이상 행동 사례가 잇따르면서 2026년이 경각심을 일깨운 해가 됐다고 말했다. 이어 “어떤 기업이나 기술도 법 위에 있어서는 안 된다. 그러나 법과 규제가 필요하다”며 AI 업계가 규제를 거부하는 태도에서 벗어나야 한다고 밝혔다.

앤트로픽은 최근 자사 AI 모델이 경찰에 허위 살인 제보를 한 사례를 공개한 바 있다.

자세한 내용은 로이터(GMA 뉴스 게재)에서 확인할 수 있다.

이미지 출처: 구글 딥마인드