오큘러스 창업자이자 미국 방산 기업 안두릴 인더스트리스의 공동 창업자인 팔머 럭키가 AI를 활용한 사이버 공격이 낡은 시스템의 방어 속도보다 빠르다고 현지 시각 11월 18일 경고했다. 미국 IT 매체 테크크런치에 따르면, 럭키는 이날 뉴욕타임스 딜북 서밋에서 앤드루 로스 소킨과 대담하며 “이제 뛰어야 할 때”라고 말했다.
테크크런치에 따르면, 최근 미국에서 잇따른 기술 장애를 두고 정부 관계자들은 AI가 찾아낸 취약점을 막으려고 기업들이 서둘러 보안 패치를 적용한 것을 주된 원인으로 지목했다. 럭키는 낡은 기술과 이를 운영하는 조직의 허술한 보안에 초점을 맞췄다. 그는 “고급 AI 도구로 다양한 공격 코드를 생성하는 현상이 확인되고 있다”고 말했다.
럭키는 미국의 적대국들이 새로운 공격 능력과 미국 방어 체계 사이의 격차를 전략적, 금전적 목적으로 이용하고 있으며, 특히 북한이 깊이 관여하고 있다고 말했다. 소킨에 따르면, J.D. 밴스 미국 부통령은 이번 장애 대응 회의 참석을 이유로 같은 주 딜북 서밋 출연을 취소했다.
사람들이 얼마나 걱정해야 하느냐는 소킨의 질문에 럭키는 “얼마나 잘 대비했느냐에 달렸다”고 답하며 “곧 무슨 일이 벌어지는지 알게 될 것”이라고 말했다. 그는 모든 시스템이 해킹당할 수 있다는 주장이 지금으로서는 맞지만, 새로운 기법이 등장하면 달라질 수 있다고 말했다.
럭키는 결국 AI가 방어하는 쪽에 유리할 수 있지만, 방어자가 더 빨리 움직여 AI를 방어에 가장 효과적으로 써야 한다고 강조했다. 그는 지금은 매우 빠르게 움직이는 공격자와 낡고 오래된 시스템이 맞서는 상황이라고 설명했다.
같은 날 딜북 서밋에는 샘 알트만 오픈AI CEO와 그렉 브록만 오픈AI 사장, 사티아 나델라 마이크로소프트 CEO도 참석했다. 테크크런치에 따르면, 브록만은 사이버 공격용 모델이 이미 공격자 손에 있어 방어하는 쪽에 가장 성능이 좋은 모델이 필요하다고 말했다. 오픈AI는 자사 모델이 허깅페이스를 해킹한 사고 이후 생산 엔지니어의 25%에게 AI 기술 보안 작업을 맡겼다.
자세한 내용은 테크크런치에서 확인할 수 있다.
이미지 출처: 안두릴
AI Matters 뉴스레터 구독하기

