오픈AI가 현지 시각 8월 27일 사이버 방어를 촉구하는 공개서한을 자사 사이트에 게시했다. 마이크로소프트와 구글, AWS, 앤트로픽, 시스코, 크라우드스트라이크, 팔로알토 네트웍스, IBM, 오라클, 브로드컴, AMD, 마이크론, SAP, 마스터카드, 비자, 시티, 쇼피파이, 델, 아카마이, 클라우드플레어 등 100곳이 넘는 기업이 서명했다.

서한은 “앞으로 몇 달 안에 AI를 활용한 사이버 공격이 훨씬 널리 퍼지고 정교해질 것”이라고 밝혔다. 위험이 가장 큰 곳으로는 병원과 정수장, 인터넷 운영에 쓰이는 기반 설비를 꼽았다. 오래된 버그와 과도한 권한 설정, 잘못된 구성, 패치되지 않은 소프트웨어, 취약한 인증, 낡은 시스템에 쌓인 기술 부채가 그동안 방치돼 왔다는 것이다.

서명 기업들은 세 가지 원칙을 제시했다. 지금까지의 보안 수준으로는 부족하다는 점을 인정하고 필수 인프라 보안팀에 도구와 예산을 대폭 투입하는 것이 첫 번째다. 두 번째는 더 많은 방어자가 AI 보안 도구를 쓸 수 있게 만드는 것으로, 한 조직이 검증한 수정 방법을 다른 조직도 함께 쓰자는 내용이다. 세 번째는 집단 대응으로, 어느 한 기업이 미래를 좌우해서는 안 되며 국제 협력이 필요하다고 적었다.

모든 조직에는 최소 권한과 강력한 접근 통제, 심층 방어를 갖추도록 시스템을 교체하거나 개선하라고 권했다. 최소 권한은 이용자나 프로그램에 업무에 꼭 필요한 만큼만 권한을 주는 원칙이고, 심층 방어는 방어막을 여러 겹으로 두어 하나가 뚫려도 다음 단계에서 막게 하는 설계를 말한다. 필수 서비스를 멈추지 않고는 패치할 수 없는 시스템에는 보완 통제를 적용하고 그 효과를 검증하라고 밝혔다.

보안 기업에는 프런티어 수준의 공격 능력을 상대로 방어를 계속 시험하고, 위협 정보와 검증된 대응 절차를 공유하라고 요구했다. 정부에는 지역과 국가, 국제 단위에서 대응을 조율하고 인력이나 예산이 없는 필수 서비스부터 지원하라고 요청했다. 프런티어 AI 기업에는 에이전트 신원을 추적하고 책임을 물을 수 있게 만들라고 적었는데, 에이전트 신원은 AI 에이전트가 시스템에 접속할 때 쓰는 계정과 식별 정보를 가리킨다.

서명 명단에는 앤트로픽과 퍼플렉시티처럼 오픈AI와 경쟁하는 회사도 들어갔다. 허깅페이스와 레드햇, 리플릿, 버셀, 피그마 같은 개발자 도구 기업과 캐피털원, US뱅크, 로빈후드 등 금융권도 포함됐다. 서한은 성과를 측정하는 기준으로 몇 곳이 보호받았는지, 공격이 얼마나 빨리 차단됐는지, 적용한 수정이 실제로 작동하는지를 제시했다.

자세한 내용은 오픈AI에서 확인할 수 있다.

이미지 출처: 오픈AI