오픈AI(OpenAI)가 소프트웨어 취약점 탐지와 검증, 보안 패치 개발을 지원하는 사이버 보안 특화 인공지능(AI) 모델 'GPT-6 사이버(GPT-6 Cyber)'를 공개했다. 대규모 코드베이스에서 보안 취약점을 찾아 실제 악용 가능성을 확인하는 능력을 강화하는 동시에, 승인된 작업 범위 내에서만 보안 활동을 수행하도록 안전성을 높인 것이 핵심이다.

GPT-6 사이버는 보안 연구자가 설정한 대상과 제한 사항을 준수하도록 특화 학습을 적용한 모델이다. 오픈AI는 이를 통해 보안 담당자가 공격자보다 먼저 취약점을 발견하고 수정할 수 있도록 지원한다는 방침이다.

이 모델은 우선 승인을 받은 일부 데이브레이크 레드(Daybreak Red) 고객에게 API와 코덱스(Codex)를 통해 제공되며, 향후 전체 데이브레이크 레드 고객으로 이용 범위를 확대할 예정이다.

파이어폭스 고위험 취약점 81건 발견… 리눅스 취약점 1,724건 재현

GPT-6 사이버의 주요 특징은 복잡한 소프트웨어 환경에서 취약점을 찾아내는 데 그치지 않고, 실제 공격 가능성을 검증하고 수정에 필요한 분석 자료와 패치 후보까지 생성할 수 있다는 점이다.

오픈AI 연구진은 GPT-6 사이버를 활용해 모질라(Mozilla)의 웹 브라우저 '파이어폭스(Firefox)'에서 기존에 알려지지 않았던 고위험 보안 취약점 81건을 발견했다.

연구진은 발견한 취약점마다 재현 가능한 검증 자료를 생성해 모질라에 전달했으며, 모질라는 이를 바탕으로 다수의 취약점에 대한 수정 사항을 배포했다. AI를 활용한 취약점 분석 결과가 실제 소프트웨어 보안 개선으로 이어진 사례다.

리눅스(Linux) 커널을 대상으로 한 연구에서도 취약점 탐지와 공격 가능성 검증 역량을 확인했다. GPT-6 사이버를 활용한 연구에서는 총 1,724건의 취약점을 재현했으며, 이 가운데 948건에 대해 실제로 작동하는 익스플로잇(exploit)을 개발했다. 익스플로잇은 소프트웨어의 취약점을 이용해 의도하지 않은 동작을 유발하는 공격 코드나 기법을 의미한다.

오픈AI는 리눅스 커뮤니티의 지침에 따라 중요 발견 사항 304건을 패치 후보와 함께 유지관리자들에게 보고했다. 이와 별도로 추가 취약점에 대한 수정 작업도 진행하고 있다.

취약점 악용 검증 성공률 48.5%… 복잡한 보안 과제 95% 완료

GPT-6 사이버는 주요 사이버 보안 성능 평가에서도 이전 모델인 GPT-5.6 사이버보다 향상된 결과를 기록했다.

알려진 취약점을 실제로 악용할 수 있는지 평가하는 '익스플로잇짐(ExploitGym)'에서 GPT-6 사이버는 48.5%의 성공률을 기록했다. GPT-5.6 사이버의 32.1%와 비교하면 16.4%포인트 높아진 수치다.

GPT-6 사이버는 취약점 악용 가능성을 평가하는 익스플로잇짐(ExploitGym)에서 48.5%의 성공률을 기록해 이전 모델인 GPT-5.6 사이버(32.1%)를 상회했다.

실제 환경을 모사한 서버에서 복잡한 보안 작업을 수행하는 '리모트익스플로잇벤치(RemoteExploitBench)' 초기 평가에서는 전체 과제의 95%를 완료했다.

이러한 평가 결과는 GPT-6 사이버가 단순한 코드 분석이나 취약점 후보 탐지를 넘어 실제 보안 검증 작업까지 수행할 수 있도록 성능이 강화됐음을 보여준다.

오픈AI는 취약점을 악용하는 공격자와 이를 방어하는 보안 담당자 사이의 대응 격차를 줄이는 데 GPT-6 사이버의 활용 가능성을 두고 있다.

허가 범위 밖 공격 비율 5.51%에서 0.07%로 감소

오픈AI는 취약점 탐지 및 검증 성능과 함께 AI 모델이 승인된 작업 범위를 준수하는 능력도 강화했다.

사이버 보안 AI 에이전트는 취약점을 조사하고 검증하는 과정에서 의도치 않게 허가되지 않은 시스템이나 서비스에 접근할 위험이 있다. 특히 실제 공격 가능성을 검증하는 기능이 강화될수록 작업 대상과 범위를 정확하게 통제하는 것이 중요해진다.

이를 위해 GPT-6 사이버에는 승인된 대상과 작업 범위를 지키고, 사전에 설정된 제한 사항을 준수하며, 작업 수행 결과를 정확하게 보고하도록 특화된 학습이 적용됐다.

이러한 개선 효과는 허가 범위 밖의 서비스에 대한 공격 여부를 측정하는 '익스플로잇짐 허니팟(ExploitGym Honeypot)' 평가에서도 확인됐다.

배포용 안전 프롬프트를 적용하지 않은 상태에서 GPT-6 사이버는 전체 평가 사례의 99.93%에서 허가 범위 밖의 서비스를 공격하지 않았다. 이전 모델인 GPT-5.6 사이버가 기록한 94.49%보다 5.44%포인트 높은 결과다.

반대로 허가 범위 밖 서비스를 공격한 비율은 GPT-5.6 사이버의 5.51%에서 GPT-6 사이버의 0.07%로 낮아졌다.

특히 배포용 안전 프롬프트를 적용한 동일한 평가에서는 GPT-6 사이버가 모든 사례에서 허가된 작업 범위를 준수한 것으로 나타났다.

고위험 사이버 활동 차단 강화… 자체 인프라 보안에도 활용

오픈AI는 GPT-6 사이버의 고도화된 보안 분석 능력이 악의적인 목적으로 활용되지 않도록 별도의 안전장치도 강화했다.

주요 대응 조치에는 고위험 사이버 활동 차단, 악용 가능성이 있는 사용 행위 탐지, 모델의 행동이 사용자의 승인 범위에 부합하는지 확인하는 모니터링 등이 포함된다.

특히 핵심 인프라와 필수 서비스에 심각한 피해를 초래할 수 있는 요청은 제한하면서도, 정당하게 승인된 보안 연구와 취약점 검증 작업은 지원하도록 설계했다.

오픈AI는 GPT-6 사이버를 외부 소프트웨어 연구뿐 아니라 자체 인프라의 보안 점검에도 활용했다. 이를 통해 내부 시스템의 취약점을 수정하고 네트워크 접근 제한을 강화하는 등 실제 보안 개선 작업을 수행했다.

오픈AI는 GPT-6 사이버를 통해 취약점 발견부터 검증, 패치 개발 지원까지 보안 연구 전반에 AI를 적용하는 동시에, 모델의 작업 권한과 행동을 통제하는 안전성 확보에도 중점을 두고 있다.

이준문 기자/jun@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지