RTX 5090, M5 Max 대비 LLM 성능 우위

NVIDIA의 노트북 RTX 5090은 고사양 AAA 게임에서 모든 시각 설정을 최대로 높일 수 있는 충분한 VRAM을 갖췄다. 하지만 AI 워크로드 실행 시 24GB 프레임 버퍼는 완전히 새로운 양상을 보인다. 일련의 테스트 결과, RTX 5090은 LLM 워크로드에서 Apple의 M5 Max를 압도적으로 능가하는 성능을 보였다. 단, 더 무거운 AI 모델과 증가된 컨텍스트 길이가 적용될 때까지의 결과다.

업데이트된 Razer Blade 18과 Apple의 최신 16인치 MacBook Pro를 비교한 Alex Ziskind의 벤치마크에는 AI 워크로드도 포함됐다. Qwen3 4B 모델을 4비트 양자화 및 262,144 컨텍스트 길이로 실행했을 때, RTX 5090의 24GB VRAM이 거의 모두 사용되어 초당 25.28 토큰 생성 속도를 기록했다. 반면 M5 Max는 초당 181.40 토큰을 달성했다. 그러나 컨텍스트 길이를 68,014로 줄이자 RTX 5090의 VRAM이 크게 확보되어 초당 160.36 토큰을 기록했다. RTX 5090이 여전히 M5 Max보다 느린 이유는 Windows에서는 LM Studio를, Apple Silicon에서는 MLX를 사용한 프로그램 차이 때문으로 분석된다.

RTX 5090은 Gemma 4 12B, Qwen3.5 27B, Qwen3.6 35B A3B와 같은 여러 LLM을 llama.cpp를 사용하여 실행했을 때 M5 Max 대비 프롬프트 처리 및 토큰 생성 모두에서 우위를 점했다. 하지만 NVIDIA의 노트북용 GPU는 24GB VRAM이 가득 차지 않는 한 최고의 성능을 유지한다. Qwen3.5 122B와 같이 매우 밀도 높은 모델을 실행할 경우 RTX 5090은 테스트에서 성능을 발휘하기 어렵다. M5 Max는 128GB 통합 메모리를 사용하여 프롬프트 처리 139 토큰/초, 토큰 생성 47.4 토큰/초를 달성했으며, 이때 94GB의 RAM을 소비했다. NVIDIA가 RTX Spark 출시를 서두르는 이유 중 하나는 더 무거운 AI 모델 실행에 대비하기 위함으로 보인다.