Geekbench AI 벤치 마크를 돌려보았습니다.
AI 관련 붐이 한참인 시기에 구매한 PC로 나름 높은 가격을 주고 구매하였습니다.
간단한 머신 러닝이나 딥 러닝 학습을 시켜본 적은 있지만 벤치 마크는 돌려본 적이 없어서 결과가 궁금하네요.
데스크톱 사양
CPU Intel Core i9-13900K
Motherboard ASRock Z790 Steel Legend WiFi D5
GPU COLORFUL GeForce RTX 4090 24GB
RAM Samsung DDR5-5600 32GB * 2
SSD SK하이닉스 Platinum P41 M.2 NVMe 1TB
Cooler ARCTIC Liquid Freezer II 420
Power Micronics Classic II 1050W 80Plus Gold Full Modular
Case Phanteks ECLIPSE P600S
OS Windows 11 Home 64bit 23H2
Monitor AOC U34G3X 144 WQHD, AOC 2470 FHD
CPU 쿨러는 13900K 출시에 맞춰 ARCTIC 420으로 구성했습니다.
당시 CPU 발열 관련 이야기가 많아서 구매했는데 성능은 만족하는데 라디에이터가 두꺼워서 케이스 활용도가 많이 떨어져서 아쉽네요.
확장이 필요하면 다른 제품으로 변경을 고려 중 입니다.
램은 DDR5 출시 초기에 구매한 제품으로 작업 목적이 있어서 시금치 램으로 64GB를 구성했습니다.
32GB 램 선택지가 많지 않았던 걸로 기억하는데 속도가 조금 느려서 아쉽네요.
GPU는 RTX 4090으로 당시 4090 제품 중 가장 저렴한 제품 중 하나를 구매했습니다.
성능에 부족함은 없는데 발열이 상당해서 방열판 크기가 이해가 되는 제품입니다.
작업이나 AI 관련 학습에서 제 역할을 충실히 해줍니다.
만족도는 높지만 일반적인 환경에서 과한 제품이라는 느낌이 강하네요.
벤치마크 결과는 아래와 같고 결과 사진은 가장 아래에 첨부 했습니다.
Framework ONNX
Backend CPU
Device i9-13900K
Single Precision Score 5539
Half Precision Score 1800
Quantized Score 7554
Framework OpenVINO
Backend CPU
Device i9-13900K
Single Precision Score 5529
Half Precision Score 5657
Quantized Score 14259
Framework ONNX
Backend DirectML
Device NVIDIA GeForce RTX 4090
Single Precision Score 38471
Half Precision Score 53106
Quantized Score 28970
AI관련 분야는 잘 모르지만 결과가 재미있네요.
다양한 예측을 시키고 결과를 통해 점수를 매기는 것 같네요.
사용한 Framework에 따라 Single 스코어는 비슷하지만 Half와 Quantized 스코어가 차이가 꽤 나는 부분도 신기하네요.
요즘은 양자화를 시켜도 결과가 나쁘지 않다는 이야기도 들었는데 어느 쪽 Framework가 더 현실적일지 궁금하네요.
GPU를 활용한 점수를 보면 AI 관련 회사들이 왜 GPU 확보에 열을 올리는지 알 수 있을 정도로 점수가 높게 나오네요.
학습을 시키거나 응답을 내놓는 데도 고성능 칩의 필요성이 눈에 보이네요.
AI에 대한 관심이 처음과 같지는 않지만 아직도 발전 가능성이 많은 만큼 항상 관심을 가지고 있어야 겠네요.
재미있는 벤치 마크였고 최신의 그래픽 카드와 성능 차이가 어떨지도 궁금하네요.