다나와 AI 벤치마크 랩에 오신 여러분은 환영합니다! 

AI 벤치마크 랩에서는 각각의 PC가 지닌 AI 관련 성능을 종합점수로 확인해 볼 수 있습니다.

성능 데이터 추출에는, 모바일 및 PC 환경에서 폭넓게 활용하는 긱벤치(Geekbench) AI와 3D MARK로 유명한 UL 솔루션의 프로키온(Procyon) AI 프로그램을 이용합니다.

국내 어디에서도 찾아 볼 수 없는 특별한 AI 콘텐츠,  지금 만나 보세요.

ASUS TUF Gaming A18 FA808UP-S8017 (1,949,000원)는 AMD 라이젠7(Zen4) 프로세서와 RTX 5070(115W TGP) 외장 GPU를 탑재한 18인치 게이밍 노트북으로, 고성능 게임 플레이와 그래픽 작업에 최적화된 구성을 갖춘 것이 특징이다. NPU는 16TOPS를 지원해 AI 기반 기능 및 향후 연산 작업에도 대응할 수 있는 점이 눈에 띈다.

디스플레이는 1920x1200(WUXGA) 해상도, 144Hz 주사율, 300nit 밝기를 지원하며, 16:10 비율로 게임 몰입감과 멀티태스킹 화면 활용을 모두 고려했다. 램은 16GB 기본 탑재에 교체 확장이 가능하고, 512GB SSD와 듀얼 슬롯 구조를 제공해 대용량 게임 설치와 저장 확장성에서 강점을 가진다. 90Wh 대용량 배터리를 탑재해 게임용 노트북임에도 비교적 안정적인 사용 시간을 기대할 수 있다. 2.6kg 무게는 이동성보다는 퍼포먼스 중심으로 설계된 제품임을 보여준다.

긱벤치 AI는 NPU, CPU, GPU 등 각 프로세서가 AI 작업에서 얼마나 효율적으로 작동하는지 파악하기 위해 OpenVINO와 ONNX를 사용한다. OpenVINO(Open Visual Inference and Neural network Optimization)는 Intel에서 개발한 AI 모델 최적화 및 추론을 가속화하는 오픈소스 툴킷이며, ONNX(Open Neural Network Exchange)는 AI 모델의 프레임워크 간 호환성을 제공하는 개방형 표준 형식을 말한다. 

OpenVINO와 ONNX는 정밀도에 따라 다시 3가지로 나뉘는데 각 정밀도는 AI 모델의 성능, 연산 속도, 메모리 사용량 등에 영향을 미친다. AI의 추론 속도를 보기 위해서는 ㉠Quantized(INT8)를, AI 훈련 정확도를 보기 위해 ㉡Single(FP32) 또는 ㉢Half(FP16)를 테스트하는 것.

◎ CPU Score

OpenVINO Toolkit과 ONNX Runtime 환경에서 동일 모델을 다양한 정밀도(INT8, FP16, FP32)로 추론한 결과, CPU 기반 AI 연산에서 OpenVINO가 전반적으로 ONNX를 크게 앞서는 모습을 보였다. 특히 Quantized(INT8) 환경에서는 OpenVINO가 12,425점을 기록하며 ONNX의 6,287점 대비 약 97.7% 높은 성능을 나타냈다. 이는 경량화된 AI 모델을 활용하는 엣지 컴퓨팅이나 실시간 응답이 중요한 환경에서 OpenVINO의 최적화가 얼마나 효과적인지를 잘 보여준다.

Half Precision(FP16) 테스트에서도 OpenVINO는 5,457점으로 ONNX(1,335점)에 비해 약 4배 이상의 성능 차이를 보였다. 부동소수점 연산 효율에서도 OpenVINO의 CPU 최적화가 뚜렷하게 작동하는 셈이다. Single Precision(FP32) 연산에서도 OpenVINO는 5,500점, ONNX는 3,850점을 기록하며 약 42.9%의 성능 격차를 유지했다. 이를 통해 정밀한 연산이 요구되는 고해상도 AI 워크로드에서도 OpenVINO가 안정적인 우위를 점하고 있음을 확인할 수 있다.

◎ DirectML Score 

DirectML은 GPU 가속 딥러닝을 지원하는 API다. 이를 이용하면 이미지 분류, 객체 탐지, 스타일 전환 등 AI 작업의 다양한 처리 성능을 평가할 수 있다. 점수가 높을수록 해당 하드웨어가 DirectML을 통해 AI 작업을 더 빠르고 효율적으로 처리할 수 있음을 의미한다.

ASUS TUF Gaming A18 FA808UP-S8017은 RTX 5070 GPU와 라이젠7(Zen4) 프로세서를 기반으로, ONNX + DirectML 환경에서 AI 연산 정밀도별 성능을 측정했을 때 확실한 구조적 강점을 드러낸다. Half Precision(FP16) 연산에서는 36,165점을 기록해, 이미지 생성·영상 변환·음성 합성과 같은 FP16 워크로드에서 압도적인 병렬 처리 효율을 입증했다.

Quantized(INT8) 연산에서는 15,652점을 보여, 전력 효율과 실시간 응답성이 중요한 엣지 AI나 경량화 모델 환경에서도 충분히 경쟁력 있는 수치를 기록했다. Single Precision(FP32) 성능은 19,803점으로, 고정밀 연산이 필요한 데이터 분석·시뮬레이션·고해상도 이미지 처리 작업에서도 안정적인 대응이 가능하다.

∴ Conclusion

ASUS TUF Gaming A18 FA808UP-S8017의 AI 벤치마크 결과를 종합하면, CPU 기반 연산에서는 OpenVINO가 ONNX 대비 뚜렷한 우위를 보였다. 특히 Quantized(INT8) 구간에서 16,200점대를 기록하며, ONNX CPU 점수(6,700점대)를 크게 상회했다. FP16과 FP32에서는 OpenVINO와 ONNX 모두 약 5,000점 수준으로 유사했지만, 절대 성능 측면에서는 OpenVINO가 CPU 최적화에 강점을 갖고 있음을 보여준다.

GPU 연산 부문에서는 차이가 더욱 두드러졌다. AMD Radeon 780은 DirectML 환경에서 FP16 9,048점, FP32 5,112점, INT8 3,696점을 기록하며 보급형 GPU 수준의 성능을 보였다. 반면 RTX 5070은 DirectML 환경에서 FP16 36,165점, FP32 19,803점, INT8 15,652점으로 압도적인 성능 격차를 입증했다. 특히 FP16 연산에서 3만 6천 점을 넘어서며, 대규모 이미지 생성·영상 변환과 같은 부동소수점 연산 중심 워크로드에서 확실한 성능 우위를 나타냈다.

종합하면, ASUS TUF Gaming A18은 CPU + OpenVINO 최적화 환경에서는 경량 추론 작업에 안정성을 확보하면서, RTX 5070 GPU 기반 DirectML 환경에서는 고성능 AI·그래픽 워크로드에 탁월한 퍼포먼스를 발휘한다. 즉, 이 제품은 CPU 효율성과 GPU 압도적 성능을 동시에 갖춘 하이브리드형 게이밍·AI 노트북으로 평가할 수 있다.

AI Benchmark LAB

by danawa

기획, 글 / 다나와 홍석표 hongdev@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com