일단 기본 상태로 구동했어요.
AI Backend를 다이렉트ML로 바꾸고 다시 돌려봤어요.
한번 더 옵션수정하고 실행!
숫자 놀이는 재밌어요
낯선 단어가 많아서 겁나 공부했는데... 아직 잘 해석한 건지 확신은 들진 않지만 제 컴을 요래요래해요!!
전체 결과 요약
항목 | 테스트 1 (ONNX) | 테스트 2 (CUDA) | 테스트 3 (OpenVINO) |
CPU 점수 | 2825 | 9749 | 5318 |
GPU 점수 | 1332 | 9540 | 5300 |
총점 | 4561 | 7029 | 7799 |
백엔드 | ONNX (CPU 중심) | CUDA (GPU 중심) | OpenVINO (최적 CPU) |
GPU | GTX 1080 | GTX 1080 | GTX 1080 |
테스트1 ONNX (CPU 중심 연산)
-
CPU 점수 2825 / GPU 점수 1332
-
전체 AI 연산의 대부분을 CPU가 담당, 일부 GPU 지원
-
스타일 전환, 객체 탐지 등에서 점수가 낮음
-
적당한 수준의 추론 성능 (일반 사용자용)
요약 : CPU만으로 AI 작업을 할 때의 성능. GTX 1080이 충분히 활용되지 않음. 실사용 시 느릴 수 있음.
테스트2. OpenVINO (최적화된 CPU 추론)
-
CPU 점수 5318 / GPU 점수 5300
-
OpenVINO로 추론 최적화된 결과. CPU 활용 효율이 극대화됨.
-
스타일 전환, 텍스트 분류 등 특정 작업에서 고득점
-
GPU는 활용 비율이 낮음
요약 : GPU 없이도 OpenVINO 최적화를 통해 AI 추론 성능이 두 배 이상 향상될 것.
테스트3. CUDA (GPU 연산 중심)
-
GPU 점수 9540 / CPU 점수 9749 (합산 총점은 낮지만 연산 성능은 매우 높음)
-
GTX 1080을 적극 활용한 벤치마크
-
전체적으로 GPU를 활용한 AI 작업 시 최고 효율
요약 : 현재 시스템에서 AI 연산을 GPU로 돌릴 경우 가장 이상적인 형태. CUDA 백엔드 기준으로는 여전히 준수한 성능. (사실 1080을 쓴 게 벌써.. 하지만 아직 업글도 못했다은 거 ㅎㅎ)
세부 AI 작업별 성능 비교 | ONNX (CPU) | CUDA (GPU) | OpenVINO (최적 CPU) |
Style Transfer | 1094 | 24175 | 13487 |
Object Detection | 2106 | 3457 | 1741 |
Pose Estimation | 1168 | 4882 | 1889 |
Text Classification | 1457 | 2508 | 2661 |
Machine Translation | 2375 | 2339 | 2349 |
우리집 데스크톱에 대한 최종 결론~~~~~~~~~~
-
GTX 1080은 AI 추론용으로 여전히 실사용 가능, 특히 CUDA 환경에서.
-
OpenVINO로 CPU 기반 AI 작업 시에도 상당한 효율 가능.
-
AI 개발, 테스팅, 추론 기반 작업에는 현재 구성도 충분히 강력함.
히히 기쁘네요