일단 기본 상태로 구동했어요.

external_image



external_image




AI Backend를 다이렉트ML로 바꾸고 다시 돌려봤어요.


external_image



external_image



한번 더 옵션수정하고 실행!

external_image


external_image


숫자 놀이는 재밌어요


낯선 단어가 많아서 겁나 공부했는데... 아직 잘 해석한 건지 확신은 들진 않지만 제 컴을 요래요래해요!!




전체 결과 요약

항목테스트 1 (ONNX)테스트 2 (CUDA)테스트 3 (OpenVINO)
CPU 점수282597495318
GPU 점수133295405300
총점456170297799
백엔드ONNX (CPU 중심)CUDA (GPU 중심)OpenVINO (최적 CPU)
GPUGTX 1080GTX 1080GTX 1080



테스트1 ONNX (CPU 중심 연산)

  • CPU 점수 2825 / GPU 점수 1332

  • 전체 AI 연산의 대부분을 CPU가 담당, 일부 GPU 지원

  • 스타일 전환, 객체 탐지 등에서 점수가 낮음

  • 적당한 수준의 추론 성능 (일반 사용자용)

요약 : CPU만으로 AI 작업을 할 때의 성능. GTX 1080이 충분히 활용되지 않음. 실사용 시 느릴 수 있음.


테스트2. OpenVINO (최적화된 CPU 추론)

  • CPU 점수 5318 / GPU 점수 5300

  • OpenVINO로 추론 최적화된 결과. CPU 활용 효율이 극대화됨.

  • 스타일 전환, 텍스트 분류 등 특정 작업에서 고득점

  • GPU는 활용 비율이 낮음

요약 : GPU 없이도 OpenVINO 최적화를 통해 AI 추론 성능이 두 배 이상 향상될 것.


테스트3. CUDA (GPU 연산 중심)

  • GPU 점수 9540 / CPU 점수 9749 (합산 총점은 낮지만 연산 성능은 매우 높음)

  • GTX 1080을 적극 활용한 벤치마크

  • 전체적으로 GPU를 활용한 AI 작업 시 최고 효율

요약 : 현재 시스템에서 AI 연산을 GPU로 돌릴 경우 가장 이상적인 형태. CUDA 백엔드 기준으로는 여전히 준수한 성능. (사실 1080을 쓴 게 벌써.. 하지만 아직 업글도 못했다은 거 ㅎㅎ)



세부 AI 작업별 성능 비교ONNX (CPU)CUDA (GPU)OpenVINO (최적 CPU)
Style Transfer10942417513487
Object Detection210634571741
Pose Estimation116848821889
Text Classification145725082661
Machine Translation237523392349







우리집 데스크톱에 대한 최종 결론~~~~~~~~~~

  • GTX 1080은 AI 추론용으로 여전히 실사용 가능, 특히 CUDA 환경에서.

  • OpenVINO로 CPU 기반 AI 작업 시에도 상당한 효율 가능.

  • AI 개발, 테스팅, 추론 기반 작업에는 현재 구성도 충분히 강력함.


히히 기쁘네요