[이슈+] AI 핵심은 NPU, 인텔 코어 울트라2 NPU 써보니

2025.03.06. 10:40:51

9,544

관련상품: 인텔 코어 울트라7 시리즈2 265K (애로우레이크) (정품)

AI 기술이 확산되면서 프로세서의 역할이 근본적으로 변화하고 있다. 단순한 연산 성능만으로는 AI 관련 작업을 원활하게 처리하기 어려워졌으며, 이에 따라 NPU(Neural Processing Unit)가 중요한 연산 요소로 자리 잡았다. 이러한 흐름 속에서 코어 울트라2(Core Ultra 2)가 등장했다.

▲ 지금까지의 시피유는 코어 숫자를 중시했다. 하지만 앞으로의 시피유는 NPU 성능을 따져야 한다. 활용 방향이 달라졌기 때문이다.

기존의 CPU와 GPU 중심의 연산 구조에서 벗어나, NPU를 활용한 AI 가속을 본격적으로 지원하며, AI 연산을 전담하는 별도의 연산 엔진을 추가해 연산 분배와 성능 최적화를 실현했다. NPU 도입으로 시스템 전반의 연산 효율 향상 및 전력 소비 역시 대폭 줄어들었다. AI 작업이 필요한 환경에서 NPU가 독립적으로 동작하며, CPU와 GPU가 불필요한 부하를 줄이는 방식이다.

이러한 변화 덕분에 인텔 코어 울트라2 시피유의 온도는 매우 안정되어 있다. 풀로드 상태에서도 80도 미만의 온도를 유지하며, 이는 최근 5년 내 출시된 인텔 프로세서에서는 볼 수 없었던 수준이다. 기존 세대에서 수냉 쿨러 사용을 권장하던 점을 고려하면, 차별화된 특징이다.

1. 인텔 코어 울트라2, AI 시대를 위한 진화

인텔 코어 울트라(Core Ultra) 시리즈는 AI 연산을 가속화하기 위해 기존 x86 프로세서 구조에서 벗어나 NPU(Neural Processing Unit)를 추가한 것이 특징이다. 기존 CPU와 GPU가 담당하던 AI 연산을 NPU가 분담하면서 연산 효율성과 전력 소비 최적화를 동시에 달성했다.

코어 울트라2는 애로우 레이크(Arrow Lake) 아키텍처를 기반으로 설계된 2세대 AI 가속 프로세서로, 이전 메테오레이크(Meteor Lake) 대비 구조적인 개편과 최적화가 이루어졌다. 성능 코어(P-Core)와 효율 코어(E-Core)에 인텔 AI 부스트(Intel AI Boost) 기술을 기반으로 한 NPU 2.0이 적용됐다. NPU는 AI 연산을 전담하는 프로세싱 유닛으로, 기존 CPU 및 GPU가 처리하던 작업을 분산해 전력 소모를 줄이고 효율성을 높이는 역할을 한다.

코어 울트라2에 적용된 NPU 사양은

✔ NPU 2.0 아키텍처 기반
✔ 연산 성능: 47 TOPS(Tera Operations Per Second)
✔ 온디바이스 AI 최적화
✔ 전력 효율 강화, 기존 대비 2배 이상의 AI 성능 개선
✔ 음성 인식, 이미지 처리, 배경 제거 등 AI 가속 지원

등의 특징을 전 세대 대비 원활하게 처리한다.

◆ NPU란 무엇인가?

NPU(Neural Processing Unit)는 신경망 연산을 가속하기 위해 특화된 프로세서다. 기존 CPU나 GPU도 AI 연산을 처리할 수 있지만, CPU는 일반적인 연산 구조를 기반으로 하기 때문에 AI 작업에서 병목 현상이 발생하기 쉽고, GPU는 높은 연산 성능을 제공하지만 전력 소모가 크다. NPU는 이러한 한계를 해결하기 위해 행렬 연산 및 AI 추론(inference) 작업에 최적화된 구조를 갖추고 있으며, 동일한 AI 작업을 훨씬 적은 전력으로 빠르게 처리할 수 있다.

▲ NPU를 사용하는 소프트웨어를 가동되어야만 NPU가 반응한다.

예를 들어, AI 연산은 행렬 곱셈과 같은 대량의 연산을 포함하는데, NPU는 이를 병렬로 처리해 연산 속도를 극대화한다. 영상 편집 과정에서 AI가 배경을 분석하고 제거하는 기능을 실행할 때, CPU는 순차적으로 연산을 수행하지만, NPU는 여러 연산을 동시에 실행해 훨씬 빠르게 작업을 완료한다. 또한, NPU는 온디바이스 AI 처리를 지원해 네트워크 연결 없이도 AI 기능을 활용할 수 있다. 예를 들어, 기존에는 클라우드 기반으로 실행되던 AI 음성 비서 기능이 NPU를 활용하면 오프라인 환경에서도 동작할 수 있다.

NPU가 제공하는 주요 특징은 다음과 같다.

✔ AI 모델 최적화: 이미지 처리, 음성 인식, 자연어 처리(NLP) 등 AI 작업을 전담
✔ 전력 소모 감소: CPU, GPU 대비 낮은 전력으로 AI 연산 수행
✔ 온디바이스 AI 연산 가능: 클라우드가 아닌 로컬 환경에서도 AI 기능 활용

단, NPU가 효과적으로 작동하려면 애플리케이션이 이를 지원해야 한다. NPU는 AI 연산을 전담하는 특수 프로세서이므로, 이를 활용하려면 소프트웨어가 최적화되어 있어야 한다. 이를 위해 개발사들은 DirectML, ONNX Runtime, OpenVINO, TensorFlow Lite 등의 AI 가속 프레임워크를 활용해 NPU 연산을 지원하는 소프트웨어를 설계하고 있다. NPU가 탑재된 하드웨어를 사용하더라도, 애플리케이션이 이를 활용하지 못하면 NPU의 장점을 충분히 살릴 수 없다. 하지만 AI 기능이 점점 더 중요해지면서 주요 소프트웨어들이 NPU 지원을 확대하는 추세다.

▲ 다양한 프로그램에서 NPU 지원을 공식화 한 상태다. 경쟁사 대비 인텔 시피유만의 강점으로, 작업 효율을 개선하는 데 필수적인 부분이다.

실제 사용 환경에서 NPU가 제공하는 이점은 명확하다. 영상 편집 과정에서 AI 기반 배경 제거 기능을 실행할 경우, NPU가 이 작업을 전담하면 CPU와 GPU의 부담이 줄어들어 작업이 원활하게 진행된다. 기존 환경에서는 AI 기반 음성 인식을 수행할 때 CPU가 지속적으로 연산을 담당해야 하지만, NPU가 적용되면 이러한 작업이 실시간으로 이루어지면서 연산 효율이 개선된다. 이를 통해 회의 녹음에서 자동으로 자막을 생성하거나, 번역 프로그램이 더 빠르게 동작하는 등 사용자 경험이 향상된다.

◆ 테스트 환경
① CPU - INTEL Core Ultra 7 265K
② M/B - 애즈락(ASRock) Z890 Taichi
③ RAM - 마이크론 Crucial DDR5-6400 CL38 PRO Overclocking
④ SSD - 마이크론 크루셜 T705 Gen5 2TB NVMe SSD 대원씨티에스
⑤ VGA - option
⑥ 쿨러 - TRYX PANORAMA 3D 280 PRO 수냉 쿨러
⑦ 파워 - 마이크로닉스 Classic II 1050W ATX3.1 화이트
⑧ OS - Windows 11 Pro 23H2

▲코어 울트라 7 258V가 코어 울트라 7 265K보다 NPU 성능에서 더 높은 수치를 기록한 이유는 여러 가지 요인으로 설명할 수 있다. 가장 큰 차이는 아키텍처와 전력 설계 방식에 있다. 258V는 모바일 혹은 저전력 환경을 고려한 프로세서로, AI 가속 성능을 극대화하도록 설계되었을 가능성이 크다. 반면, 265K는 고성능 CPU 연산이 중요한 작업을 위한 모델로, NPU보다는 CPU 및 GPU의 성능에 초점을 맞추고 있다.

두 제품 간의 성능 차이는 반정밀도(FP16) 및 양자화된(INT8) 연산에서 더욱 두드러진다. 258V의 NPU는 AI 추론(Inference) 작업을 최적화하도록 설계되었으며, 이를 통해 Half-Precision과 Quantized 연산에서 뛰어난 성능을 보였다. 반면, 265K는 상대적으로 FP32(싱글 정밀도) 연산에 더 적합하도록 설계되어 있다.

또한, 전력 제한과 발열 제어 방식도 성능 차이에 영향을 미쳤다. 258V는 보다 효율적인 전력 관리를 통해 AI 연산에서의 지속적인 성능 유지를 목표로 한 반면, 265K는 CPU와 GPU의 고성능 유지에 초점을 맞추면서 NPU의 전력 소모를 일정 수준으로 제한했다.
결과적으로, 258V는 온디바이스 AI 연산을 중심으로 설계된 제품으로, NPU 활용도가 높은 환경에서 최적의 성능을 발휘할 수 있다. 반면, 265K는 고성능 컴퓨팅이 필요한 작업에서 강점을 보이지만, AI 연산에 특화된 환경에서는 노트북에 들어간 258V의 효율이 더 나을 수 있다. 차이는 제품의 포지셔닝에 따라 최적화 방향이 달른데 기인한다.

▲ NPU를 활용. 디자인 작업에 좀 더 처리 속도를 개선할 수 있다. 과거 PC는 처리과정에 시피유와 지피유에 많은 부하를 가한 반면, NPU가 있는 시피유는 한결 여유로운 작업 효율을 제공한다.

2. NPU가 변화시키는 컴퓨팅 진화의 종착지는?

NPU는 단순한 연산 가속 장치를 넘어, 컴퓨팅 환경의 패러다임을 변화시키는 요소다. 기존에는 CPU와 GPU가 모든 연산을 담당하며 AI 기능을 실행했지만, 연산 부하 증가와 전력 소모 문제로 인해 최적의 성능을 유지하기 어려웠다. 그러나 NPU가 도입되면서 AI 연산이 보다 효율적으로 분산 처리되며 사용자 경험이 향상되고 시스템의 에너지 효율이 극대화되는 환경이 조성되고 있다.

AI 기술이 발전하면서 NPU의 역할도 단순한 가속을 넘어 보다 능동적인 지원을 제공하는 방향으로 확대되고 있다. 예를 들어, NPU 기반 AI는 단순한 이미지 보정이나 음성 인식을 넘어, 작업 스타일을 분석하고 최적의 워크플로우를 제안하는 등 더 능동적인 생산성 지원을 가능하게 한다. 실시간 번역 기능이 보편화되면서 언어 장벽이 낮아지고, AI 기반 콘텐츠 생성 기술이 발전하면서 창작의 접근성이 확대될 가능성도 높다.

또한, NPU의 발전은 데이터 보안과 프라이버시 보호 측면에서도 중요한 역할을 하게 될 것이다. AI 연산이 클라우드가 아닌 로컬에서 처리될수록 외부로 전송되는 데이터의 양이 줄어들고, 보안성이 강화되는 효과를 기대할 수 있다. 이는 개인정보 보호가 중요한 환경에서 더욱 가치 있는 변화가 될 것이며, AI가 보다 안전한 방식으로 활용될 수 있도록 돕는 핵심적인 요소로 작용할 것이다.

변화는 단순히 특정 애플리케이션의 속도를 높이는 것에 그치지 않는다. NPU가 활성화된 시스템은 클라우드에 의존하지 않고도 AI 연산을 로컬에서 처리할 수 있으며, 이를 통해 AI 기술이 점점 더 자연스럽게 녹아든 환경으로 변화하고 있다. 이는 인간과 기술의 관계를 보다 유기적인 형태로 진화시키며, 사용자의 필요를 사전에 예측하고 최적의 솔루션을 제시하는 방향으로 발전할 가능성을 시사한다.

"미래의 컴퓨팅 환경은 AI가 단순히 사용자의 명령을 수행하는 것이 아니라, 필요를 예측하고 능동적으로 대응하는 방향으로 발전할 것이다. 이러한 과정에서 NPU는 변화를 주도하는 핵심 엔진이자, 인간의 생산성을 극대화하는 도구로서 더욱 중요한 역할을 하게 될 것이다. AI가 점차 일상 속에 깊이 자리 잡아가는 흐름 속에서, NPU는 컴퓨팅 환경을 보다 직관적이고 효율적으로 만드는 데 필수적인 요소로 명확해질 날이 가까워졌다."

[위클리포스트 주요 기사]

· RDNA 4 기반 RX 9070 & RX 9070 XT, 메인스트림 시장의 새로운 판을 짜다

· [쇼핑+] B850·B840 M-ATX 메인보드 삼파전, 애즈락 vs 에이수스 vs 기가바이트

· 빠르고 선명하며 오래 가는 AI 노트북, 에이서 스위프트 16 AI SF16-51-70J2 써보니

· DIY PC 조립, 더 저렴해진 인텔 밸류팩으로

· 싸이번, 감각적인 디자인의 PC 케이스 2종 출시