오늘날 IT 업계의 여러가지 화두 중 대표적인 것을 꼽으라면 AI를 들 수 있다.

아마존 알렉사, 구글 어시스턴트, MS 코타나, 애플 시리, 삼성 빅스비를 통해 일상 속으로 접근을 시도한 AI는 OpenAI의 챗 GPT를 통해 일반인들의 지대한 관심을 유발하며 더 이상 전문가의 전유물이 아닌, 우리 일상 속에 자리하는 중이다.

포토샵이나 프리미어같은 유명한 컨텐츠 크리에이션 소프트웨어 자체적으로, 혹은 각종 플러그인 들이 AI를 도입해 창작자들의 편의와 시간 활용도를 높여주고 있다. 대표적으로 영상이나 이미지의 배경 날림이나 자연스러운 채우기, 복잡한 경계면의 마스킹 작업, 조건문을 이용한 창작물, 기존 창작물을 바탕으로한 리마스터 등의 작업을 들 수 있다.

여기에 이미지의 문자를 인삭해 번역하는 OCR 기능, 음성 인식 기술과 결합해 자동으로 자막을 형성하고 번역해주는 캡션 기능, 의료 분야의 환자 진단, 은행에서의 정상 거래 여부 판단 등 다양한 분야에서 AI가 활용되고 있다.

AI의 특성상 학습용 데이터가 필요한 만큼 학습 데이터의 저작권, AI 기능을 악용한 딥 페이크 영상과 음성 자료 등의 논란도 있지만, 복잡하고 번거로운 작업을 빠르게 처리할 수 있다는 장점을 앞세워 나날이 도입 영역이 확장되고 있다.

대표적으로 근래 PC 시장에서는 MS가 윈도우 11 24H2 버전의 주요 장점으로 다양한 AI 기능을 소개했다. 빠르게 특정 지점으로 돌아갈 수 있는 리콜, 실시간 자막 번역 기능, 자동 슈퍼 레졸루션, 프롬프트 입력을 통한 이미지 편집 기능은 'Restyle Image' 등, 별도로 구매하거나 구독하지 않고도 쓸 수 있는 범용 AI 기능이 일상 속으로 들어왔다.

일상화된 AI, 처리 장치는 어떤 것들이 있나?

일상화 중인 AI 기능을 위해서는 당연히 고성능 처리 장치가 필요하다.

당연히 범용 처리 장치인 CPU로도 가능하지만 CPU는 AI 연산 외에 시스템에서 요구하는 다른 작업들도 동시 수행해야 하기에 부하가 높아지는 만큼 썩 좋은 방법은 아니기에, 초기에는 병렬 연산에 최적화된 GPU가 AI 작업에 활용되었다.

그러나 원래 목적이 아닌 새로운 목적으로 전용하는 것이기에 CPU에 비해 성능에 미치는 영향력은 적지만 기본 성능에 마이너스인 점은 당연하다. 때문에 제온 파이와 같이 다수의 CPU를 병합한 확장 카드 방식을 거쳐 인텔 아크 그래픽에 탑재된 XMX(Xe Matrix eXtensions) 같은 AI 연산에 특화된 코어가 결합된 GPU, 가우디 시리즈와 같이 AI 전용 가속기가 등장하기에 이른다.

그러나 이들 모두 접근성 측면에서 좋은 평가를 내리기는 어렵다.

보드나라 독자같이 최신 트랜드의 고성능 시스템을 추구하는 커뮤니티 참여자는 착각하기 쉽지만, 2024년 1분기 JPR 조사 결과에서 전체 PC GPU 중 인텔의 점유율이 과반을 훌쩍 넘은 것은 아직도 절대 다수의 PC에 내장 그래픽만 쓰이고 있다는 의미다.

이런 내장 그래픽 사용자들이 과연 AI 때문에 외장 그래픽 카드에 눈독을 들일까? 제온 파이 같은 병렬 연산기나 가우디 류의 AI 전용 가속기를 개인이 구매할 가능성은 없다고 봐도 좋을 것이다.

AI 생태계 확장과 활성화를 위해서는 PC에 AI 연산을 담당하는 전용 프로세서, 오늘날 NPU(Neural Processing Unit)로 불리는 실리콘 통합 필요성이 높아졌고, 인텔은 메테오 레이크 CPU부터 CPU에 NPU 통합을 시작했다.

메테오 레이크에 통합된 NPU는 실리콘 면적 한계상 AI 엔진이 탑재된 그래픽 카드나 전용 가속기에 비해 절대 성능은 낮지만, CPU나 GPU의 AI 처리 부담을 경감해 보다 쾌적한 AI 경험을 가능케 해주며, 애로우 레이크에는 메테오 레이크에 쓰인 것과 동일한 성능의 NPU가 결합되었다.

애로우 레이크, 데스크탑 사용자에게 NPU를 허하라

PC에서 NPU의 필요성이 높은 것은 아무래도 모바일 플랫폼, 즉 노트북이다.

제품 설계시 배터리 시간과 발열을 무시할 수 없고, 컴포넌트 교체(업그레이드)가 제한적인 플랫폼 특성상 기본 성능이 데스크탑에 비해 낮기 때문이다. 인텔이 모바일 플랫폼인 메테오 레이크에 우선 NPU를 탑재한 것도 같은 맥락으로 이해할 수 있다.

그러나 메테오 레이크 출시 이후 AI를 활용하는 응용 프로그램과 기능이 확대되면서 데스크탑에도 NPU 탑재를 요구하는 목소리가 높아졌고, 그에 대한 인텔의 대답이 바로 애로우 레이크로 나타났다.

비록 데스크탑이 노트북보다 기본 성능이 뛰어난 편이기는 하지만, 그만큼 높은 사양이 요구되는 작업에 활용되는 것을 감안하면 AI 작업을 진행하는데 있어 NPU의 탑재는 분명한 이득으로 돌아온다.

인터넷 방송 같이 실시간 컨텐츠 제공이 중요한 작업을 할 때는 방송 송출이나 컨텐츠 작업에 동원되는 CPU와 GPU에 부차적인 작업 부하를 줄여 주는 것이 중요한데, NPU는 이러한 웹 캠 관련 조정을 전담할 수 있으며, 음악 및 영상 작업에서도 일부 워크로드를 전담해 전체적인 성능을 끌어올릴 수 있다.

OBS와 함께 대표적인 방송 SW 중 하나로 손꼽히는 XSplit의 웹캠 제어 툴인 VCam은 NPU를 활용할 경우 정확도 40% 개선, 게임 스트리밍시 CPU를 활용한 VCam의 배경 제거 모델과 비교했을 때 NPU는 약 13%(이전 배경 제거 모델)와 7.5%(NPU 최적화 모델) 높은 성능을 제공, 이때 CPU에 비해 NPU의 소비전력이 최대 60% 가량 줄어든다는 내용을 발표했다.

애로우 레이크에 통합된 NPU 성능이 MS 코파일럿+PC에서 요구되는 사양에 비해 낮은 것은 아쉬운 점으로 꼽을 수 있다. 그러나 아직 상당수 응용프로그램의 AI 작업이 서버단을 통해 구현되고 있고, 모바일 플랫폼에 비해 CPU 자체가 고성능을 발휘하는 데스크탑용인 점을 감안하면 특별히 단점으로 꼽을 내용은 아니라 판단된다.

인텔 애로우 레이크, AI PC 완성으로 기대되는 선순환

당장 VR 시장만 보아도, 아무리 좋고 편리한 기능이라도 실제 소비자가 활용하기에 제한이 있거나 그 반대의 경우 생태계가 건강하게 자리잡기 어렵다.

메테오 레이크를 시작으로 노트북 플랫폼에 이어 NPU가 통합된 애로우 레이크의 데스크탑 플랫폼 등장은, 외장 그래픽 카드 없는 PC 사용자를 포함한 전체 PC 플랫폼의 AI 지원을 위한 본격적인 PC 생태계 완성이라는 의미를 부여할 수 있다.

인텔은 이러한 AI 시대의 사용자 경험 강화를 위해 데스크탑 CPU 애로우 레이크에 NPU를 통합한데 이어, 300여 곳의 ISV(Independent Software Vendor)와 함께 지속적으로 AI 기능 개발에 나서고 있음을 전했다.

애로우 레이크에 탑재된 NPU의 성능은 메테오 레이크의 그것과 동일하고, MS 코파일럿+ PC의 기준을 충족하지 못하는 아쉬운 점도 있다.

그러나 NPU가 통합된 AI PC의 출하량이 1억대에 달할 것으로 전망되는 2025년에는 AI 기능도 400개 이상에 달하고, 이들의 NPU 지원 비율도 지속적으로 높아져 보다 많은 사용자들이 쾌적하게 AI 기능을 활용할 수 있을 것으로 기대된다.

그리고 노트북에 이어 인텔 애로우 레이크로 데스크탑까지 확장된 AI 플랫폼은 기존 기능에 대한 접근성을 높여주고, 이를 바탕으로 수요 확대, 새로운 영역으로의 확대로 이어지는 선순환의 가속화를 기대할 수 있을 것이다.