최근 경험한 AI 기술들이요? Chat GPT에게 엉성한 질문을 던지면 탄탄하게 만들어주거나, 머릿속 이미지를 구체적으로 입력할수록 만족도 높은 그림을 그려주는 것, 그리고 유명인이 등장하는 딥페이크 영상과 얼굴 없는 렉카 유튜브 채널에 등장하는 AI 성우 정도가 아닐까요? 조금 더 고민해 보니 스마트폰 음성 비서, OTT 개인화 추천 시스템, 자동 사진 보정, 스마트 홈 기기 제어 등이 있을 것 같습니다. 그런데 PC 시장에선 이미 NPU라는 AI 특화 하드웨어를 선보여 세대교체가 이루어지고 있다고요? 아직 AI 컴퓨팅에 대한 개념이 잡히지 않은 저로선 혼란스러운데요, 저와 같은 분들을 위해 AI 컴퓨팅에 대해 총정리 하는 시간을 가져 볼까 합니다.

Q. NPU? 처음 들어봤어요...

NPU는 AI 연산을 효율적으로 처리하기 위해 설계된 특수 프로세서로, 기존의 CPU나 GPU보다 빠르고 효율적인 에너지 관리를 통해 AI 연산을 가능하게 합니다. 우리가 직접 느낄 수 있는 장점을 뽑자면 저전력 설계, 낮은 온도, 그리고 효율적인 연산으로 인한 빠른 반응속도 정도겠네요.

Q. CPU와 GPU로 AI연산은 불가능한건가요?

가능합니다! 하지만 CPU는 범용 프로세서로 다양한 연산 작업을 수행할 수 있으나 대량의 병렬 연산 작업에서는 효율이 떨어질 수 있습니다. 반면, GPU는 그래픽 연산에 특화된 프로세서로, 수천 개의 코어를 통해 병렬 연산을 처리하는 데 강점을 지닙니다. 이로 인해 AI 연산에서 GPU가 사용되어 왔으며, 앞으로도 사용될 것입니다. 아직까지는 이제 막 등장한 NPU보다는 뛰어난 것처럼 보입니다.

Q. NPU의 성능은 어떻게 평가하나요?

TOPS = 2 × MAC unit count × Frequency / 1 trillion

MAC unit count: NPU의 Multiply-Accumulate 유닛 수

Frequency: NPU의 클럭 주파수 (Hz)

NPU가 탑재된 노트북 성능을 평가할 때 흔히 사용되는 지표가 TOPS(Tera Operations Per Second)입니다. TOPS는 초당 수행할 수 있는 테라(조) 단위의 연산 횟수를 의미하며, NPU의 처리 능력을 나타냅니다. TOPS 수치가 높을수록 NPU의 연산 성능이 뛰어나며, 더 복잡하고 다양한 AI 작업을 처리할 수 있습니다. TOPS는 CPU와 GPU에 적용 가능해 단순 숫자 비교 또한 가능합니다.

Q. 작년에 구입한 PC로 AI 컴퓨팅, 가능할까요?

<출처: 엔비디아>

앞서 설명했듯이 지금 갖고 있는 스마트폰이나 PC, 노트북으로 AI 기술 사용이 가능합니다. 다만 AI 기술의 활용 범위가 넓어질수록 복잡한 연산이 필요하므로 지금 사용 중인 PC나 노트북이 조금씩 느려질 수밖에 없다는 것도 사실입니다. 사진과 같이 엔비디아 그래픽카드의 성능 옵션에 TOPS 점수를 표기해 해당 GPU의 AI 성능을 확인할 수 있습니다.

Q. NPU 탑재 PC와 일반 PC의 차이점은 무엇인가요?

▲ 클릭 시 해당 노트북을 비교할 수 있습니다.

결론부터 말하면 NPU PC는 AI 연산에 적합하고, 일반 PC는 범용 연산 작업에 더 적합합니다. 학습 능력을 갖춘 NPU는 방대한 데이터를 빠르게 처리하는 능력을 갖고 있어 이미지 보정, 실시간 음성 번역, 텍스트 생성 등의 대규모 데이터를 다룰 때 일반 PC 대비 속도와 효율성 면에서 장점이 있습니다.

Q. 지금 AI노트북을 구매해야 될까요?

코파일럿, ChatGPT, Photoshop, MS Word, Zoom, Slack

AI 노트북은 업무에 즉각 활용이 가능하다면, 좋은 선택지가 될 수 있습니다. ‘Adobe Photoshop’의 AI 기반 이미지 보정 기능으로 자동 수정을 더 빠르고 완벽에 가깝게 도와주고, ‘Microsoft Word’의 자동 문법 검사 및 제안 기능을 수월하게 할 수 있으며, ‘Zoom’을 통한 화상회의에서 실시간 배경 제거와 음성 인식 자막 기능을 적용해 퀄리티와 디테일을 향상시키고, ‘Slack’의 스마트 메시지 정리와 추천 기능을 통한 팀 간 소통을 원활하게 만들 수 있습니다.   

<출처: WIKIPEDIA>

이외에도 다양한 산업 및 의료 분야에서도 활발히 사용되는데요, 특히 ‘IBM Watson’은 방대한 양의 의료 데이터를 분석하여 진단과 치료 방법을 제안하기도 해 생명을 살릴 수 있는 좋은 선택지를 제공해 줍니다.

Q. 요즘 뜨는 AI 노트북은?

● 삼성전자 갤럭시북4 엣지16 NT960XMA-K01A (512GB) 1,849,000원

사무 및 인강용으로 적합한 노트북으로 16인치 WQXGA+ (2880x1800) 디스플레이와 120Hz 주사율을 제공하며, 퀄컴 스냅드래곤 X Elite CPU와 16GB LPDDR5x 램을 탑재했습니다. 배터리 용량은 61.8Wh로 최대 22시간 사용 가능하며, 노트북의 무게는 1.55kg, 두께는 12.3mm입니다. 

● ASUS 비보북 S 16 OLED S5606MA-MX090 (SSD 1TB) 1,399,000원

게임용 및 그래픽 작업용으로 적합한 노트북으로 16인치 WQHD+ (3200x2000) OLED 디스플레이와 120Hz 주사율을 제공하며, 인텔 코어 울트라7 155H CPU(4.8GHz, 16코어)와 16GB LPDDR5x 램을 탑재했습니다. 배터리 용량은 75Wh로, 노트북의 무게는 1.5kg, 두께는 15.9mm입니다. 

● HP 오멘 16-xf0052AX (SSD 512GB) 1,849,000원

게임용 및 그래픽 작업용으로 적합한 노트북으로 16.1인치 QHD(2560x1440) 디스플레이와 240Hz 주사율을 제공하며, AMD 라이젠7 7840HS (3.8GHz, 8코어) CPU와 16GB DDR5 램(5600MHz, 교체 가능)을 탑재했습니다. 그래픽은 NVIDIA RTX 4060 외장그래픽(VRAM 8GB, TGP 140W)를 사용합니다. 배터리 용량은 83Wh입니다. 노트북의 무게는 2.4kg, 두께는 23mm입니다.

● APPLE 2024 맥북에어 13 M3 8Core 10GPU 실버 (램 16GB, SSD 512GB) 1,938,300원

그래픽 작업, 사무, 인강 및 휴대용으로 적합한 노트북으로 macOS Sonoma 운영체제를 사용하며, 13.6인치 (2560x1664, 224ppi) 디스플레이와 500니트 밝기를 제공합니다. CPU는 애플 M3 옥타코어(4P+4E)이며, 16GB 램과 512GB SSD가 탑재되어 있습니다. 배터리 용량은 52.6Wh로 최대 18시간 사용 가능하며, 무게는 1.24kg, 두께는 11.3mm입니다. 팬리스 디자인을 갖고있습니다.

기획, 편집, 글 / 다나와 홍석표 hongdev@cowave.kr

(c) 비교하고 잘 사는, 다나와 www.danawa.com