안녕하세요?
맥북에서 실제로 어느 정도의 AI 연산 성능이 나오는지 궁금해
Geekbench AI 벤치마크 툴을 통해 직접 테스트를 진행했습니다.

Apple은 자체 칩셋에 Neural Engine(뉴럴엔진)이라는 AI 전용 연산 유닛을 탑재하고 있으며,
이는 macOS와 iOS 전반에 걸쳐 사진 분류, 음성 인식, 얼굴 인식 등 다양한 머신러닝 작업에 활용됩니다.

이번 테스트에서는 CoreML 프레임워크 기반으로 CPU,GPU,Neural Engine 세 가지 백엔드 성능을 비교해 보았습니다.

사용한 벤치마크 프로그램
Geekbench AI 1.3.0 for macOS AArch64

장비 사진

테스트 장비 상세 사양

모델명 : MacBook Pro (2023, 14")
CPU : Apple M2 Pro (10코어 - Performance 6 + Efficiency 4)
RAM : 16GB
OS : macOS 15.5 (Build 24F74)

Geekbench AI 벤치마크 결과 선 요약

Half Precision, Quantized 기준,

Neural Engine이 GPU 대비 각각 2.2배, 2.9배의 성능을 기록했습니다.

*참고 : 정밀도별 연산 방식

- Single Precision (Float32): 가장 정확하지만 느림

- Half Precision (Float16): 속도와 정확도 균형

- Quantized (INT8): 가장 빠르고 가볍지만 약간의 정확도 손실 가능

느낀 점과 맥북의 장점

Neural Engine은 단순한 보조 유닛이 아니라, 실제로 GPU보다 빠르고 효율적인 AI 추론 전용 프로세서라는 점입니다.

일반 Windows 노트북은 GPU가 전담하지만, 맥북은 CPU + GPU + Neural Engine 3중 구조로 설계되어 소음, 발열 없이도 빠른 AI 연산이 가능합니다.

특히 배터리 사용 중 실시간 AI 처리에 매우 유리하고, macOS 전반의 AI 기능들이 자연스럽게 뉴럴엔진을 활용하고 있습니다.

총평

이번 벤치마크를 통해 느낀 점은 Apple의 Neural Engine이 생각보다 훨씬 강력하다는 것이었습니다. 특히 Quantized Precision(8비트 정수 연산) 기준에서는 같은 칩셋의 GPU보다도 2~3배 이상 빠른 처리 속도를 보여주며, 실시간 AI 추론 작업에 최적화된 하드웨어라는 인상을 받았습니다.

일반적인 Windows 노트북에서는 GPU가 대부분 AI 연산을 전담하게 되는데, 맥북은 CPU / GPU 외에 Neural Engine이라는 전용 AI 유닛이 별도로 존재한다는 점이 가장 큰 차별점입니다.

이 덕분에 배터리 사용 중에도 빠르고 안정적인 AI 연산이 가능하고, 소음, 발열 없이도 머신러닝 작업을 부드럽게 처리할 수 있습니다.

특히 실시간 음성 인식, 이미지 분류, 키보드 자동완성 등 macOS 전반에 퍼진 AI 기능들이 뉴럴 엔진을 통해 가볍고 빠르게 작동하는 것을 보면, 단순 벤치 점수를 넘어선 사용자 체감 성능까지 이어진다고 느꼈습니다.

따라서, AI 관련 직종에 종사하시는 분들께는 휴대용 맥북이 좋은 선택지가 될 수 있다고 생각합니다.

다만, Neural Engine은 Core ML 프레임워크에서만 활용 가능하다는 제한이 있습니다. 즉, PyTorch, TensorFlow 같은 범용 AI 프레임워크에서는 직접 사용할 수 없고, macOS 생태계 밖에서는 사실상 활용이 불가능하다는 점이 아쉽습니다.

긴 벤치마크 읽어주셔서 감사합니다!

벤치마크 결과 캡처 (CPU,GPU,Neural Engine 순)