AI 반도체 기업 딥엑스의 NPU 기술이 소형 컴퓨터 플랫폼 라즈베리 파이의 공식 뉴스룸에 소개됐다. NPU(신경망처리장치)는 AI 연산을 전담하도록 설계된 반도체다. 라즈베리 파이는 교육과 취미, 산업 현장에서 널리 활용되는 소형 컴퓨터 보드다.

라즈베리 파이는 딥엑스와 공식 디자인 파트너사 식스팹(Sixfab)이 작성한 기술 소개 글을 게재했다. 글은 딥엑스 NPU ‘DX-M1M’을 탑재한 라즈베리 파이 5용 AI 가속 보드 ‘식스팹 AI HAT+’로 인터넷 연결 없이 기기 안에서 AI를 실행하는 방법과 활용 사례를 설명했다. 라즈베리 파이는 로봇과 스마트 카메라, 산업용 장비 등 피지컬 AI 분야에서 딥엑스 NPU의 활용 가능성을 소개했다. 피지컬 AI는 로봇처럼 현실 공간에서 직접 움직이고 작동하는 AI다.

DX-M1M은 최대 25TOPS의 연산 성능을 제공하며, 지속 구동할 때 NPU 자체 소비전력은 약 3W다. TOPS는 1초에 처리하는 연산 횟수를 조 단위로 나타낸 AI 반도체 성능 지표다. 전력 소비와 발열이 낮아 소형 기기의 냉각 부담을 줄이고 AI 기능을 계속 실행하기 유리하다.

딥엑스 NPU는 영상 속 사물과 이상 징후를 탐지하는 영상 인식 AI와, 장면의 상황을 해석하는 소형 비전언어모델, 명령을 이해하거나 정보를 짧게 요약하는 소형 언어모델을 실행할 수 있다. 예를 들어 작업대의 카메라가 3D 프린터의 출력 오류를 감지하고, 해당 장면을 분석해 사용자에게 문제 상황을 설명하는 시스템을 구성할 수 있다. 기기 안에서 AI를 실행하면 외부로 보내는 데이터가 줄어 실시간 대응과 개인정보 보호에도 도움이 된다.

딥엑스는 AI 모델 변환·최적화 도구와 실행 소프트웨어, 영상 처리 도구, 미리 최적화한 AI 모델을 제공한다. 식스팹 AI HAT+와 엣지 AI 확장 보드, 산업용 AI 게이트웨이 ‘ALPON X5 AI’는 같은 딥엑스 실행 소프트웨어와 모델 형식을 사용해, 개발 보드에서 검증한 모델을 산업용 제품에 그대로 적용할 수 있다. 딥엑스는 라즈베리 파이와 바이두 패들패들, 울트라리틱스 등 글로벌 하드웨어·AI 소프트웨어 생태계와 모두 협력하는 국내 NPU 기업은 딥엑스뿐이라고 밝혔다.

딥엑스는 지난 6월 식스팹과 함께 식스팹 AI HAT+를 출시했다. 현재 25TOPS 제품을 판매하고 있으며, 13TOPS 제품은 올해 말 출시할 예정이다. 딥엑스 관계자는 라즈베리 파이에서 시작한 개발자의 실험이 세계 시장에서 판매되는 제품으로 이어지도록 반도체와 소프트웨어, 양산까지의 개발 환경을 지원하겠다고 말했다.

자세한 내용은 딥엑스에서 확인할 수 있다.

이미지 출처: 라즈베리 파이