[IT동아 남시현 기자] NPU(Neural Processing Unit)는 직역하면 신경망 처리 장치라는 뜻이다. 오늘날 인공지능(이하 AI) 개발에 필요한 연산은 부동소수점 연산에 특화된 GPU(Graphic Processing Unit)로 이뤄지는데, 범용성이 높지만 전력 효율이 낮고 유지 비용은 높은 게 단점이다. 이를 해결하기 위한 해결책이 NPU다. GPU가 당초 그래픽을 처리하기 위한 기능을 변칙적으로 쓰는 경우라면, NPU는 구조 자체가 AI 연산에 최적화된 전용 반도체다.
구글이나 오픈AI, 스태빌리티.ai 등 주요 AI 기업들도 장기적으로는 전용 AI 전용 반도체를 도입할 계획이다. 문제는 GPU의 하드웨어나 소프트웨어 생태계가 수십 년에 걸쳐 완성된 탓에 쉽게 대체하기가 어렵다는 데 있다. AI 반도체 개발 하는 기업 입장에서는 하드웨어 뿐만이 아니라 소프트웨어, 활용 사례 등의 생태계까지 GPU를 대체할 수 있다는 가능성을 보여주어야 한다.
지난 11월 25일, 퓨리오사AI가 국내 최초 NPU 활용 해커톤을 개최한 이유도 NPU 기반의 생태계를 조금이라도 더 알리기 위함이다. NPU 해커톤은 총 천 명이 넘는 예선 참가자가 경쟁한 끝에 40여 명의 본선 참가자가 합류해 진행하였으며, 국내 인공지능 업계 관련 종사자 및 엔지니어들이 직접 NPU를 활용함으로써 새로운 시장 가능성과 생태계를 제시하기 위해 개최됐다.
퓨리오사AI의 해커톤, 국내 AI 생태계에 새로운 도전과제 제시
퓨리오사AI 백준호 대표는 “퓨리오사AI는 NPU 위에서 강력한 AI들이 잘 구동되고, 지금보다 더 높은 전력 효율성을 제공하는 것을 목표로 하고 있다. 지금 이 자리에 모인 개발자분들이 NPU를 통해 새로운 기회를 만나고, 우리의 상상력을 더해 미래를 바꿀 AI 앱을 개발하도록 지원하려 한다. 이번 해커톤을 통해 새로운 인연과 즐거운 추억, 원하는 성과를 얻어가시길 바란다”라며 개회를 선포했다.
팀 빌딩은 프로덕트 매니저(이하 PM), 프론트앤드, 백앤드, AI 엔지니어로 각각 열명씩 40여 명의 참가자가 서로의 의견을 주고받으며 팀을 구축하는 과정이다. 20분의 짧은 시간이 주어졌지만 구성 인원 모두가 전문가인 만큼 빠르게 프로덕트 매니저의 구상을 듣고, 본인이 할 수 있는 임무인지 아닌지를 판단하고 팀을 구축했다.
가장 먼저 팀을 구성한 파이브가이즈 팀의 이성원 PM은 “영어 학습 프로덕트를 기본 주제로 하며, 시선 추적으로 학생들이 모르는 단어를 추출한 다음 수준별 학습을 제공하는 것을 목표로 한다. 아이디어에 동조한 분들이 빠르게 의사를 결정해 가장 먼저 팀을 구성할 수 있었다”라고 말했다.
비전 기반 NPU ‘워보이’로 과제··· 어떤 아이디어 나왔나?
퓨리오사AI의 1세대 반도체인 워보이는 컴퓨터 비전, 즉 시각적 처리에 특화된 하드웨어다. 따라서 어떤 주제든 나올 수 있는 GPU와 달리, 시각적 요소와 관련된 AI를 주제로 한다. 하드웨어 자원은 각 팀별로 워보이 NPU와 앨리스 클라우드가 각각 제공됐다.
아울러 참가자들은 사전에 퓨리오사AI에서 제공한 소프트웨어 개발 도구(SDK) 관련 교육을 이수했다. SDK는 서비스를 개발할 때 필요한 도구와 기능을 모은 키트로, 제조사의 역량에 따라 제공되지 않는 경우도 있다. 반면 퓨리오사AI는 SDK를 깃헙(Github) 등의 커뮤니티에 사전 제공하고 있고, 그에 따른 교육 체계 및 도구가 마련되어 이번 해커톤도 개최할 수 있었다.
아울러 NPU 관련 기술에 생소한 참가자들의 기술 수준을 고려해 각 팀당 1회씩 전문가의 멘토링 과정도 제공됐다. 개발하는 프로젝트는 △ 작업의 명확성과 일정의 치밀함을 따지는 기획성 △ 창의성 △ 전문 기술 △ 기술적, 미적 요소를 고려한 완성도 △ 개발한 프로덕트의 산출값 및 비용 절감 등을 고려하는 경제성 등을 중심으로 평가했다.
해커톤은 △ 미어캣 팀 △ 피부에양보해 팀 △ 파이브가이즈팀 △ 퓨리포터 팀 △ 페이버릿 팀 △ 저쩌다 모인팀 △ 플랜티 팀 △ 투피엠 팀 △ 신촌놈들 팀까지 총 아홉 개 팀이 총 36시간에 걸쳐 서비스를 만드는 것으로 경쟁을 했다.
실시간 블러 처리 만든 ‘퓨리포터’팀 우승·· 이외 세 팀 최우수상 수상
36시간에 걸친 경합 끝에 우승은 라이브 스트리밍에서 안면 인식 기술을 활용해 자동으로 사람 얼굴을 블러(모자이크) 처리하는 기술 ‘블러 AI’를 개발한 퓨리포터 팀에게 돌아갔다.
퓨리포터 팀은 프라이버시 침해는 물론 범죄 및 전쟁 현장 등의 트라우마를 야기할 수 있는 콘텐츠의 무분별한 확산을 막기 위해 블러 AI를 개발했다. 박희빈 PM은 “블러 AI를 활용한 블러 처리는 기존 서비스와 비교해 ⅓ 가량 저렴하고, 3200배까지 빠르다”는 점을 강조했고, 윤리성과 경제성을 동시에 만족해 높은 평가를 받았다.
퓨리포터 팀의 이동현 AI 엔지니어는 “모델 경량화 과정에서 석사 과정을 밟고 있고, NPU를 써본 것은 이번이 처음이다. 대회 전 받은 SDK 교육 등의 과정이 큰 도움이 되었다”라면서, “제작 과정에서 어려움이 있었지만 우선순위를 잘 조절해 위기를 넘길 수 있었고, 아침 해가 뜨는 순간까지 팀원들과 합을 맞춘 덕분에 블러 AI 개발을 완수할 수 있었다”라고 참여 소감을 밝혔다.
최우수상은 비전 인식을 기반으로 피부 진단 서비스 ‘퓨리오스킨’을 만든 피부에 양보해 팀과카셰어링 차량 대여 및 반납 시 파손 유무를 비전 인식으로 확인하는 서비스 ‘찰칵찰칵’을 만든 저쩌다 모인팀, 건물 상태 및 노후도 등을 분류하는 ‘블루라인 아키체크’를 만든 투피엠 팀에게 돌아갔으며, 안면 인식으로 어휘 학습을 보조하는 서비스를 만든 파이브가이즈팀과 표정, 분위기 등을 분석해 개인에게 맞는 색감을 추천하는 서비스를 구현한 페이버릿 팀은 각각 우수상을 수상했다.
우리에겐 작은 발걸음이지만, 인류에겐 큰 도약될 것
GPU 기반의 생성형AI는 기술의 발전에 기여하지만, 역으로 인류의 존폐 위기를 가속화하는 요인이다. 이미 챗GPT로 대화 한번 나누는 데 냉각수 500ml가 필요하다는 결과가 나왔고, 구글의 검색 엔진을 모두 생성형 AI로 대체할 경우, 매년 아일랜드만큼의 소비전력이 필요하다는 연구 결과가 나왔다. 이대로 가다간 생성형 AI가 전 지구적 재앙의 원인이 될 수밖에 없다.
NPU는 에너지 위기를 해결하고, 세상을 바꿀 힘을 가진 제품이다. 이제 막 시작하는 분야인 만큼 앞으로 어떻게 세상을 바꿀지 쉽게 예측하긴 어렵지만, 어떤 형태로든 AI 가속기가 GPU를 대체하고 지금의 에너지 위기를 해결해야 한다는 것에는 모든 이들이 공감하고 있다.
구형일 퓨리오사AI 알고리즘 팀 리더 겸 아주대 전자공학과 교수는 “이번 해커톤은 AI에 관심이 많은 개발자, 기획자들에게 NPU에 대한 저변을 넓히기 위해 기획되었고, 많은 분들이 지원하고 참석해 멋진 모습을 보여주었다”라고 취지를 밝혔다. 행사와 관련해서는 “다음 번에 해커톤을 진행한다면 해커톤 특유의 긴장감은 살리면서, AI 개발에 물리적으로 소요되는 시간까지 고려해보도록 하겠다”라는 뜻을 밝혔다.
전체 1천여 명의 지원자 중 40여 명이 참여한 가운데 진행된 이번 해커톤은 앞으로 NPU로 무엇을 할 수 있는지, NPU가 어떻게 세상을 바꿀 수 있는지 보여줄 수 있는 기회이자 자리가 되었다. 앞으로 이런 작은 시도들이 어떻게 세상을 바꿀지 지켜보자.
글 / IT동아 남시현 (sh@itdonga.com)
