딥엑스, DX-M1 및 DX-H1으로 반도체 대전 집중

기업대 기업 비즈니스 중심인 행사에서 AI 하드웨어 기업 딥엑스(DeepX)는 ‘버터 벤치마크’라는 독특한 방식으로 자사 반도체 소개에 나섰다. 행사에 앞서 딥엑스는 올해 1월 미국 소비자가전박람회(CES)를 시작으로, 2월 스페인 모바일 월드 콩그레스(MWC), 6월 대만 시큐텍 타이베이 및 컴퓨텍스, 9월에는 미국 AI 하드웨어 서밋과 10월 미국 임베디드 월드 등 자사 제품을 알릴 수 있는 전시 행사는 모두 참가해왔다. 주로 해외에서의 인지도를 키우고 있으나, 반도체 대전 2024을 통해 국내에도 제품을 소개한다.

딥엑스 부스에는 M.2 2280 형태의 AI 반도체 DX-M1과 고성능 데이터센터용 반도체 DX-H1을 주력으로 전시된다. DX-M1은 메모리 모듈 사이즈의 칩에 25 TOPS(초당 25조 회 연산) 성능의 NPU(신경망 처리 장치)를 탑재한 제품으로, ResNET, MobileNet, YOLOv5, v7, Deeplabv3, PIDnet 등 다양한 AI 모델을 처리한다. 현장에서는 DX-M1과 라즈베리파이를 연결해 AI 카메라로 사람의 안면 인식으로 신분을 인증하는 시스템, 피사체의 안전 영역을 인식해 보호하는 로봇 플랫폼, CCTV 등과 연결한 영상을 실시간 프롬프트로 전환하는 AI 기술이 시연됐다.

DX-H1 데이터 서버용 NPU는 최대 400 TOPS 수준의 성능을 발휘한다. 현장에는 대만의 IT 인프라 기업 케이투스(KAYTUS), 그리고 DX-H1을 탑재한 HP Z 시리즈 워크스테이션도 함께 전시됐다. 또한 DX-H1 기반 시스템이 한 번에 100 채널 CCTV의 영상을 실시간으로 AI 분석하는 시연도 진행됐다.

체온에 녹는 버터, 반도체 칩 위에선 어떨까?

방문객의 이목을 끄는 특별한 이벤트는 딥엑스의 ‘버터 벤치마크’다. 버터는 제품에 따라 녹는점이 28도에서 40도 사이로 열에 약하다. 한편 반도체는 전기에 대한 저항 작용으로 인해 작동 시 열이 발생하고, 이를 냉각시키며 써야 한다. 이 때문에 데이터센터의 소비전력 절반은 냉각 장치에 쓰이며, 온도를 낮추면서도 성능은 확보하는 것이 최대 과제로 꼽힌다. 딥엑스의 버터 벤치마크는 DX-M1의 작동 온도가 그만큼 낮고, 작업 효율은 AI 모델을 구동할 수준임을 보여준다.

김녹원 대표는 “당초 제품은 14나노미터(nm)로 기획됐으나, 삼성파운드리에서 먼저 5nm 제조를 제안해 작년 7월에 제품 샘플이 나왔다. 초도 제품으로도 와트당 성능은 세계 1위지만, 1년간 설계를 심화해 와트당 성능을 더 끌어올렸다. YOLO 5S AI 모델을 30프레임으로 처리하면 온도가 약 35.5도를 유지하고, 체온과 녹는점이 비슷한 버터로 그만큼 온도가 낮다는 것을 보여주기 위해 기획했다”라고 답했다.

온도를 낮추고자 동작 속도가 느린 건 아닌가 싶었지만 “가벼운 작업에서 35도고, 최대 작업에서는 70도까지 오른다. 경쟁사 제품은 이미 60도 선이고, 최대 작업 시 115도까지 상승한다”라고 답했다. 즉 사용 조건에 따라서 DX-M1의 성능을 더 확보할 수 있고, 1채널 수준의 적당한 사용 조건에서 35도를 안정적으로 유지한다. 실제 활용에서는 쿨링팬이 필요 없어 제품 크기 및 구조를 간소화할 수 있고, 온도가 낮으니 그만큼 내구성 면에서도 유리하다.

딥엑스의 사업은 주로 B2B 분야인데, 대중을 설득하기에 좋은 테스트를 기획한 이유는 왜일까? 김녹원 대표는 “인텔이 제품을 설명할 때 인텔 인사이드를 말하듯, 우리 역시 난해한 AI 반도체를 쉽게 설명할 필요가 있다. 최근 월마트가 우리 제품에 관심을 가지는데, 월마트는 반도체 전문 기업이 아니다. 이들을 설득하기 위해서는 일반인도 이해할 수 있도록 설명해야 하고, 버터 벤치마크가 이런 조건에 부합한다. 대중이 이해할 수 없다면 고객도 이해할 수 없다”라고 답했다.

성과에 한층 다가서는 딥엑스, 앞으로의 방향은?

도입 사례는 세계 1위 카메라 시스템 기업인 하이크비전은 물론 텐센트, 알리바바, 바이두, 클라우드 및 IT 전문 기업들이 찾고 있다. 서버 시장에서도 케이투스, HP, 슈퍼마이크로, 델, 레노버 등의 기업과 협업하며 인벤텍, 어드밴텍 등 공장 자동화 솔루션 및 임베디드 기업과도 프로젝트를 진행한다. LG유플러스나 포스코 등 국내 대기업과도 협업 중이다. 글로벌 반도체 제조사인 NXP, 텍사스인스트루먼트는 논의가 진행 중이라고 말했다.

딥엑스의 내년 목표는 제품 양산 완성, 그리고, 2세대 제품의 성공적 개발이다. 그는 “첫 해 양산된 제품은 전체 물량의 약 10%고, 1년 정도 현장 테스트를 거친 뒤에 전체 물량을 납품한다. 내년에는 10곳에서 20곳까지 우리 제품을 완전 양산으로 인도받을 것 같고, 그러면 3년 안에 회사 수익도 다섯 배 이상 늘 것이다”라면서, “또 내년에는 대형언어모델(LLM)을 구동하는 2세대 제품도 샘플링할 예정이다. DX-M1과 동일하게 M.2 2280 사이즈로 출시되며, 초당 20개에서 30개의 단어를 처리할 수 있다. 사람이 읽는 속도보다 빠른 수준”라고 말했다

반도체 대전 2024는 오는 25일까지 개최되며, 전시 행사 이외에도 반도체 양산성능 평가 TECH-DAY, 기업투자유치 설명회, 반도체 IR 콘퍼런스 등의 인사이트 존 세미나 등이 마련된다. 딥엑스의 버터 벤치마크는 코엑스 D홀 127번 부스에서 매 시간 정각에 볼 수 있다.

글 / IT동아 남시현 (sh@itdonga.com)