[IT동아 강형석 기자] 엣지 인공지능(Edge AI)은 현장에 배치된 장비로 AI 데이터를 실시간 처리하는 개념이다. 자동차가 스스로 주행하거나 산업 환경 속 로봇이 부품을 조립하고 옮기는 등 주변 환경과 상호작용하는 게 대표적 사례다. 실시간 영상분석, 상황 모니터링 등에도 엣지 AI 기술이 쓰인다. 네트워크 연결이 필수인 생성형 AI와 달리, 엣지 AI는 스스로 상황을 인식한 후 판단과 행동을 직접 수행하기에 피지컬 AI 핵심 플랫폼으로 주목받는다.

엣지 AI가 부상한 배경에는 클라우드 AI의 한계가 자리한다. 네트워크를 통해 데이터를 주고받는 현행 AI 기술은 구조상 실시간 처리가 어렵다. 환경을 분석하고 결과를 받는 과정에서 수초 단위의 지연이 발생한다. 데이터 활용도 문제다. 여느 생성형 AI는 다양한 정보 처리에 능하지만, 특정 환경에서는 환각에 의한 오류를 범하기도 한다. 이런 오류는 기업에 치명적 손실을 안긴다.

엣지 장비의 한계를 극복하고 피지컬 AI 완성도를 높이기 위한 대안으로 '하이브리드 엣지 AI'를 제안하는 기업도 늘어나는 추세다. 빠른 처리가 필요한 소규모 매개변수 처리는 엣지 장비, 사용 빈도가 낮은 대규모 매개변수 처리는 클라우드를 활용하자는 것이다.

문제는 기술 발전 속도와 현장 도입 속도 사이의 간극이 크다는 점이다. 투자기업 베서머 벤처 파트너스(Bessemer Venture Partners)의 자료에 따르면, 로봇 산업은 향후 2년간 30억 달러 규모의 데이터 수집 비용이 필요하며 실험실과 현장 간 격차를 좁히는 일이 중요하다고 지적했다. 이렇게 빠르게 변화하는 피지컬 AI 기술을 제조 및 산업 환경에 어떻게 접목할지 고민하는 기업을 대상으로 다양한 솔루션을 제안하는 자리가 마련됐다.

2026년 5월 21일, 어드밴텍(Advantech)은 서울 GS강남타워(서울 강남구 소재)에서 '2026 어드밴텍 엣지 AI 솔루션 세미나'를 개최, 제조 및 산업 환경에 피지컬 AI를 어떻게 접목할 것인지 다뤘다. 세미나에서는 학습시킨 AI 모델을 어떻게 엣지 장비에 적용할지, 로봇이나 자동화 장비가 지연 없이 안전하게 작동 가능한 기술은 무엇인지 살펴봤다. 엣지 AI용 반도체 하드웨어와 소프트웨어 생태계 구축 방향을 논의하는 시간도 마련됐다.

빠르게 변화하는 엣지 AI 환경, 어드밴텍이 빈틈없이 채울 것

기조연설에 나선 최수혁 어드밴텍 부사장은 피지컬 AI가 맞닥뜨린 현실적 장벽과 하드웨어 생태계의 중요성을 강조했다. 그는 먼저 어드밴텍이 피지컬 AI와 엣지 AI를 논할 자격이 있는 기업인지부터 짚었다.

최수혁 부사장이 공개한 자료에 따르면 어드밴텍은 1983년 대만에서 설립된 산업용 컴퓨터 전문 기업이다. 2025년 기준, 약 40% 수준의 산업용 컴퓨터 시장 점유율을 토대로 4조 원 규모의 매출을 기록했다. 인텔, AMD, 엔비디아, NXP, 퀄컴 등 다양한 파트너와 협력해 하드웨어ㆍ소프트웨어 전반을 아우르는 엣지 AI 컴퓨팅 솔루션도 개발 중이다. 산업 현장에서 축적한 경험과 파트너 네트워크를 바탕으로 피지컬 AI 시대를 열어갈 충분한 자격과 역량을 스스로 증명한 셈이다.

설명을 이어간 최수혁 부사장은 산업계의 AI 트렌드가 세 번의 큰 변곡점을 거쳤다고 말했다. 2018년부터 클라우드 중심의 거대 언어 모델 훈련이 주를 이뤘다면, 2020년대 이후에는 방대한 모델들을 가볍게 최적화해 현장 내 엣지 장비로 배포하는 추론 중심의 혁신으로 발전한 것이다. 최적화된 엣지 AI 인프라는 물리적 행동을 구현하는 피지컬 AI 시대로 이어졌다고 봤다.

중요한 점은 피지컬 AI 기술보다 산업적 가치 창출이다. 최수혁 부사장은 "대중의 관심이 휴머노이드 로봇에 쏠리고 있지만, 산업적 가치 창출을 위해서는 자율이동로봇(AMR)이나 협동 로봇, 인더스트리얼 로봇 시장에서의 지배력을 먼저 확보해야 한다"고 설명했다.

현장에 엣지 AI를 도입할 때 기업들이 맞닥뜨리는 세 가지 진입 장벽에 대해서도 언급됐다. 먼저 공장이나 산업 현장에서 쏟아지는 데이터의 종류가 다양하고 방대하다는 점을 꼽았다. 진동, 온도, 시각 등 성격이 제각각인 데이터를 실시간으로 수집·처리해 머신러닝의 재료로 삼는 과정은 결코 만만치 않아, 체계적인 데이터 정제 절차가 선행돼야 한다는 입장이다.

두 번째는 기기 간 통신 규격이 파편화된 부분이다. 프로피넷(Profinet), 이더넷 IP, 모드버스(Modbus) 등 제각각인 규격을 하나로 묶어 연동하기까지 상당한 기술적 난이도가 따른다는 이야기다. 마지막은 적절한 컴퓨팅 파워를 선택하는 과정의 어려움이다. AI 도입을 결심하더라도 몇 테라플롭스(TOPS)의 연산력이 필요한지, 발열량은 어느 정도까지 허용할 수 있는지 판단하기가 어렵다. 성능이 뛰어난 대형 서버 장비에서 소프트웨어를 짠 탓에 정작 현장에 투입할 소형 장비에서는 구동조차 불가능해지는 난감한 사례가 빈번하게 발생한다는 점도 지적했다.

최수혁 부사장은 세 가지 어려움을 해결하기 위한 방안으로 '하이브리드 AI 솔루션'을 제안했다. "어드밴텍 혼자서 모든 난제를 해결할 수 없다"고 말한 그는, 기초적인 하드웨어 플랫폼을 어드밴텍이 제공하고 부족한 부분은 파트너 생태계 안에서 구축하는 게 피지컬 AI 구현의 단초가 될 것이라 덧붙였다. 아울러 어드밴텍의 폭넓은 파트너 협력 생태계를 통해 고객의 공백을 촘촘히 채우는 하이브리드 솔루션을 제공하겠다는 포부도 밝혔다.

엔비디아, 젯슨 플랫폼은 엣지 AI와 오픈소스 결합이 가능합니다

이어 연단에 오른 송민수 엔비디아 수석 개발관계 매니저(Senior Developer Relations Manager)는 오픈소스 AI 모델과 결합한 엣지 AI의 무한한 잠재력을 주제로 발표에 나섰다. 그는 로봇 산업의 변화 지점을 짚으며 엔비디아의 엣지 AI 플랫폼도 함께 소개했다.

과거 로봇은 사전에 정해진 동작과 경로를 따르는 룰 기반(Rule-Based) 방식이 전부였다. 그런데 생성형 AI가 등장하면서 로봇에 거는 기대가 달라졌다. 물체를 집어 옮기는 픽앤플레이스(Pick and Place)에서 복합적인 명령을 이해하고 주변 환경을 인지하며, 상황에 맞게 판단하는 '법령적 시스템'으로 진화한 것이다.

송민수 매니저는 피지컬 AI에서 가장 중요한 게 '실시간 추론'이라는 점을 언급했다. 어떤 모델이 얼마나 똑똑한가가 아니라, 그 모델을 현장에서 얼마나 낮은 지연(Latency)으로 구동 가능한지가 피지컬 AI의 핵심이라는 이야기다. 휴머노이드 로봇은 사물 인식과 동작 결정, 모터 제어에 이르는 모든 과정이 실시간으로 이루어져야 한다. 그런 점에서 클라우드 API 호출 방식은 적합하지 않다는 점도 지적했다.

엔비디아가 피지컬 AI 생태계를 구축하는 방식도 설명했다. 엔비디아는 초기 AI 모델 학습에 필요한 DGX 서버를 시작으로, 디지털 트윈 기반 시뮬레이션 플랫폼인 옴니버스(Omniverse)를 활용해 모델의 완성도를 끌어올린다. 훈련을 마친 모델이 실제 행동 수행에 필요한 런타임(Runtime) 컴퓨터를 구축하는 구조로 완성된다. 런타임 컴퓨터가 엣지 AI인 셈이다.

엔비디아는 엣지 AI 구축에 필요한 플랫폼으로 젯슨(Jetson)을 제안한다. 그중 젯슨 토르(Jetson Thor)는 블랙웰(Blackwell) 기반으로 FP4 기준 2070 테라플롭스(초당 1조회 부동소수점 연산) 성능을 갖춘 고성능 장비다. 이전 세대 대비 AI 컴퓨팅 성능 7.5배, CPU 성능 3배가 향상됐다는 게 송민수 매니저의 설명이다.

송민수 매니저는 젯슨 플랫폼의 이점을 다뤘다. 핵심은 소프트웨어 생태계다. 엔비디아가 구축한 전용 운영체제, 쿠다(CUDA) AI 컴퓨팅 레이어, 아이작(Isaac) 혹은 로봇 구동 시스템(ROS) 기반 AI 프레임워크, 애플리케이션 서비스, 디지털 트윈 기술인 옴니버스 등과 유기적으로 연결돼 있다는 것이다. 소프트웨어 생태계가 이미 마련된 만큼, 젯슨을 선택하면 처음부터 모든 것을 구축할 필요가 없다는 점도 언급했다. 다만 엔비디아 생태계에 지나치게 의존하면 향후 자체 엣지 AI를 구축할 때 걸림돌이 될 수 있다는 점도 빠뜨리지 않았다.

디든로보틱스, 돌발 상황에 대처하려면 ‘하이브리드 엣지’ 필요해

연단에 오른 권순표 디든로보틱스 최고기술책임자(CTO)는 조선소에서 피지컬 AI가 어떻게 구현되는지 구체적으로 다뤘다. 디든로보틱스는 스타트업임에도 사족 보행 로봇과 휴머노이드 로봇의 하드웨어부터 소프트웨어 제어 기술까지 전부 자체 개발하는 '풀스택' 기술력을 과시해 주목받았다. 무엇보다 범용 휴머노이드 시장에서 정면 승부하지 않는 대신, 조선ㆍ정유화학ㆍ발전소 등 사람의 접근이 까다로운 특수 환경을 겨냥한 전략이 눈에 띄었다.

권순표 CTO는 선박 제조 환경의 혹독함을 언급했다. 거대한 철판이 미로처럼 얽힌 비좁은 공간에 사람이 직접 기어들어가 매캐한 연기를 마시며 용접하는 게 일상인 환경이다. 뙤약볕이 내리쬐는 한여름에 두꺼운 보호 장구까지 겹겹이 착용하고 웅크린 자세를 몇 시간씩 유지하는 일도 비일비재하다.

선박 제조 업계는 전문 용접 인력 8000명이 필요한 현장에 고작 34명만 지원할 정도로 극심한 구인난을 겪는다. 이 난제에 맞서기 위해 디든로보틱스가 꺼내든 카드가 거미를 닮은 사족 보행 로봇, 디든(DIDEN) 30이다.

디든 30은 고성능 구동기(액추에이터), 전자 영구 자석(EPM) 발 모듈, 고전류 제어 전장 시스템 등 다양한 하드웨어를 사용한다. 복잡한 선박 내부를 이동하며 용접하려면 지형지물을 인식하는 과정도 필수다. 디든로보틱스는 지형지물 정보가 부족한 선박 내부에서 위치를 잃지 않도록 산업 현장에 구비된 캐드(CAD) 설계 도면을 직접 활용하는 초정밀 위치 추적 방식을 도입했다. 권순표 CTO는 "삼성중공업과의 공동개발을 통해 건조 중인 선박 블록에서 론지(선박 내 단차) 극복, 승월(벽타기) 테스트, 용접 작업까지 성공적으로 수행했다"고 말했다.

권순표 CTO는 예기치 못한 돌발 상황에 유연하게 대처하기 위해 엣지 단말기와 거대 클라우드를 혼합한 '하이브리드 엣지' 구조가 반드시 뒷받침되어야 한다고 강조했다. 섬세한 보행 제어와 시각 정보 처리 능력을 정밀하게 끌어올리려면 클라우드와 엣지 AI를 함께 운용하는 방식이 불가피하다는 의미다.

딥엑스, 피지컬 AI의 경쟁력은 저전력ㆍ저발열 NPU

박영섭 딥엑스(DeepX) 전략 마케팅 이사는 '현장에 내려온 지능 : 피지컬 AI 시대의 개막'을 주제로 강연에 나섰다. 그는 먼저 생성형 AI와 피지컬 AI의 근본적 차이를 다뤘다. 발표 자료에 따르면 생성형 AI는 텍스트와 이미지 출력이 가능하다. 지연 허용이 초 단위인 데다, 답이 마음에 들지 않으면 다시 요청하면 그만이다. 반면, 피지컬 AI는 출력이 행동과 제어로 이뤄진다. 지연 허용이 밀리초(ms) 단위인 데다, 한 번의 실패가 안전 사고나 생산 라인 중단으로 직결된다.

박영섭 이사는 "피지컬 AI의 실패는 '다시 해보세요'가 통하지 않는다"는 점을 거듭 강조했다. 텍스트나 그림을 뽑아내는 생성형 AI는 기다림이 허용되지만, 기계의 물리적 행동을 관장하는 피지컬 AI는 단 0.1초의 지연도 허용할 수 없음을 뜻한다.

따라서 산업 현장의 복잡한 요구를 충족하려면 지연 시간 최소화, 전력 소모 절감, 도입 비용 감축이라는 세 마리 토끼를 단숨에 잡아야 한다. 딥엑스가 제안한 것은 독자 설계한 신경망 처리장치(NPU)다. 딥엑스의 NPU, DX-M1은 초당 600매 이미지를 처리할 정도의 실력을 갖췄다. 소비 전력은 5W 정도로 낮다. 박영섭 이사는 "버터도 녹이지 않을 정도의 온도로 AI 추론이 가능한 칩"이라고 설명했다.

고객 도입 사례도 소개했다. 현대자동차는 배송 로봇 달이에 DX-M1을 탑재하기로 했다. 중국 바이두는 광학문자인식(OCR) 솔루션에 DX-M1을 활용한다. 기존 엔비디아 솔루션으로 개발하다 전력·비용 문제를 이유로 딥엑스를 선택한 과정도 솔직하게 털어놨다.

엔비디아 생태계와의 호환성 전략도 다뤘다. 피지컬 AI 기업 대부분은 엔비디아 아이작 플랫폼으로 개발을 진행한다. 문제는 새로운 플랫폼으로 전환할 때 최적화 비용이 추가로 소요된다는 점이다. 딥엑스는 이 간극을 좁히기 위해 DX 뉴턴(Newton)을 개발했다. 아이작 기반 코드 일부만 수정하면 딥엑스 NPU에서 가속 동작이 가능하도록 설계됐다. 박영섭 이사는 2026년 내로 17개 이상 아이작 라이브러리 호환이 가능하도록 개발할 계획이라고 밝혔다.

2세대 칩 DX-M2 소개도 이어졌다. DX-M1이 비전 분석에 특화됐다면, DX-M2는 1000억 개 매개변수(파라미터)를 처리하는 대형 언어·비전 모델 지원 칩이다. 삼성 파운드리를 통해 2나노 공정으로 제작되며, 초당 20~30토큰 성능을 낸다. 전력 소모는 이전 세대와 동일한 수준인 5W 미만을 구현한다는 게 목표다. 2027년 상반기 샘플 제공, 2027년 하반기 양산 예정이다. 박영섭 이사는 "딥엑스는 반도체를 파는 회사가 아니라, 피지컬 AI 레이어를 담당하는 인프라 회사로 성장할 것"이라고 말했다.

IT동아 강형석 기자 (redbk@itdonga.com)