피지컬 AI용 반도체, 소프트웨어 기업 시마AI(SiMa.ai)가 자사 칩에서 피지컬 AI 모델을 실행하는 소프트웨어 ‘팔레트 3.0(Palette 3.0)’을 공개했다고 18일 밝혔다. 피지컬 AI는 드론, 로봇처럼 현실 세계에서 움직이는 기계를 제어하는 AI다. 팔레트 3.0은 시마AI가 6월 발표한 ‘에이전틱 팔레트’ 소프트웨어를 바탕으로 한다.
팔레트 3.0은 시마AI의 AI 칩 ‘모달릭스(Modalix)’ MLSoC 하나에서 여러 AI 모델을 동시에 실행하도록 지원한다. MLSoC는 머신러닝 연산 장치와 프로세서를 칩 하나에 통합한 시스템 반도체다. 칩 안에서 별도의 도커(Docker) 컨테이너를 실행하는 방식도 지원해, 전력과 메모리가 제한된 기기에서도 대규모 언어 모델(LLM)과 이미지와 글을 함께 이해하는 비전-언어 모델(VLM)을 함께 실행할 수 있다. 도커는 프로그램과 실행 조건을 묶어 다른 기기에서도 같은 방식으로 실행하게 하는 도구다.
시마AI는 최신 추측 디코딩(Speculative Decoding) 알고리즘인 EAGLE3, DFlash, 젬마 4 MTP를 적용해 전력 소모가 적은 조건에서도 모델의 초당 토큰 처리량(TPS)을 최대 3.5배로 높였다고 밝혔다. 추측 디코딩은 작은 모델이나 보조 장치가 다음 토큰 여러 개를 미리 예측하고, 본 모델이 이를 한꺼번에 검증해 생성 속도를 높이는 기법이다. 오픈AI의 GPT-OSS-20B처럼 매개변수가 많은 전문가 혼합(MoE) 모델도 모달릭스 기반 16GB 시스템 온 모듈(SoM)에서 실행할 수 있다. 시마AI는 이 기능들을 오픈소스로 제공한다.
드론과 로봇 작동에 필요한 인지, 깊이 추정, 추론 모델의 처리 속도도 높였다. 시마AI는 생태계 파트너와 함께 센서 융합, 고밀도 신경망 기반 깊이 필드(Dense Neural Depth Fields), 폐쇄 루프 디지털 트윈 시뮬레이션 기능을 추가했다. 센서 융합은 카메라, 라이다 같은 여러 센서의 데이터를 합쳐 주변을 인식하는 기술이고, 디지털 트윈은 실제 기기를 가상 공간에 똑같이 구현해 시험하는 기술이다. 시마AI는 이 기능들이 자율 시스템 개발 과정의 통합, 검증 시간을 줄인다고 설명했다. 모델별 성능은 시마AI의 ‘모델 브라우저’에서 확인할 수 있으며, 실제 전력 제약 조건을 반영해 측정했다.
크리슈나 랑가사이 시마AI 창립자 겸 최고경영자(CEO)는 “오늘날 피지컬 AI의 근본적인 병목 현상은 매월 진화하는 소프트웨어와 이에 대응하는 데 수년이 걸리는 기존 실리콘 하드웨어 간의 격차에서 비롯된다”고 말했다.
시마AI는 미국 태평양시간 기준 12월 2일 ‘팔레트 3.0 집중 탐구’, 12월 8일 드론, 로봇 개발 속도를 주제로 한 웨비나를 진행한다. 경쟁사 제품과의 성능 비교 자료는 시마AI에 별도로 문의해 받을 수 있다.
자세한 내용은 시마AI에서 확인할 수 있다.
이미지 출처: 시마AI
AI Matters 뉴스레터 구독하기




쌀