글로벌 피지컬 AI 전문기업 시마AI(SiMa.ai)가 저전력 환경에서 AI 모델의 처리 성능을 대폭 높이고 자율 시스템 개발 효율을 개선하는 소프트웨어 업데이트 ‘팔레트 3.0(Palette 3.0)’을 공개했다. 이번 업데이트는 AI 모델의 초당 토큰 처리량(TPS)을 최대 3.5배 높이는 동시에 드론과 로봇에 필요한 다중 모델 동시 실행, 센서 융합, 디지털 트윈 시뮬레이션 기능을 강화한 것이 특징이다.
팔레트 3.0은 시마AI가 지난 6월 발표한 에이전틱 팔레트(Agentic Palette) 소프트웨어를 기반으로 개발됐다. 피지컬 AI 환경에서 요구되는 실시간 추론과 다양한 AI 모델의 동시 처리를 지원하며, 제한된 전력과 메모리 환경에서도 높은 연산 효율을 구현하도록 설계됐다.
특히 기존 데이터센터용 AI 기술을 피지컬 AI 환경에 맞게 조정하는 접근 방식과 달리, 시마AI는 물리적 환경에서 작동하는 AI의 요구사항에 특화된 소프트웨어와 반도체를 개발하고 있다. 이를 통해 하드웨어를 교체하지 않고도 소프트웨어 업데이트만으로 AI 모델의 실행 성능과 활용 범위를 확대하는 데 초점을 맞췄다.

단일 칩에서 LLM·VLM 동시 실행… 저전력 AI 처리 최적화
팔레트 3.0의 주요 개선 사항 중 하나는 다중 모델 동시 실행 성능이다. 시마AI의 모달릭스(Modalix) MLSoC 단일 칩에서 복잡한 AI 추론 작업과 여러 AI 모델을 동시에 실행할 수 있도록 소프트웨어를 최적화했다.
칩 내에서 별도의 도커(Docker) 컨테이너를 실행하는 방식도 지원해 다양한 AI 워크로드를 효율적으로 처리할 수 있도록 했다. 이를 통해 전력 소비와 메모리 사용량에 엄격한 제약이 있는 환경에서도 대규모 언어 모델(LLM)과 비전-언어 모델(VLM)을 비롯한 여러 AI 모델을 함께 구동할 수 있다.
이러한 기능은 주변 환경을 인식하고 상황을 판단하며 실제 동작을 수행해야 하는 피지컬 AI 시스템에서 활용될 수 있다. 드론이나 자율 로봇처럼 여러 AI 모델의 결과를 종합해 작동하는 시스템에서는 개별 모델의 처리 성능뿐 아니라 다중 모델을 동시에 실행하는 능력도 중요하기 때문이다.
시마AI는 팔레트 3.0을 통해 저전력 특성을 유지하면서 복잡한 AI 워크로드를 처리할 수 있도록 지원하고, 실제 환경에서 요구되는 와트당 성능을 지속적으로 높인다는 방침이다.
드론·로봇의 인지·깊이·추론 성능 강화… 디지털 트윈도 지원
드론과 로보틱스 분야에 특화된 AI 모델의 처리 성능도 개선됐다. 팔레트 3.0은 자율 시스템의 작동에 필요한 인지, 깊이 추정, 추론 모델의 처리 속도를 높여 주변 환경을 분석하고 판단하는 AI 기능의 실행 효율을 강화했다.
시마AI는 생태계 파트너와의 협력을 통해 통합 센서 융합 기능과 고밀도 신경망 기반 깊이 필드(Dense Neural Depth Fields), 폐쇄 루프(Closed-Loop) 디지털 트윈 시뮬레이션 기능도 추가했다.
센서 융합은 서로 다른 센서에서 수집한 정보를 통합해 주변 환경을 인식하는 기술이며, 깊이 필드는 공간의 거리와 구조를 표현하는 데 활용된다. 폐쇄 루프 디지털 트윈 시뮬레이션은 가상 환경에서 AI 시스템의 판단과 동작 결과를 다시 시스템에 반영해 동작을 검증할 수 있도록 지원한다.
시마AI는 이러한 기능을 통해 자율 시스템 개발 과정에서 발생하는 통합 및 검증 작업의 병목 현상을 줄이고, 드론과 로봇 개발에 필요한 소프트웨어 구성 요소의 연계를 강화할 수 있다고 설명했다.
팔레트 3.0의 주요 AI 모델별 처리 성능과 벤치마크 결과는 시마AI의 ‘모델 브라우저(Model Browser)’에서 확인할 수 있다. 회사 측에 따르면 모든 성능은 실제 운영 환경의 전력 제약 조건을 고려해 측정됐다.
추측 디코딩 기술 적용… 생성형 AI 토큰 처리량 최대 3.5배 높여
생성형 AI 애플리케이션을 위한 성능 최적화와 오픈소스 지원도 확대됐다.
시마AI는 팔레트 3.0에 EAGLE3, DFlash, Gemma 4 MTP 등 최신 추측 디코딩(Speculative Decoding) 알고리즘을 적용했다. 추측 디코딩은 AI 모델이 생성할 토큰을 미리 예측하고 검증하는 방식으로, 텍스트 생성 과정에서 발생하는 처리 지연을 줄이는 데 활용되는 기술이다.
시마AI에 따르면 이번 최적화를 통해 저전력 환경에서도 AI 모델의 초당 토큰 처리량을 최대 3.5배 높일 수 있다. 이는 제한된 전력으로 생성형 AI 모델을 구동해야 하는 피지컬 AI 시스템에서 추론 처리 효율을 높이는 데 초점을 맞춘 개선이다.
대규모 전문가 혼합(Mixture-of-Experts, MoE) 모델에 대한 지원도 강화됐다. 오픈AI(OpenAI)의 GPT-OSS-20B와 같은 200억 매개변수 규모의 모델을 모달릭스 MLSoC 기반 16GB 시스템 온 모듈(SoM)에서 실행할 수 있도록 지원한다.
전문가 혼합 모델은 여러 전문가 네트워크 가운데 입력에 필요한 일부를 선택적으로 활성화하는 구조다. 시마AI는 이러한 모델을 제한된 메모리와 전력 환경에서 실행할 수 있도록 소프트웨어를 최적화해 피지컬 AI 장치에서 활용할 수 있는 생성형 AI 모델의 범위를 넓혔다.
또한 개발자가 자유롭게 수정할 수 있는 오픈소스 코드를 제공해 다양한 생성형 AI 애플리케이션을 개발하고 최적화할 수 있도록 지원한다.
소프트웨어 진화 속도에 맞춘 하드웨어 활용성 확대
시마AI는 이번 업데이트가 피지컬 AI 개발 과정에서 나타나는 소프트웨어와 하드웨어의 기술 발전 속도 차이를 줄이기 위한 전략의 일환이라고 설명했다.
AI 소프트웨어와 모델은 빠르게 발전하고 있지만, 새로운 반도체를 설계하고 개발하는 데는 상대적으로 긴 시간이 필요하다. 시마AI는 소프트웨어 최적화를 통해 기존 하드웨어의 성능과 활용 범위를 지속적으로 확대하는 방식으로 이러한 문제에 대응하고 있다.
팔레트 3.0은 개발 기간을 수개월에서 수일 또는 수시간으로 단축하도록 지원하는 기존 에이전틱 팔레트의 개발 환경을 기반으로 한다. 여기에 다중 모델 실행 최적화와 생성형 AI 성능 향상, 자율 시스템을 위한 신규 기능을 추가해 개발 효율을 높였다.
크리슈나 랑가사이(Krishna Rangasayee) 시마AI 창립자 겸 최고경영자(CEO)는 “오늘날 피지컬 AI의 근본적인 병목 현상은 매월 진화하는 소프트웨어와 이에 대응하는 데 수년이 걸리는 기존 실리콘 하드웨어 간의 뚜렷한 격차에서 비롯된다”며 “시마AI는 이러한 악순환을 끊고 있다”고 말했다.
이어 “업계 최초 에이전틱 팔레트에 이은 팔레트 3.0은 ‘소프트웨어의 발전 속도에 발맞추는 하드웨어’라는 시마AI의 핵심 비전을 실현한다”며 “모든 피지컬 AI 모델에서 뛰어난 와트당 성능을 지속 극대화해 고객이 현재의 하드웨어에서도 미래의 획기적 기능을 구현할 수 있도록 지원하고, 완전 자율 시스템의 개발 로드맵을 근본적으로 바꾸고 있다”고 강조했다.
시마AI는 앞으로도 피지컬 AI에 특화된 소프트웨어와 실리콘 기술을 기반으로 드론, 로보틱스 등 자율 시스템에서 요구되는 저전력 AI 추론 성능과 개발 효율을 강화해 나간다는 방침이다.
이준문 기자/jun@newstap.co.kr
ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지
[뉴스탭 인기 기사]
· MSI 창립 40주년 맞아 RTX 5080 그래픽카드 쏜다…12월 14일까지 감사제 진행
· “닭다리만 통째로 즐긴다” 푸라닭 치킨, 쿼터레그 신메뉴 3종 추가 출시
· 인스파이어서 신한카드 쓰면 더 특별해진다…숙박·워터파크·다이닝 혜택 확대
· 조텍 RTX 5080 화이트 그래픽카드, 고급 쿨러까지 묶어 293만 원대 특가
· 7천 명이 여의도를 달렸다…유니세프·카카오뱅크, 기후위기 어린이 위해 3억 5천만 원 기부

