퍼플렉시티가 엔비디아와 함께 이용자 기기에서 직접 도는 AI 에이전트 ‘포터블 컴퓨터’를 현지 시각 8월 25일 공개했다. 올해 2월 선보인 에이전트 플랫폼 ‘퍼플렉시티 컴퓨터’를 로컬 실행에 맞춰 다듬은 제품이다.

클라우드를 거치지 않으므로 크레딧이 소모되지 않는다. 크레딧은 모델을 쓴 만큼 차감되는 사용량 단위인데, 모델이 이용자 기기에서 돌면 이 비용이 발생하지 않는다.

실행 환경은 엔비디아 DGX 스파크다. 그레이스 블랙웰 GB10 플랫폼을 기반으로 20코어 Arm CPU와 GPU, 128GB 통합 메모리를 갖춘 책상 크기 AI 컴퓨터다. 엔비디아 RTX GPU를 갖춘 PC 지원은 뒤이어 제공한다.

기본 제공 모델은 알리바바의 큐원 3.8 27B와 이를 사후 학습한 PPLX 27B 두 가지다. 사후 학습은 이미 만들어진 모델을 특정 용도에 맞게 추가로 훈련하는 과정을 말한다. 엔비디아가 공개한 300억 매개변수 오픈 모델 네모트론 3.5 라이트닝도 모델 선택지에 추가할 계획이다.

구글 드라이브와 지메일, 슬랙, 깃허브 커넥터를 지원해 개인 문서와 메일, 메신저, 코드 저장소를 연결할 수 있다. 받아쓰기도 기기에서 처리해 음성이 클라우드로 넘어가지 않는다.

기기에서 감당하기 어려운 작업은 클라우드의 프런티어 모델로 넘길 수 있다. 프런티어 모델은 성능 최전선에 있는 초대형 모델을 말한다. 다만 데이터를 클라우드로 보내기 전에 앱이 이용자에게 동의를 구한다.

포터블 컴퓨터는 프로와 맥스 구독자가 DGX 스파크에서 쓸 수 있다. 첫 배포는 리눅스이며 윈도우 지원은 뒤이어 제공한다.

자세한 내용은 퍼플렉시티에서 확인할 수 있다.

이미지 출처: 퍼플렉시티