비교하고 잘 사는, 다나와 : 가격비교 사이트

다나와 앱
다나와 앱 서비스 목록
다나와 APP
다나와 가격비교 No.1 가격비교사이트 다나와 앱으로
간편하게 최저가를 확인하세요.
- -
QR코드
빈 이미지
다나와 앱 서비스 목록 닫기

세레브라스, AMD GPU와 나눠 처리하는 추론 공개…전력당 5배

2026.11.19. 12:04:29
조회 수
61

공유하기

레이어 닫기

지금 보는 페이지가 마음에 든다면
공유하기를 통해 지인에게 소개해 주세요.

로그인 유저에게는 공유 활동에 따라
다나와 포인트가 지급됩니다.

자세히 >

URL이 복사되었습니다.
원하는 곳에 붙여넣기(Ctrl+V)하세요.

레이어 닫기

AI 반도체 기업 세레브라스가 AI 추론 작업을 GPU와 자사 시스템에 나눠 맡기는 ‘분리 추론(disaggregated inference)’ 서비스를 현지 시각 11월 17일 공식 블로그를 통해 공개했다. 질문(프롬프트)을 읽고 처리하는 ‘프리필’ 단계는 GPU가, 답변 토큰을 차례로 생성하는 ‘디코드’ 단계는 세레브라스 시스템이 맡는다. 프리필은 입력 전체를 한꺼번에 계산하는 단계이고, 디코드는 답변 토큰을 하나씩 순서대로 생성하는 단계다. 세레브라스는 이 방식이 기존과 같은 초고속 생성 속도에서 메가와트당 5배 많은 토큰을 처리한다고 밝혔다.

세레브라스에 따르면, 실제 서비스 배치에서는 AMD 인스팅트 GPU가 프롬프트를 처리하고 세레브라스 CS-3 시스템이 답변을 생성했다. 이 구성은 CS-3만 쓴 구성보다 메가와트당 처리량이 5배 높았고, 토큰 생성 속도는 떨어지지 않았다. 처리량 비교는 11월 14일 공유된 오픈AI의 공개 가중치 모델 GPT-OSS-120B 엔드포인트를 기준으로 했다. CS-3는 웨이퍼 한 장을 칩 하나로 쓰는 세레브라스의 웨이퍼 스케일 엔진 기반 시스템이다.

세레브라스는 프리필과 디코드를 모두 세레브라스가 관리하는 통합 방식과, 디코드만 세레브라스 시스템에 맡기는 개발 도구(SDK) 방식을 함께 제공한다. 프리필과 디코드 사이의 중간 계산 결과(KV 캐시)는 ‘KV 포털’ 기술을 이용해 고속 네트워크 전송 방식(RDMA)으로 전달한다. KV 캐시는 모델이 앞서 계산한 값을 저장해 두는 데이터로, 디코드 단계에서 다시 활용된다. 고객은 기존 GPU 설비를 유지하면서 디코드 작업만 세레브라스 시스템에 배정할 수 있다.

세레브라스는 2027년 말까지 자사 추론 클라우드와 협력사 배치를 합쳐 수백 메가와트 규모로 분리 추론을 확대할 계획이다. 초기 이용 협력사로는 아마존웹서비스(AWS), AI 모델 추론 클라우드 기업 파이어웍스 AI, 김릿 랩스, 제너럴 컴퓨트가 참여한다. 세레브라스는 분리 추론을 자사 추론 클라우드 고객과 협력사의 자체 데이터센터 배치에 모두 적용할 계획이라고 설명했다.

자세한 내용은 세레브라스에서 확인할 수 있다.

이미지 출처: 세레브라스




AI Matters 뉴스레터 구독하기

공감/비공감

공감/비공감안내도움말 보기
유용하고 재미있는 정보인가요?
공감이 된다면 공감 버튼을, 그렇지 않다면 비공감 버튼을 눌러 주세요!
공감이나 비공감을 선택 하는 경우 다나와 포인트를 적립해 드립니다. ※ 공감 버튼의 총 선택 횟수는 전체 공개입니다. 비공감 버튼의 선택 여부는 선택한 본인만 알 수 있습니다.
최신 일반뉴스 전체 둘러보기
4/1
발스 시험서 AI 모델, ‘게임’ 설정에 민간인 표적 지정 AI matters
앤트로픽, IPO 공모가 주당 11만 611원…희망가 웃돌아 AI matters
엔비디아, 삼성전기, 킨서스와 기판 공급 계약 확대 AI matters
세레브라스, AMD GPU와 나눠 처리하는 추론 공개…전력당 5배 AI matters
MS 이그나이트 신기능 215개 중 76개 정식 출시…오피스 워치 집계 AI matters
MS 에이전트 프레임워크에 비밀 키 빼내는 악성 버전 2개 배포 AI matters
엔비디아, 중국 H200 판매 중단…크레스 CEO 대행 발표 AI matters
'롬, 서비스 천일 기념 이벤트 진행 게임동아
[순정남] 이곳은 지스타가 아닙니다. 수칙서를 따르십시오 게임메카
기아, 첫 전기차 등장 40주년 맞아… 1986년 베스타 EV부터 PV5까지 글로벌오토뉴스
일론 머스크, 트럼프 대표단 일원으로 중국 선전 APEC 참석… 현지 FSD 전면 도입·내수 부진 돌파구 모색 글로벌오토뉴스
테슬라, 핸들·페달 없는 자율주행 모델Y 구상 공개… 6~7인승 수요 겨냥 글로벌오토뉴스
혼다, 미국 앨라배마 공장에 4억6,200만 달러 투자… 하이브리드 엔진 라인 신설 글로벌오토뉴스
GM, 2028년까지 북미 공장 자동화 20% 확대… 인건비·리쇼어링 비용 대응 글로벌오토뉴스
몬스터 헌터 라이즈, 넷플릭스 모바일로 24일 출시된다 (1) 게임메카
델타 포스 효과, 텐센트 3분기 中 게임 매출 11% 증가 게임메카
10초 만에 따뜻해지는 히터부터 카본매트까지… 난방·습도 관리 위한 겨울가전 3종 뉴스탭
AMD, AI 추론 반도체 기업 탈라스 인수 완료…차세대 AI 가속기 경쟁력 강화 뉴스탭
홍치, 유럽 현지 생산 파트너십 검토… 스텔란티스 등 다수 업체와 논의 글로벌오토뉴스
아우디, 순환경제 전담 자회사 ‘아우디 서큘러 솔루션즈’ 설립 글로벌오토뉴스
이 시간 HOT 댓글!
1/4