[IT동아 강형석 기자] 인공지능 기술은 하드웨어 시장 흐름을 바꿨다. 그래픽 처리장치(GPU), 신경망 처리장치(TPU) 등 인공지능 가속기 수요가 증가한 게 그 예다. 인공지능 모델 훈련과 추론 과정에서 방대한 데이터 처리를 요구하기 때문이다. 시장조사기관 가트너는 2025년 전 세계 인공지능 기업의 투자 지출이 1조 5000억 달러(약 2157조 9000억 원), 2026년에는 2조 달러(약 2877조 9000억 원)를 돌파할 것으로 전망했다.

하이퍼스케일러(대형 데이터 센터 구축 및 서비스 기업)와 인공지능 서비스 기업 등이 데이터 센터 인프라 확대에 천문학적 비용을 쏟아붓지만, 수요가 특정 기업에 집중됐다는 이야기도 나온다. 실제 엔비디아, AMD, 인텔 등 인공지능 가속기 개발 기업 3사의 2025년 2분기 데이터 센터 매출은 482억 달러(약 69조 1574억 원)다. 이 중 엔비디아가 411억 달러(약 58조 9785억 원)로 전체 85%를 차지한다. 장비가 특정 기업에 몰리면서 부작용이 따른다. 장비 수요는 증가 추세지만 공급이 따라잡지 못한다. 이는 비용 상승과 생태계 고착으로 이어진다.

이런 배경 속에서 메타가 2011년 제안한 오픈 컴퓨트 프로젝트(OCP – Open Compute Project)가 주목받는다. OCP는 서버, 저장장치, 네트워크 장비 설계 표준을 공개해 누구나 활용하도록 만든 개방형 하드웨어 표준이다.

OCP는 IT 기업 약 400여 사가 참여할 정도로 큰 커뮤니티다. 2025년 2월 기준 ▲ARM ▲메타 ▲IBM ▲인텔 ▲구글 ▲마이크로소프트 ▲엔비디아 ▲시스코 ▲델 ▲HPE ▲알리바바 등 글로벌 IT 기업들이 회원사로 활동한다. 회원사는 매년 데이터 센터 장비 설계와 업계 모범 사례를 공유한다.

효율 찾아 모여든 IT 기업들

OCP는 비용 절감, 효율성, 유연함과 확장성 등 장점이 따른다. 표준화된 설계로 맞춤형 장비 대비 개발 비용이 줄고, 공급업체 가격 비교가 가능하다. 엔비디아는 OCP를 적용한 차세대 컴퓨팅 인프라가 기존 데이터 센터 대비 최대 24% 비용 절감 및 에너지 효율 28% 개선 효과가 있다고 분석했다.

한계도 분명하다. OCP 장비는 완제품 형태가 아니라, 기업 스스로 통합하고 운영해야 하는 부담이 따른다. 설계 사양은 공개됐지만 장비를 조립하고 펌웨어를 설정하며 소프트웨어를 최적화하는 과정에서 전문 인력이 필요하다. 이는 비용 부담으로 이어진다. 호환성 문제도 무시할 수 없다. OCP 표준을 따르더라도 제조사마다 세부 구현 방식이 달라 예상치 못한 오류가 발생할 가능성이 높다.

그럼에도 하이퍼스케일러 및 데이터 센터 운영사들이 OCP를 선호하는 결정적 이유는 특정 제조사 종속 환경에서 자유롭기 때문이다. 현재 데이터 센터용 장비는 특정 제조사 생태계에 종속되는 구조다. 예로 블랙웰 플랫폼은 인공지능 가속기부터 네트워크 장비 등 모두 엔비디아가 개발한 것을 써야 한다. 외부 개발사의 연산 장치를 섞어 쓰는 건 불가능하다. 하지만 OCP 플랫폼을 따른다면 엔비디아, AMD, 인텔의 가속기를 혼합해 운영하거나 성능이 뛰어난 장비만 모아 운영하는 등 선택지가 확대된다.

글로벌 IT 기업, OCP 기반 기술과 장비 공개

2025년 10월, 미국 산호세에서 열린 'OCP 글로벌 서밋 2025'에서는 엔비디아, 슈퍼마이크로. 메타 등 인공지능 기업이 OCP 규격을 만족하는 신제품을 공개했다.

메타는 차세대 인공지능 훈련 플랫폼 구축을 위한 네트워크 패브릭 기술을 발표했다. 모든 네트워크 구성 요소를 완전히 분리한 '분산 스케줄 패브릭(DSF – Disaggregated Scheduled Fabric)' 아키텍처를 확장해 인공지능 가속기를 최대 1만 8432개까지 연결한다. 인공지능 가속기를 직물처럼 촘촘히 엮어 연산 성능을 높이려는 시도다.

슈퍼마이크로는 차세대 입출력 모듈 규격(AIOM – Advanced Input-Output Module) 확장 슬롯을 탑재한 고성능 다중 그래픽 처리장치(GPU) 시스템을 공개했다. 엔비디아 H100 GPU를 지원하며, 최대 400와트(W) 중앙처리장치(CPU)와 700W GPU, 8테라바이트(TB – 1000기가바이트) 메모리 장착이 가능하다. 슈퍼마이크로는 차세대 인텔, AMD, Arm 기반 시스템을 위한 개방형 기판 관리 컨트롤러(OpenBMC) 및 개방형 기판 입출력 시스템(Open BIOS) 소프트웨어 설루션도 함께 제공한다.

엔비디아는 OCP에 대응하는 커넥트X(ConnectX) 네트워크 어댑터를 선보인 상태다. 400Gbps(초당 50GB 전송) 사양으로 연산 저하 현상을 최소화하면서 데이터 전송 지연 성능을 확보했다. 이 외에 이종 컴퓨팅 설계를 위한 연결 장비 설루션 라인업도 구축했다.

네트워크 확장 (ESUN - Ethernet for Scale-Up Networking) 연합도 결성됐다. 네트워크 부하가 가중되는 인공지능 환경에 맞춰 대규모 데이터 전송이 가능한 기술 개발이 목표다. 인공지능 인프라 전반의 연결성 확보에도 힘쓸 예정이다. ESUN에는 엔비디아, AMD, Arm, 오라클, 메타, 브로드컴, 마이크로소프트, 시스코, 오픈AI 등 인공지능 시장을 이끄는 기업이 대거 참여했다.

데이터 센터 서버 장비 시장 재편될까?

인공지능이 보편화되면서 인공지능을 가장 효율적으로 실행하는 하드웨어ㆍ소프트웨어 설계가 시장을 이끌 가능성이 높다. OCP 커뮤니티는 개방성, 효율성, 지속가능성, 확장성 등을 앞세워 인공지능 데이터 센터 시장을 공략한다. 시장의 변화는 데이터 센터를 구성하는 데 필요한 서버 랙(서버 케이스)부터 시작될 전망이다.

시장조사기업 옴디아는 2030년까지 주요 데이터 센터 기업이 21인치 랙을 채택, 41억 달러(약 5조 8,830억 원) 시장 규모로 성장한다고 분석했다. 기존 19인치 랙은 인공지능 서비스를 제공하지 않는 일반 기업이 채택한다고 봤다. 랙 크기가 확대된 것은 고성능 장비 구성 및 냉각 효율 확대 때문이다. 여유 공간이 생기면서 유지보수가 쉬워지는 이점도 21인치 랙 채용 확대에 영향을 줬다. 데이터 센터 장비 공급 기업 위윈(WiWynn)의 에밀리 홍(Emily Hong) 회장은 “2027년까지 21인치 랙 기반 서버 주문을 다수 확보했다. 수주잔고 증가세로 생산량 확대를 검토 중이다”라고 말했다.

OCP의 영향력은 꾸준히 확장 중이지만 기술적 측면에서 보면 경쟁력은 아직 부족하다. 하지만 OCP 장비 인프라를 통합 제공하는 기업이 증가한다면 보급 속도에 속도가 붙을 전망이다.

IT동아 강형석 기자 (redbk@itdonga.com)