[IT동아 남시현 기자] Arm이 미국 현지시간으로 3월 24일, 미국 캘리포니아주 샌프란시스코 포트 메이슨 예술문화센터에서 ‘Arm Everywhrer’ 행사를 열고 35년 만에 처음으로 자체 IP(지식재산) 기반의 실리콘을 출시한다. 그간 Arm은 반도체 설계 도면에 해당하는 IP만 제공하는 지식재산권 제공 기업이었지만 이번 행사를 계기로 서버용 반도체 제조사로 탈바꿈한다. 고객을 위한 반도체 설계도 제공을 넘어 이제는 고객과 경쟁하겠다는 야심을 드러낸 것이다.

르네 하스 Arm 최고경영자는 “우리는 전통적으로 IP, 독립형 IP, CPU, GPU를 제공해 왔고, 이를 바탕으로 30년 넘게 시장에 도움을 줄 수 있었다. 하지만 시장은 더 빠르게 제품을 만들고 더 나은 제품을 생산하며 시장 출시 주기를 계속 당기고 있다. 그래서 컴퓨팅 서브시스템을 도입했었다”라면서 “하지만 AI 가속기로 가득 찬 데이터센터에는 계속해서 추가 CPU가 필요하고, 이에 대한 해결책으로 우리는 고객에게 판매할 첫 번째 실리콘 칩을 발표한다”라고 배경을 설명했다.

그간 고객과 경쟁하지 않는다는 모토를 지닌 Arm이 태세를 전환한 배경은 AI 등장 이후 시장 흐름과 요청이 바뀌고 있어서다. 르네 하스 CEO는 “우리가 칩을 출시하는 가장 큰 이유는 파트너사들의 요청에 따라서다. 또한 AI 시장의 변화를 해결하기 위한 목적도 있다. 생성형 AI가 자리 잡으며 핵심 작업은 CPU 성능에 좌우되기 때문이다. 우리와 함께하는 첫 주요 파트너사는 메타’라고 소개했다.

두 번째 이유로는 ‘스케일’을 꼽았다. 전 세계 인류의 절반에 가까운 약 30억에서 35억 명의 사용자가 인스타그램, 페이스북, 왓츠앱 등을 사용하며 데이터를 발생시키며 메타는 수천만 대의 서버를 운영 중이다. 초기 AI 클러스터는 128개의 GPU로 충분했지만 이제는 수만 개의 GPU를 단일 클러스터로 연결하는 상황이다. 산토 자나단 메타 인프라 총괄은 메타의 프로메테우스 클러스터의 소비전력이 올해 1GW를 넘어서고 수년 내에 5GW급 AI 데이터센터인 하이페리온 클러스터도 구축할 예정이다. 여기에 활용될 전력 효율적이고 일관성 있는 맞춤형 CPU를 Arm이 출시하는 것이다.

세 번째는 효율성을 높이기 위함이다. 메타가 인프라 확장에 집중하는 이유는 수십억 명의 고객을 유치하기 위함이다. 30억 명 이상이 반복적으로 개인용 인공지능을 활용한다면 이를 유지하기 위해 반드시 전력 효율적인 인프라를 갖춰야 한다. Arm이 메타에 제공하는 새로운 AGI 칩은 메타가 전력효율을 달성하기 위한 방안 중 하나인 셈이다.

앞으로의 AI는 에이전틱 AI, CPU가 전체 조율자로 역할한다

르네 하스 CEO는 “오늘날 AI 성능은 시스템 성능과 직결된다. GPU가 가장 주목받지만 CPU는 전체적으로 작업을 조율하는 중요한 역할을 한다. 또한 AI가 에이전트 중심적으로 변하면서 파이썬 스크립트를 실행하고 도구를 불러오는 것에서 CPU의 역할이 더욱 커지고 있다. 케빈 웨일 오픈AI 최고 제품 책임자도 “오픈 AI는 고객 수요를 더 확보하기 위해 컴퓨팅 능력을 더 확보 중이고, 업계가 따라올 수 없을 만큼 많은 AI 작업들을 준비 중이다. 전력 소모가 적은 CPU가 있다면 더 많은 작업을 위해 여유 전력을 확보하고, 더 많은 추론 작업을 진행할 수 있을 것”이라며 Arm AGI 칩의 필요성을 피력했다.

Arm AGI는 네오버스 V3 컴퓨팅 서브시스템 기반으로 구축되며 TSMC 3나노미터 공정 기반의 136개 코어로 구성된다. 동작 속도는 최대 3.7GHz며 각 코어당 2MB L2 캐시가 적용된다. 연결성 측면에서는 PCIe 6세대 96레인을 적용했고, CXL3도 호환된다. 메모리는 DDR5 기반이며 메모리 지연 시간을 100나노초 미만을 달성하도록 전체 시스템을 설계했다. 또한 열설계전력(TDP)이 300W로 낮은 편이어서 OCP(개방형 컴퓨팅 프로젝트) 표준 공랭식으로도 안정적으로 동작한다. Arm은 AGI CPU가 시장 생태계에 널리 쓰이도록 OCP에 Arm 서버 기반 인증 접근 지원 등을 제공한다.

Arm AGI는 향후 엔비디아 베라 CPU와 경쟁할 예정이나 역으로 교차 선택이 더 많을 것으로 예상된다. 고객 기업으로는 메타와 오픈AI를 비롯해 세레브라스, 클라우드플레어, F5, SK텔레콤, 리벨리온도 활용할 것으로 예상된다. Arm AGI는 올해 말 출시된다.

Arm의 접근법 변경, 시장의 공백노린 전략적 선택

소프트뱅크가 Arm을 인수한 이후 Arm은 잠행을 그만두고 수면 위에서 사업을 진행해 왔고, 지난해부터 자체 반도체를 출시하겠다고 입장을 밝히는 등 대대적으로 사업 체질을 개선하겠다는 뜻을 밝혀왔다. 고객과 경쟁하겠다는 모습으로 내비칠 순 있지만 배경을 살펴보면 꼭 부정적인 것만은 아니다. Arm 고객사가 기존 IP 제공 방식의 설계를 시작하면 적어도 2년에서 3년은 소요된다. 하지만 최근 AI 시장의 빠른 변화로 기껏 칩을 설계해도 무용지물이 될 수 있다.

이 때문에 고객 기업들은 Arm이 서버용 칩을 만들면 시장 분위기를 주도하는 것을 더불어 이런 문제를 해결할 수 있으리라 봤다. 또 기존의 x86 CPU는 성능 측면에서는 우수하나 전력대 효율성은 Arm 코어 대비 떨어진다. 앞으로 AI 시장은 무겁고 숫자가 적은 워크로드보다는 가볍고 많은 숫자의 작업을 처리해야 한다. 이에 전력 효율성이 높고 코어 수가 많은 Arm 기반 CPU가 주목받을 수밖에 없는 조건이다. Arm 입장에서는 무궁무진한 시장 규모와 요청을 놓칠 이유가 없었던 것이다.

Arm AGI가 시장에 순조롭게 적응할 수 있을지는 두고 봐야 한다. 그간 Arm의 주요 고객사였던 엔비디아는 베라 CPU를 납품받는 상황에서 Arm AGI와 경쟁해야 한다. 한편 엔비디아는 인텔에 전략적 투자를 진행하는 등 x86 CPU와의 협력 구도를 강화하는 상황이다. AWS, MS, 구글 등 자체적으로 Arm 기반 칩을 만드는 기업들은 자체 칩을 계속 설계할지, Arm AGI를 활용할지 고민할 것이다. Arm이 시장 점유율 확보를 위해 과감한 가격정책을 편다면 고객사 입장에서는 어떤 식으로든 자극받을 수밖에 없다.

지난 35년 간 Arm은 반도체 생태계의 심판이자 지원팀이었다. 하지만 이번 Arm Everywhere 행사를 계기로 답답하니 직접 뛰는 심판이 되었다. 서버 등 하이퍼스케일러 시장에서는 상당한 지각 변동이 예상되고, 전통적인 x86 CPU 제조사인 인텔과 AMD는 Arm AGI와의 경쟁을 위해 설계 기반 전반을 변경할 가능성이 크다. ‘와트당 성능을 얼마나 높이는가’라는 본질적인 논쟁을 두고 무한한 경쟁이 이제 시작됐다.

IT동아 남시현 기자 (sh@itdonga.com)