주영표 SK하이닉스 부사장이 8월 25일 델 테크놀로지스 포럼 2026에서 ‘보이지 않는 엔진, AI 시대를 완성하는 기술’을 주제로 강연했다. 반도체 회사가 1~2년 앞을 준비한다는 이유로 그는 현재보다 앞으로의 문제를 다뤘다.

주 부사장은 트랜스포머 기반 모델이 메모리를 대단히 많이 사용한다는 점부터 설명했다. 최전선 모델은 가중치만으로 테라바이트 단위 용량을 필요로 한다. 사용자가 답을 기다리는 시간을 견딜 만한 수준으로 맞추려면, 초당 20개 토큰만 생성한다고 계산해도 초당 4.4테라바이트의 대역폭이 필요하다는 계산이다. 그는 이 숫자를 CD로 환산했다. 한 장에 650메가바이트인 CD를 매초 6~7장씩 읽어 GPU로 전송해야 한다는 뜻이다.

2024년 가을 o1이 나오고 2025년 초 딥시크가 R1을 공개하자 상황은 또 달라졌다. 모델을 반복해 실행하면 더 나은 답이 나온다는 사실이 확인됐는데, 반복할 때마다 KV 캐시가 계속 생성되고 앞선 맥락을 다시 참조한다. KV 캐시는 모델이 앞서 읽은 내용을 다시 계산하지 않으려고 쌓아 두는 작업 기억에 해당한다.

에이전트 단계로 오자 요구 수준이 또 한 번 상승했다. 주 부사장은 코딩 에이전트를 예로 제시했다. 개발자가 직접 코드를 작성하지 않고 대기하는 구조여서 대기 시간이 짧을수록 좋은데, 컴파일러 같은 기존 도구 체인은 갑자기 열 배 빨라지지 않는다. 결국 AI 쪽이 더 빨라져야 전체 시간이 줄어든다. 그 결과 초당 수십 토큰이 아니라 수백에서 1,000 단위 토큰을 개인별로 요구하게 됐다는 설명이다.

시장도 이미 나뉘고 있다. 그는 초당 300~600토큰을 요구하는 프리미엄 구간과 700토큰 이상을 요구하는 울트라 구간이 짧은 시간 안에 새로 생겼다고 밝혔다.

연산 성능과 대역폭의 균형

주 부사장은 루프라인 분석 그래프를 놓고 설명을 이어 갔다. 연산 종류를 성능 한계에 따라 분류한 그래프다. 사선 구간에 걸린 디코드와 어텐션 연산은 메모리 대역폭이 한계를 정하고, 위쪽 평평한 구간에 걸린 프리필과 행렬 연산은 GPU 연산 성능이 한계를 정한다.

여기서 그는 도발적이라고 스스로 표현한 주장을 제시했다. 컴퓨터 구조 분야에서는 시스템 성능을 CPU와 GPU, NPU가 결정한다고 보지만, AI 시스템에서는 메모리가 대역폭을 얼마나 공급하느냐가 성능을 정하는 중요한 변수라는 것이다. 그는 이 주장을 서울대의 컴퓨터 구조 전공 교수에게 미리 보여 줬다가 도발적이라는 반응을 들었다고 밝혔다. 그는 “우리가 잘했다는 말을 하려는 게 아니라 전체 시스템의 균형을 이야기하려는 것”이라고 덧붙였다.

쇼어라인 제약

강연에서 가장 구체적으로 다뤄진 문제는 쇼어라인이었다. 그는 GPU 패키지 그림을 띄웠다. 가운데가 GPU이고 위아래로 HBM 여덟 개가 놓인 구조다. HBM은 D램을 여러 층으로 쌓아 GPU 바로 옆에 배치한 고대역폭 메모리를 말한다.

GPU 성능은 가운데 면적, 즉 제곱밀리미터에 비례해 높아진다. 미세공정이 진전될수록 계속 좋아진다. 반면 외부 메모리 대역폭은 아무리 좋은 제품을 만들어도 GPU 가장자리 길이, 즉 밀리미터에 비례할 수밖에 없다. 칩 위에는 자리가 없고, 옆면은 입출력에도 배정해야 하기 때문이다. 메모리 자체의 문제가 아니라 기하학적 조건에서 오는 한계다.

주 부사장은 면적에 비례해 대역폭을 늘리는 방법은 위로 적층하는 것뿐이라고 봤다. 여러 회사가 이미 관련 기술을 공개하고 있다. 이렇게 적층하면 SRAM 수준까지는 아니어도 초당 수십 테라바이트 이상이 가능하고, 최적화가 더 이뤄지면 SRAM에 근접하는 성능도 기대할 수 있다는 것이다. SRAM은 연산기 바로 옆에 두는 초고속 메모리로, 속도는 가장 빠르지만 용량이 작고 값이 비싸다.

다만 그는 문제도 함께 설명했다. 세상에서 가장 뜨거운 칩 중 하나인 GPU 위에 메모리를 배치하는 일이라 발열 감당이 어렵다는 것이다. 8단, 12단, 16단으로 적층하면 더 심해진다. 그는 메모리 회사와 로직 반도체 회사, 가속기 개발사가 함께 풀어야 할 문제이자, 동시에 델 테크놀로지스처럼 시스템과 인프라를 아는 기업과 냉각 방식을 함께 준비해야 할 문제라고 말했다.

데이터 이동 에너지

두 번째 주제는 에너지 효율이었다. 주 부사장은 스탠퍼드대 마크 호로위츠 교수의 2014년 데이터를 인용했다. 덧셈 연산 한 번을 실제로 수행하는 데 드는 에너지는 아주 작고, 나머지 대부분은 메모리에서 데이터를 읽어 연산기 앞까지 이동시키는 데 사용된다는 내용이다. 그는 최신 데이터를 적용하면 격차가 더 벌어질 것이라고 덧붙였다.

이 문제의 해법으로 오래 거론돼 온 것이 프로세싱 인 메모리다. 메모리 안에 데이터가 저장돼 있으니 바로 옆에서 연산하자는 발상이다. 주 부사장은 이 기술에 애정이 있지만 다시 생각해 볼 필요가 있다고 했다. 데이터 한 비트를 저장할 공간이 워낙 귀해지다 보니, 그 자리에 연산기를 둘 것인지 저장 공간을 더 둘 것인지의 문제가 생긴다는 것이다. 최근 흐름은 D램에는 저장 공간을 최대한 확보하고, 어드밴스드 패키징 기술로 D램과 로직 사이 거리를 줄이는 쪽이라고 설명했다. 어드밴스드 패키징은 서로 다른 칩을 한 덩어리로 정밀하게 결합하는 후공정 기술을 말한다.

자원 활용률과 메모리 풀링

세 번째는 자원 활용률이다. 주 부사장은 챗봇에서 질문을 입력하고 답이 나오는 과정이 성격이 다른 두 연산으로 나뉜다고 설명했다. 질문을 읽어 들이는 연산과 답을 한 글자씩 생성하는 연산이다. 최근 시스템은 이 둘을 분리해 처리하는데, 그 사이에서 KV 캐시 이동이 대량으로 발생한다.

문제는 이동시키는 동안 한쪽 기계가, 경우에 따라 양쪽 기계가 대기한다는 점이다. 비싸게 도입한 GPU와 메모리가 매번 대기하게 된다. SK하이닉스는 여기에 메모리 풀링 개념을 적용했다. 앞단 작업이 끝나면 결과를 공용 메모리 풀에 내려놓고 곧장 다음 작업을 시작하고, 뒷단 기계는 자기 작업이 끝나면 풀에서 데이터를 읽어와 연산을 이어 간다.

메모리를 추가해 전체 시스템 성능과 처리량을 끌어올릴 수 있다는 연구 결과를 SK하이닉스는 지난해 가을 발표했고, 이후 여러 곳에서 비슷한 결과가 나와 시범 적용이 진행되고 있다고 그는 밝혔다.

여기 사용된 기술이 CXL이다. CXL은 CPU와 GPU, 메모리를 하나의 통로로 연결해 서로의 메모리를 나눠 쓸 수 있게 만든 개방형 규격이다. 원래 AI 서비스가 지금처럼 확산되기 전에 나온 규격이라 이런 용도로 사용될 것이라고는 예상되지 않았지만, 개방돼 있고 메모리를 확장할 수 있는 몇 안 되는 규격이라 이쪽으로 기술이 모이고 있다는 설명이다.

주 부사장은 SK하이닉스가 풀스택 메모리 크리에이터를 지향하지만 혼자 할 수 있는 일은 아니라고 말했다. 제품 연구 개발 단계부터 고객과 함께 준비하고 생태계 파트너와 함께 만들어 가겠다는 것이다. 그는 SK하이닉스와 델 테크놀로지스가 오랜 기간 공급자이자 인프라를 함께 준비하는 파트너로 협력해 왔고 연구 개발과 사업에서 계속 이어 가겠다고 밝혔다.

이미지 출처: AI 매터스