지난달 31일부터 이달 1일까지 진행된 APEC 정상회의 기간 중 우리나라를 방문한 엔비디아 젠슨 황 CEO가 큰 선물을 전해줬습니다. 향후 5년간 GPU(그래픽처리장치) 26만 장을 우리나라에 공급하겠다고 밝힌 것인데요. 전 세계적으로 GPU가 품귀 현상을 보이는 시점에 이 같은 소식이 전해지면서 우리나라의 AI 산업에 큰 힘이 될 것으로 많은 기대가 모이고 있습니다.

■ 그래픽 카드 강자 엔비디아

그리고 엔비디아는 PC 게임을 즐기는 이용자들 사이에서는 그래픽 카드라 불리는 지포스 시리즈를 개발해 선보이는 회사로 더 유명한데요. 90년대 3D 게임이 유행하기 시작하면서 PC로 게임을 즐기는 게이머들은 3D 그래픽으로 게임을 즐길 수 있게 도와주는 별도의 그래픽카드가 필요했습니다.

90년대 말에는 3dfx 인터랙티브사의 부두(Voodoo) 시리즈가 시장에서 엄청난 영향을 보여줬는데요. 엔비디아는 95년 처음 선보인 그래픽카드 NV1을 시작으로 엄청나게 히트한 RIVA TNT 등을 거쳐 1999년 그래픽카드에 탑재된 프로세서를 GPU라고 부르기 시작한 지포스 256 등을 선보이며 시장을 확대해 왔습니다. 결국 3dfx 인터랙티브사마저 엔비디아에 대부분의 자산을 매각해야 했을 정도로 엔비디아가 크게 성장했죠.

지포스 시대를 연 엔비디아는 25년 동안 꾸준히 시장 영향력을 확대하고 뛰어난 성능의 GPU를 탑재한 그래픽 카드를 선보이며 시장을 평정했고, 현재는 90%가 넘는 점유율을 보여주고 있습니다.

그리고 엔비디아의 GPU가 엄청난 위력을 보여주고 있는 시장은 인공지능 산업입니다. 최근 몇 년간의 AI 산업 성장에 힘입어 데이터센터용 AI 반도체 수요가 급증하며 마이크로소프트, 애플 등과 치열한 경쟁 끝에 세계 시가총액 1위 기업을 꿰찼습니다. 시총이 우리 돈 7,000조를 넘어섰죠. 엔비디아의 이러한 엄청난 성장에는 엔비디아가 90년대부터 계속 개발해 온 GPU가 자리하고 있습니다.

■ CPU와 GPU의 차이

요즘 컴퓨터는 두 가지 형태의 두뇌를 가지고 있습니다. 하나는 CPU(중앙 처리 장치)이고, 또 다른 하나는 GPU입니다. CPU는 순차 처리에 탁월한 모습을 보여줍니다. 똑똑한 두뇌를 담당하는 만큼 복잡한 명령이나 계산을 하나하나 빠르게 처리합니다.

반면 GPU는 여러 작업을 동시에 처리하도록 설계됐습니다. CPU에 비해 복잡한 문제는 해결할 수 없지만, 단순하고 반복적인 계산을 수천 개씩 동시에 해낼 수 있습니다. 이 병렬 처리가 GPU의 핵심이죠. 그래서 8~16개 정도의 코어를 갖춘 CPU와 달리 GPU에는 수백에서 수천 개의 작은 코어들이 빼곡하게 들어차 있고, 복잡하지 않은 계산을 한꺼번에 해냅니다.

CPU 복잡한 문제를 계산하는 수학자라면, GPU는 단순한 더하기나 곱하기 등을 수많은 학생이 모여서 한번에 처리하는 형태로 이해하면 쉽습니다.

이러한 특징 덕분에 GPU는 게이머들이 3D 게임을 즐길 수 있도록 돕죠. 우리가 즐기는 3D 게임 화면은 수백만 개의 픽셀로 이루어지는데, GPU는 이 수백만 개의 픽셀의 색이나 밝기를 한꺼번에 빠르게 계산해서 우리에게 3D 화면을 보여줍니다. 똑똑하지만 일을 순차적으로 진행하는 CPU만으로는 힘든 일이죠.

얼핏 보면 게임 화면을 그리는 일과 인공지능을 개발하는 것에는 커다란 연관성이 없어 보일 수도 있는데요. GPU가 가진 병렬 처리의 특성이 인공지능 시장에서 매우 중요한 포인트입니다.

■ GPU의 병렬처리, 반복 학습(훈련)과 단순 계산에 강점

AI를 더 똑똑하게 만들고자 한다면, AI에게 많은 학습(훈련)을 시켜야 합니다. 예를 들어 개와 고양이를 구분하는 인공지능을 만들고자 한다면 수많은 개와 고양이 사진을 학습시켜 이 사진 속 동물은 개이고 저 사진 속 동물은 고양이라고 알려줘야 합니다.

AI가 사진을 한두 장만 봤다면 다리가 4개, 쫑긋한 귀 등 비슷한 특징으로 구분이 쉽지 않을 텐데요. 수백만 장의 사진을 반복해서 학습했다면 점점 정확도가 높아질 수 있겠죠. 이는 결국 단순한 계산을 반복하는 형태인데요. 수많은 반복 계산은 앞서 이야기한 것처럼 CPU보다 GPU가 아주 큰 강점을 가지고 있습니다.

여기에 딥러닝(인공신경망) 모델의 훈련 과정은 사실상 대규모 데이터셋과 수백만 개 이상의 매개변수를 처리해야 하는 거대한 행렬 곱셈과 합성곱 작업의 연속입니다. 쉽게 말하면 아주 많은 숫자를 곱하고 더하는 계산을 반복하는 형태인데요. 이 연산들은 독립적으로 수행될 수 있는 부분이 많아 병렬화에 매우 유리합니다. 병렬 처리에 강점을 가진 GPU가 유리하고 빠르게 해낼 수 있는 부분이죠.

게다가 엔비디아는 CUDA(Compute Unified Device Architecture)라는 자체 개발 병렬 컴퓨팅 플랫폼이자 생태계도 갖추고 있습니다. CUDA를 사용하면 그래픽뿐만 아니라 범용 처리에도 엔비디아의 GPU를 사용할 수 있죠. CUDA는 엔비디아가 다른 경쟁사를 제치고 인공지능 시대를 이끌어 가고 있는 주요 요인 중 하나로 꼽히기도 합니다.

이렇게 GPU가 인공지능 시장에서 빠질 수 없는 부품이 되자 게이머 입장에서는 아쉬움도 생깁니다. 게임을 즐기기 위한 핵심 부품인 그래픽 카드에도 GPU가 사용되는 만큼 인공지능 개발의 열기가 뜨거우면 뜨거울수록 그래픽카드를 구하기가 점점 어렵고 가격도 비싸지고 있기 때문이죠. 엔비디아의 게임용 최상급 그래픽 카드인 지포스 RTX 5090의 경우 우리 돈 300만 원을 훌쩍 넘는 상황입니다. 인공지능의 발전이 반갑지만 게이머로서는 마음 한켠이 씁쓸하기도 합니다.