나 혼자만 레벨업, 엔비디아 지포스 RTX 5090 파운더스 에디션

2025.01.24. 12:56:23

1,993 3

CES 2025의 주인공은 누가 뭐래도 엔비디아였다. AI 업계의 선두 기업 답게 CES 2025의 거의 모든 이슈가 엔비디아로 장식 됐다.

그 중에서도 게이머와 AI 업계 모두가 기다려온 가정용 AI 가속기 및 게이밍 그래픽카드인 지포스 RTX 50 시리즈는 경쟁사의 신제품 발표 자체를 무산시킬 만큼 주목을 받았는데 그 대표 모델을 지금부터 소개해 볼까 한다.

최고의 게이밍 그래픽카드로 향후 게임 시장의 변화를 이끌어가게 될 지포스 RTX 5090 파운더스 에디션을 소개하겠다.

■ 지포스 RTX 5090의 핵심, 블랙웰 GB202 GPU의 변화

지포스 RTX 5090 파운더스 에디션 뿐만 아니라 모든 지포스 RTX 5090 그래픽카드에는 GB202라는 GPU가 탑재된다.

코드명 블랙웰 GPU 아키텍처로 설계된 GB202 GPU는 총 24576개의 쿠다 코어와 192개의 RT 코어를 탑재했을뿐만 아니라 768개의 텐서 코어와 텍스처 유닛까지 포함한 역대 가장 크고 가장 강력한 성능을 자랑한다.

단순 수치로만 비교해도 16384개의 쿠다 코어와 128개의 RT 코어, 512개의 텐서 코어와 텍스처 유닛으로 구성됐던 RTX 4090 보다 한차원 업그레이드된 성능을 제공한다는 것을 알 수 있다. 그러나, 24576개의 쿠다 코어와 192개의 RT 코어, 768개의 텐서 코어와 텍스처 유닛은 GB202 전체 유닛 구성을 말하는 것일 뿐 실제 지포스 RTX 5090에 탑재된 것은 아니다.

지포스 RTX 5090에 적용된 GB202 GPU는 풀 칩이 아닌 컷 칩이며 이로 인해 21760개의 쿠다 코어와 170개의 RT 코어, 680개의 텐서 코어와 텍스처 유닛만 사용하게 되어 있다. 쿠다 코어만 비교하면 전체에서 약 11%가 줄어든 것인데 그럼에도 불구하고 RTX 4090 보다 32% 이상 유닛 개수가 늘어났기에 세대를 구분하기에 충분한 성능 차이는 제공할 수 있다.

풀 칩 구성이 아닌 컷 칩을 선택한 이유가 확인된 것은 아니지만 수율이나 소비전력 증가를 주된 이유로 볼 수 밖에 없는데 특히 소비전력 증가는 12VHPWR이나 12v-2x6 전원 커넥터가 최대 600W까지만 전력 공급을 보장하고 있어 그 이상의 전력을 요구하는 풀 칩 구성은 사실 상 불가능했던 것으로 판단된다.

21760개의 컷 칩 GB202 기반 지포스 RTX 5090만으로도 TDP가 575W인 상황에서 이 이상을 바라는 것은 현실적으로 불가능하고 봐야 한다.

수율은 문제가 아니다. 공정이 바뀐 것도 아니고 TSMC 4nm 4N 공정 그대로다. 이미 충분한 수율을 보장 받는 공정이라 그런 문제일 가능성은 희박하다. 시장 기대처럼 TSMC 3n 공정을 선택했다면 그런 이유도 있었겠지만 지금으로써는 600W를 넘지 않게 선택했다고 보는 것이 맞다.

코드명 블랙웰 GPU 아키텍처 자체는 변화가 크지 않다.

GPC와 TPC 그리고 SM으로 구성된 전체 틀도 그대로고 GPC에 속한 라스터 엔진과 ROP 파티션 구성, SM 단위의 L1 캐시, 레지스터, 텍스처 유닛, 연산 유닛 개수는 동일한 것으로 확인됐다. 차이가 있는 부분은 GPC 단위의 TPC와 그에 속한 SM이 늘어났다는 것이며 이로 인해 GPC 당 6개였던 TPC가 8개로 늘어났고 총 SM도 12개에서 16개로 증가했다.

전체 유닛 구성의 증가로 인해 L2 캐시 용량도 크게 증가했다. 전체 GB202에 할당된 L2 캐시 용량은 128MB로, 96MB였던 AD202 보다 33% 증가했다. 하지만, 지포스 RTX 5090은 컷 칩인 관계로 128MB 중 96MB만 사용할 수 있다.

SM 단위로 내부에 탑재된 쿠다 코어 자체도 변화가 있었다. AD202까지 FP32/INT32 + FP32 조합였던 것이 모두 FP32/INT32 유닛으로 변경됐다. 덕분에 INT32 정수 연산을 기존 보다 2배 빠르게 처리할 수 있어 실질적인 INT32 연산 성능은 2.5배 이상 증가됐다.

단, INT32 연산이 게임에 크게 영향을 주는 것은 아니라서 이로 인한 체감 성능 향상은 크지 않다고 봐도 무방하다.

텐서 코어는 5세대로 업그레이드되면서 기존 세대는 지원할 수 없던 FP4 및 FP6 연산이 가능해졌다. FP4 지원의 의미는 모델 크기를 줄이면서 더 나은 성능을 제공한다는 것인데 엔비디아 설명에 따르면 23GB 이상의 VRAM이 필요한 FP16 모델을 10GB 미만으로도 처리할 수 있게 되고 15초 안에 생성됐던 이미지도 5초만에 가능해진다고 한다.

일반적으로, AI 연산에서 정밀도가 낮아진다는 것은 그 만큼 더 빠른 처리가 가능하고 모델 크기를 줄일 수 있다고 생각하면 되는데 그런 방향에 따라 새로운 AI 하드웨어들은 기존 세대 보다 더 낮은 데이터 형식을 지원하도록 개발되고 있으며 엔비디아가 그런 방향을 리드하고 있기도 하다.

이런 방향성에 따라 FP4가 적용된 AI 연산 성능은 FP8이 최선였던 RTX 4090에 비해 2배 이상 빠른 처리가 가능하며 텐서 코어의 증가분까지 더하면 2.5배 이상 향상된 것이 지포스 RTX 5090에 탑재된 GB202 GPU다. FP4가 아닌 FP8 기준으론 약 33% 증가가 한계라고 보면 된다.

RT코어는 4세대로 업그레이드 됐다.

4세대 RT 코어에는 기존에 없던 새로운 레이트레이싱 기법 관련 엔진들이 적용 됐고 이를 통해 보다 현실적인 그래픽을 실현할 수 있는 것으로 발표 됐는데 결국 따지고 보면 교차 테스트 성능이 2배 증가한 것이 핵심이다.

그 이외의 신기술 관련 부분들은 해당 기술이 적용되는 앞으로 등장할 게임에서나 쓸 수 있는 것들이라서 기본적인 교차 테스트 성능 증가가 4세대 RT 코어의 핵심이라 보면 된다.

메모리에도 변화가 있다. 이미 다 알고 있듯이 GDDR7 메모리가 최초로 적용 됐고 그 중에서도 28Gbps GDDR7 메모리가 지포스 RTX 5090에 탑재됐다. 용량은 32GB이며 24GB 였던 RTX 4090 보다 8GB가 늘어났다.

메모리 용량의 증가는 메모리 대역폭 증가로 이어졌다. 지금까지 고집했던 384-bit를 버리고 512-bit 버스를 최초로 도입한 것이다. 이를 위해 12개 였던 메모리 칩을 16개로 늘렸으며 칩당 2GB 용량이 확보되어서 최종 용량은 32GB로 정해지게 된 것이다.

사실, 용량을 정해두고 메모리 버스를 정했다기 보다는 메모리 버스를 정한 상태에서 메모리 용량이 세팅됐다고 보는 것이 맞다.

어쨌거나 이런 선택 덕분에 1TB/s를 겨우 넘던 메모리 대역폭이 28Gbps GDDR7 메모리와512-bit 버스의 조합 덕분에 약 1.8TB/s도 가능하게 됐다. 기대를 모았던 2TB/s는 아니었지만 그래도 1.8배나 증가한 메모리 대역폭은 지금까지 한번도 실현된 적 없는 세대 교체고 대역폭 그 자체만으로도 역대급이라 할 수 있다.

512-bit 메모리 버스를 실현하기 위해 엔비디아는 지포스 RTX 5090 FE를 모듈형 구조의 PCB로 설계했지만 AIB 파트너들은 전통적인 풀 타입 기판을 고수한 것으로 알려졌다.

■ 성능 평가 시스템 소개

지포스 RTX 5090 파운더스 에디션의 성능을 평가한 시스템은 다음과 같다.

인텔 코어 울트라 9 285K 프로세서를 익스트림 프로파일로 사용했고 메인보드는 ASUS 막시무스 Z890 익스트림에 최신 베타 바이오스를 사용했다. 메모리는 T-포스 DDR5 6400 CL32 16GBx2 메모리를 DDR5 8000 CL38로 오버클럭해 사용했고 안정성은 이미 해당 리뷰에서 Memtest86+로 검증한 바 있다. 쿨러는 ASUS ROG 류진 III 360 ARGB 다.

운영체제는 윈도우 11 24H2 최신 버전을 사용했다. 기존 기사에서도 사용했던 시스템이며 모든 업데이트가 적용된 상태였다.

드라이버는 엔비디아가 제공한 게임 레디 드라이버 571.86과 566.45 핫픽스 드라이버를 사용했는데 후자는 비교 대상인 지포스 RTX 4090를 위한 것이다.

■ 지포스 RTX 5090 파운더스 에디션의 기본 성능

기본 성능을 알아보기에 앞서 3DMARK 점수부터 보자.

3DMARK 점수는 게임과 다르게 각각의 시스템 차이를 배제하고 그래픽카드 성능을 가늠할 수 있어 중요한 벤치마크 기준이 된다.

보면 알겠지만 지포스 RTX 5090 FE는 파이어스트라이크 점수 최초로 7만점을 돌파했고 타임스파이 점수도 4.7만을 가볍게 넘어섰다.

증감률을 비교하면 파이어스트라이크 보다 타임스파이가 더 큰데 전반적으로는 약 30% 초반의 성능 향상을 기대해 볼 수 있다.

레이트레이싱 연산이 핵심인 스피드웨이가 44.4% 증가한 걸 보면 패스트레이싱 같이 레이트레이싱 작업 부하가 심한 조건에선 40%대 증가도 가능할 것 같다.

실제 게임에서 확인한 프레임 결과다. 총 18개 게임을 테스트하였으며 최근 배포된 카잔 데모도 포함시켰다.

테스트 조건은 4K 해상도에서 그래픽 옵션을 최상으로 선택한 후 레이트레이싱이나 업스케일 기능은 모두 끈 상태였다. 흔히 말하는 깡성능만 확인한 것이다.

결과를 보면 적게는 20%대에서 많게는 40%대까지 게임에 따라 변동폭이 컸지만 전체 게임 18개를 종합하면 평균이 32%고 아무리 적어도 20%대 수준이 기본이라 충분히 만족할 수 있다고 생각했다.

체감되는 성능 차이도 확실한 편이니 세대 교체를 고민한다면 깡성능 자체로는 고민할 필요가 없을 것 같다.

■ 레이트레이싱 게임 성능 평가

레이트레이싱은 여전히 옵션이다. 많은 게임들이 레이트레이싱을 적용했거나 적용을 약속하고 있지만 전통적인 렌더링 기법의 일부 문제를 보완하는 것이 현실이다. 패스트레이싱이 좀더 일반화 되면 좋겠지만 말이다.

그렇다고 레이트레이싱을 무시할 수도 없다. 깡성능만으로 그래픽카드를 선택하는 시대는 이미 지나갔고 레이트레이싱 성능도 비중있게 볼 수 밖에 없다.

지포스 RTX 5090의 레이트레이싱 성능은 깡성능과 비슷했다. 14개 게임 평균도 30.5%로 큰 차이가 없었으며 게임에 따라 20%대에서 많게는 48%까지 차이 나기도 했다.

블랙웰에 적용된 새로운 레이트레이싱 기법들이 실제 게임으로 적용되면 더 큰 차이가 있을지도 모르겠으나 지금으로썬 약 30% 전후가 지포스 RTX 5090의 레이트레이싱 성능 증가폭이라고 보면 될 것이다.

■ DLSS4 이전 게임들(DLSS 3.5 + FG)

DLSS는 덤이다. 레이트레이싱 만큼 적용되는 게임이 제한적이라서 이를 기준으로 성능을 판단하거나 제품을 선택하는 건 무리가 있다. 하지만, 지금처럼 같은 계열의 그래픽카드라면 세대 교체를 평가할 기준이 될 수 있는데 이번 항목에선 DLSS4는 제외하기로 했다.

지포스 RTX 50 시리즈의 핵심 기술로 소개된 DLSS4는 아직 배포된 게임이 없고 리뷰용 빌드만 제공되는 상황이라 일반화된 결과로 보긴 어려웠다. 그래서 이미 배포된 게임으로 지원 가능한 DLSS 3.5와 프레임 생성(FG)만 먼저 비교하고 신기술인 DLSS4는 따로 정리하기로 했다.

DLSS 3.5나 그 이전 버전 그리고 프레임 생성 기술을 적용할 수 있는 게임에서 테스트한 결과들이다. DLSS4의 기술적인 장점들이 반영되지 않은 결과라서 지포스 RTX 5090을 선택한 직후 직접 체감하게될 결과다.

보면 알겠지만 이번에도 게임에 따라 증가폭이 많이 다르다.

특이한 패스트레이싱을 적용한 앨런 웨이크 2의 경우 RTX 4090 대비 증가폭이 57.6%로 나왔다는 것인데 RT 코어의 교차 성능이 개선된 것과 메모리 대역폭이 1.8배 가까이 증가한 영향을 가장 많이 받은 것으로 생각된다.

■ DLSS4와 MFG, 게임 성능 어떻게 달라지나?

이번 기사를 진행하면서 DLSS4를 테스트 할 수 있는 게임은 위에 정리한 4가지 뿐이었다. 앨런 웨이크 2는 빌드 코드가 확보되지 않아 못했고 마블 라이벌즈는 둘 다 못 구했다.

어쨌거나 필자가 구한 DLSS4 지원 게임으로 트랜스포머 모델을 적용한 DLSS 슈퍼샘플링과 광선 재구성, 멀티 프레임 생성 기능을 적용하고 이를 지포스 RTX 4090과 비교했는데 일단 멀티 프레임 생성 기능의 성능 증가폭이 매우 인상적이었다.

2배, 3배, 4배로 배율이 증가할 수록 일정 비율로 프레임이 증가하는 것을 경험할 수 있었으며 그 결과가 위 그래프다.

DLSS 3.5 기반 프레임 생성 기술의 프레임 증가폭이 기대 보다 낮았던 것과 비교하면 상당히 개선된 것인데 이게 다 DLSS4에 적용된 플립 메터링 기법과 AI 매니지먼트 프로세서 덕분이라고 보면 된다.

기존까지 CPU에 의존했던 프레임 페이싱을 디스플레이 엔진에서 처리하고 AI 매니지먼트 프로세서가 CPU 의존성을 줄이면서 DLSS 관련 AI 작업과 그래픽 렌더링 그리고 프레임 페이싱 알고리즘을 더 효율적으로 스케줄링하게 되면서 프레임 증가폭이 안정화 되고 기대 만큼의 결과를 보여주게 된 것이다.

물론, 이런 것이 가능하게 된 주된 이유가 AI 모델을 CNN에서 트랜스포머 모델로 변경했기 때문인데 덕분에 30% 더 적은 메모리 만으로도 40% 더 빠른 프레임 생성이 가능해졌다는 것이 엔비디아의 설명이다.

프레임 생성으로 인한 지연 시간 증가도 큰 문제가 되진 않았다. 수치상으로도 DLSS 기능을 적용하지 않은 조건 대비 적게는 3ms, 많게는 6~7ms 증가할 뿐이라서 일반적인 게임 플레이 조건에선 지연 시간 증가가 문제되진 않았다.

오히려, 평균 프레임이 30fps 이하인 조건에선 네이티브 조건 보다 지연 시간이 게임 플레이 가능한 수준으로 개선되기도 했다.

하지만, 정확한 패링 타이밍을 요구하는 소울류의 게임이나 클릭 한번에 민감한 FPS 같은 게임에선 DLSS4의 MFG 기능을 선택하긴 어렵다고 느꼈으며 약간의 타이밍 보정을 스스로 해야 했다.

■ 지포스 RTX 5090 파운더스 에디션, 온도는 괜찮을까?

지포스 RTX 5090 파운더스 에디션은 상당히 다이어트 됐다. 마치 2미터 거인 체구에 고도미만 였던 사람이 열심히 트레이닝을 받고 식이요법까지 병행해서 벌크업한 상태처럼 보이는 것이 지포스 RTX 5090 파운더스 에디션이다.

그렇다고 다른 AIB 파트너 제품들을 비하하는 건 아니지만 지금까지의 그래픽카드 구조나 크기에서 많이 달라진 제품인 건 사실이다.

하지만, 슬롯 3개를 차지할 만큼 육중한 크기를 자랑하고도 450W를 소화했던 지포스 RTX 4090 파운더스 에디션도 있는데 그 보다 훨씬 얇은 두께로 575W인 지포스 RTX 5090을 실현했다는 것이 믿겨지는 것이 어려울 수 있다.

가능은 해도 소음이나 온도가 적정 수준 이상일 수 있다고 생각할 수 있다. 필자도 이런 부분이 걱정됐지만 이는 기우에 불과했다.

보면 알겠지만 지포스 RTX 5090 파운더스 에디션의 온도는 안정성에 문제가 될 수준은 아니었다. GPU 온도 자체도 73~4도 수준였고 메모리도 82~84도 수준을 벗어나지 않았다.

실제 소비전력이 지포스 RTX 4090 보다 140W 이상임에도 일반적으로 이해할 수 있는 수준을 벗어난 모습은 보여주지 않았다.

물론, 얇아진 두께 때문인지 팬 속도가 약간 증가하고 가까이 가면 약간의 소음도 느껴졌지만 우리가 흔히 말하는 소음이라 부를 수준과는 거리가 멀었다. 대신, 늘어난 소비전력에 따라 증가한 열을 빠르게 배출하는 구조 탓에 배기 온도가 상승한 것이 확인 됐으며 그로 인한 PC 내부 온도 증가가 걱정되기도 했다.

지포스 RTX 5090 파운더스 에디션 전면에 부착된 팬 2개가 그래픽카드를 통과해 외부 공기를 빠르게 순환시키다 보니 PC 내부의 공기 흐름이 정체된 구조에선 최악의 결과를 가져올 수도 있다.

가장 좋은 방법은 PC 케이스 바닥에 흡기팬을 배치하고 상단에 배기팬을 설치하는 것인데 이 경우 상단에 배치했던 수냉 쿨러 라디에이터를 전면이나 측면으로 옮겨야 한다.

■ 오버클럭, 가능은 한데..

지포스 RTX 5090 파운더스 에디션은 사실 상 오버클럭은 포기하는 것이 좋다.

기본 TDP가 575W나 되는 그래픽카드에 공급 가능한 전력이 최대 600W라서 현실적으로 불가능에 가까운데 그래서 지포스 RTX 5090 파운더스 에디션의 전력 한계도 최대 4%까지만 허용된다.

GPU나 GDDR7 메모리 속도를 아무리 높여 봤자 전력 한계가 제한되기 때문에 제 성능이 나올 수 없다.

실제, 28Gbps로 세팅된 지포스 RTX 5090 파운더스 에디션의 GDDR7 메모리 속도를 31.25Gbps로 조절하고 2.4GHz 였던 GPU 속도도 2.6GHz까지 높여봤지만 실제 얻어지는 성능 증가폭은 많아 봤자 4% 수준을 넘기지 못했다.

소비전력도 4%대 증가에 그쳤고 GPU와 메모리 온도는 온도 차이가 거의 없었다. 아쉽겠지만 지포스 RTX 5090 파운더스 에디션으로 오버클럭은 기대하지 않는 것이 좋다.

■ 지포스 RTX 5090에 대한 결론 - 기본 성능과 가격

지포스 RTX 5090의 깡성능은 예상 만큼의 결과였다.

GB202 GPU로 실현한 연산 유닛의 확장을 약 1.8TB/s에 가까운 32GB GDDR7 메모리와 512-bit 버스로 받쳐 줬으니 예상할 수 있는 성능이 그대로 실현됐다.

메모리 대역폭만 보면 지금까지의 세대 교체 보다 좀 과한 부분도 없지 않았지만 최강 게이밍 그래픽카드를 원하는 게이머들에겐 로망과도 같은 것이어서 이런 부분을 채워줬다는 것도 잘한 것이라 생각한다.

가격도 독보적인 성능이나 메모리 구성 등을 생각하면 충분히 납득 가능한 수준이고 코로나 이후 물가 인상 등을 감안하면 인상폭이 그렇게 높은 것도 아니다.

기본적으로 깡성능이 충분히 받쳐주는 만큼 차세대 게이밍 그래픽카드로써 투자할 가치는 충분하다는 것이 필자의 생각이다.

■ 지포스 RTX 5090에 대한 결론 - DLSS4, 쓸모있나?

지포스 RTX 5090의 기본 성능 만큼 DLSS4에 대한 기대 또한 클 것이라고 생각한다.

DLSS가 여전히 옵션인 상황에서 이런 부분을 해결하지 못했다는 것이 다소 아쉽기는 하지만 게임 개발사의 지원을 기다리기 보다 엔비디아 스스로 신기술 지원에 적극 나섰다는 건 분명 반가운 소식이라 할 수 있다.

예전처럼 DLSS4 지원 패치가 나오기를 기다리기 보다 엔비디아 앱을 통해 사용자가 직접 기존 게임에 DLSS4를 적용할 수 있게 만든 것 말이다.

DLSS4 자체의 완성도도 확실히 더 개선됐다. 아직 소수의 게임만을 접했을 뿐이지만 임시 빌드임에도 별다른 문제들이 발견되지 않았고 멀티 프레임 생성 기능의 안정성도 꽤 좋아졌다. 앞서 이야기하였듯이 패링 타이밍이나 민감한 마우스 조작과 클릭만 아니라면 과거의 DLSS 보다 훨씬 쓸모 있는 기능이 될 것이라고 생각한다.

개인적으로는 지금처럼 프레임 증가에만 목적을 두지 말고 소비전력을 줄이는 쪽으로도 DLSS가 발전했으면 한다.

예를 들어 최종 프레임을 60FPS에 맞춰두고 실제로 렌더링 하는 프레임은 줄이고 부족한 프레임을 DLSS 슈퍼 샘플링과 멀티 프레임 생성 기술로 보완하면 게임 플레이에는 지장을 주지 않으면서 소비전력을 크게 줄일 수도 있다.

최대 프레임을 고정하는 방식도 비슷한 효과를 실현할 수 있지만 프레임 생성까지 사용하면 지연 시간이 크게 늘어나는 문제가 있다. 지연 시간의 증가를 최소화 하면서 멀티 프레임 생성을 활용해 그래픽카드 소비전력을 크게 낮추는 방식도 연구가 필요하다.

■ 지포스 RTX 5090에 대한 결론 - 파운더스 에디션, 괜찮나요?