NVIDIA DLSS 4.5 Ray Reconstruction 살펴보기 : Alan Wake 2
반도체에 들어가는 트랜지스터의 수가 2년마다 두 배씩 증가한다는 경험적 관측이자 예측, '무어의 법칙(Moore's law)'은 2010년대 중반에 접어들면서 사실상 들어맞지 않게 되었습니다. 과거에는 반도체의 집적도가 높아지면서 클록 주파수가 상승했고 이로 인해 하드웨어의 성능이 큰 폭으로 향상되었지만, 공정이 미세화될수록 누설 전력이나 열 설계 등의 벽에 부딪히게 되었고 단일 코어 기준으로 성능 향상의 폭이 낮아지게 되었습니다. 또한 양자 터널링(Quantum tunnelling) 현상 때문에 집적 회로의 소형화는 사실상 한계에 가까워졌기 때문에, 현재 반도체는 클록 주파수 상승이 아닌 멀티 코어 증가, 3D FinFET이나 GAA(Gate-All-Around)와 같은 구조 변경 등의 방식으로 발전 방향을 바꾸고 있습니다.
NVIDIA 그래픽 카드의 경우 이전부터 GPU의 핵심인 CUDA 코어 외에 AI 연산 가속용 Tensor 코어, 레이 트레이싱 전용 RT 코어 등을 탑재하여 클록 주파수 외의 부분에서도 성능 향상을 꾀하고 있었는데요. 덕분에 1990년대 영화 제작에서 프리 렌더링 방식으로 사용되던 레이 트레이싱을 현재는 일반 PC에서 실시간으로 처리하는 수준이 되었습니다. 물론 과거처럼 클록 주파수에 따른 성능, 이른바 깡성능의 상승 폭이 크지는 않지만 NVIDIA DLSS Super Resolution이나 Frame Generation 등을 통해 4K 고주사율에도 대응할 만한 게이밍 성능을 제공해주고 있습니다.
NVIDIA의 AI 기반 신경망(Neural) 렌더링 기술군인 DLSS는 크게 세 가지로 구성되어 있습니다. 업스케일링 기술인 Super Resolution, 프레임 보간 기능인 Frame Generation, 이미지 품질 향상 기술인 Ray Reconstruction인데요. 레이 트레이싱 및 패스 트레이싱은 NVIDIA의 독자 기술이 아니라 보편적인 렌더링 기술이므로 제외, DLAA(Deep Learning Anti-Aliasing)의 경우 Super Resolution을 100% 렌더링 스케일에서 안티 앨리어싱 적용 목적으로 활용하는 기술이기 때문에 일단 대분류에서는 제외하였습니다.
게이머 입장에서는 프레임 확보에 큰 영향을 주는 Super Resolution과 Frame Generation에 중점을 두기 마련이지만, 노이즈를 제거하고 조명 정확도를 향상하며 움직임을 더욱 선명하게 해주는 Ray Reconstruction이야말로 결과물을 최종적으로 완성하는, 이른바 '화룡점정'인 기술이라 할 수 있습니다.
Ray Reconstruction은 업스케일링 기술인 Super Resolution과 AI 디노이저가 단일 모델로 통합되어 있는 NVIDIA의 트랜스포머 모델로 구현됩니다. 적은 수의 광선 샘플링으로 인해 노이즈가 발생한 광선 추적 데이터를 분석하여 고품질 픽셀을 생성하고, 디노이저와 업스케일링이 통합된 트랜스포머 모델을 거쳐 최종 결과물을 제공하는 방식입니다. DLSS 4.0, 즉 1세대 트랜스포머 모델에서도 Ray Reconstruction의 작동 원리는 동일했지만 DLSS 4.5는 1세대 트랜스포머 모델보다 35% 향상된 컴퓨팅 성능, 20% 증가한 파라미터 처리량, 확장된 고품질 데이터셋을 갖춘 2세대 트랜스포머 모델을 활용하기 때문에 더 정확하고 안정적인 결과물을 만들 수 있게 되었습니다.
간단히 표현하자면 DLSS 4.5의 Ray Reconstruction은 이전에 비해 효율과 안정성, 품질이 더 높아진 것인데요. Ray Reconstruction이라는 단어 자체에 다소의 무게감이 있어 '그래픽 카드에 큰 부하를 주는 것은 아닌가'라고 생각할 수도 있지만, 기본적으로 Super Resolution의 활용이 전제되는 만큼 의외로 부하량의 증가가 크지 않을 것으로 예상되며, 이번 기사에서는 이를 직접 확인해보고자 합니다.
앞서 언급했듯 Ray Reconstruction은 1세대 트랜스포머 모델 때부터 Super Resolution과 단일 모델로 통합되어 있었으므로, Super Resolution이 지원되는 NVIDIA RTX 50 시리즈는 물론 RTX 20, 30, 40 시리즈에서 모두 사용 가능합니다. 다만 DLSS 4.5에 활용되는 2세대 트랜스포머 모델 뿐만 아니라 DLSS 4.0의 1세대 트랜스포머 모델도 RTX 50 시리즈의 Blackwell 아키텍처(FP4 및 FP6 연산)에 최적화되어 있기 때문에 FP8 연산 가속을 지원하는 RTX 40 시리즈까지는 괜찮은 효율을 보일 수 있겠으나, 그 이전의 연산 방식을 사용하는 RTX 30 시리즈 이하에서는 다소 효율이 떨어질 것으로 예상됩니다.
DLSS 4.5의 Ray Reconstruction은 공식적으로 8월 26일에 공개됩니다. 현재 시점에서 공식 지원되는 게임은 Alan Wake 2, Avatar: Frontiers of Pandora, F1 25, Half-Life 2 RTX, Portal with RTX, PRAGMATA, Call of Duty: Black Ops 7, Resident Evil Requiem, 붉은사막, Hogwarts Legacy, Cyberpunk 2077, DOOM: The Dark Ages, Marvel’s Spider-Man 2, The First Descendant 등 27개가 있으며, 게임 내 옵션에서 Ray Reconstruction을 활성화할 수 있습니다. 기존의 Super Resolution 오버라이드와 마찬가지로, Ray Reconstruction을 지원하는 게임이라면 NVIDIA App에서 Preset F 또는 '권장'값을 적용하여 Ray Reconstruction 설정을 오버라이드하는 것도 가능하리라 예상됩니다.
그럼, NVIDIA DLSS 4.5 Ray Reconstruction가 적용된 Alan Wake 2 타이틀을 활용하여 이미지 품질에는 어떤 차이가 있는지, 그래픽 카드의 성능에는 어느 정도 영향을 주는지 한 번 확인해 보도록 하겠습니다.
AMD Ryzen 7 9850X3D
Phanteks GLACIER ONE 360 T30 V2
GIGABYTE X870E AORUS MASTER X3D ICE
GSKILL DDR5-6000 CL28 TRIDENT Z5 NEO RGB J 화이트 패키지 (32GB(16Gx 2))
Seagate FIRECUDA 530 M.2 NVMe (4TB)
FSP MEGA TI 1650W TITANIUM 풀모듈러 ATX 3.1
필립스 에브니아 27M2N5800
3840 x 2160 해상도 | Quality Preset : 가장 높은 옵션 | Path Tracing: 울트라 옵션 | DLSS: 발란스
※ 좌측부터 RR 미적용 | DLSS RR | DLSS 4.5 RR
※ 좌측부터 RR 미적용 | DLSS RR | DLSS 4.5 RR
NVIDIA DLSS 4.5 Ray Reconstruction 살펴보기 : Alan Wake 2
※ 좌측부터 RR 미적용 | DLSS RR | DLSS 4.5 RR
더욱 향상된 디테일과 선명도를 제공하는 NVIDIA DLSS 4.5 RR
NVIDIA DLSS 4.5의 Ray Reconstruction(이하 RR) 기술은 레이 트레이싱(RT) 및 패스 트레이싱(PT) 장면의 이미지 품질을 향상하는 신경망(Neural) 렌더링 기술입니다.
RT·PT는 빛의 상호작용을 계산하거나 다수의 광선을 추적해 조명 결과를 계산해야 하는 만큼 상당한 연산량을 요구하는 기술입니다. 따라서 모든 광선을 실시간으로 샘플링하는 것에는 무리가 따르므로, 적은 수의 광선을 샘플링하고 노이즈 제거 및 이미지 재구성으로 빈 픽셀을 채우는 방식을 사용합니다. 과거에는 노이즈 제거 및 이미지 재구성의 과정을 수동 알고리즘 방식으로 처리했기 때문에 작업이 복잡함에도 불구하고 품질이 높지 않았지만, 이를 대체하는 AI 활용 방식 즉 RR의 등장으로 인해 작업의 부담은 줄어들고 품질이 크게 높아졌습니다. 이제는 일반 소비자용 그래픽 카드가 단순히 RT·PT의 구현에만 머무르지 않고 RR에 의한 이미지 품질 향상까지 바라보는 수준이 되었다고 볼 수 있습니다.
다만 1세대 트랜스포머 모델의 DLSS 4.0 RR은 음영이 좀 더 사실적으로 표현되긴 했으나, 이미지가 다소 흐릿해지는 단점이 있었습니다. 이는 광선을 샘플링하는 과정에서, AI가 주변 픽셀 정보와 이전 프레임의 정보를 조합해 노이즈를 제거할 때(=픽셀을 생성할 때) 품질이 다소 떨어졌던 것인데요. 2세대 트랜스포머 모델의 DLSS 4.5 RR은 디노이저의 컴퓨팅 성능이 35% 향상되고 파라미터 처리량이 20% 증가하여 좀 더 높은 품질의 픽셀을 생성할 수 있게 되었고, 결과적으로 더 정확하고 선명한 결과물을 제공합니다.
위 비교 사진들을 보면 DLSS 4.0 RR을 적용했을 때 음영(얼굴과 목 그림자, 후드의 주름 등)이 더 살아나는 대신 전체적인 이미지가 다소 흐릿해졌으나, DLSS 4.5 RR을 적용하면 음영 품질은 유지된 상태에서 훨씬 선명해진 것을 확인할 수 있습니다. 머리카락의 컬(curl) 표현의 경우 입체감이 살아나서 RR 미적용 상태보다 더 디테일한 결과를 보입니다.
※ 좌측부터 RR 미적용 | DLSS RR | DLSS 4.5 RR
다른 장면에서는 개선된 이미지 품질을 더 확실히 볼 수 있는데요. 벽면의 디테일이 살아난 것은 물론 바닥면의 부자연스러운 그림자 표현도 개선되었습니다. 그림자의 경우 단순히 그림자의 품질이나 해상도 뿐만 아니라 조명, 앰비언트 오클루전, 스크린 스페이스 반사(SSR) 등 여러 옵션들과의 조합을 통해 표현되는데, 특정 옵션 값이 낮을 경우 자글거리거나 얼룩처럼 보일 수도 있으며 게임에 따라서는 해당 옵션들의 설정 값이 높더라도 동일한 현상을 보일 수 있습니다. 하지만 DLSS 4.5 RR 적용 시 이러한 문제가 깔끔하게 해결되고 더 나은 이미지 품질을 보이는 만큼 시각적인 만족도가 확실히 높아지는 기술이라고 할 수 있겠습니다.
개선된 RR 효율, 극명한 차이를 보이는 RTX 40·50과 RTX 20·30
해상도 별로 RR 미적용·적용에 따른 성능 차이를 확인해 본 결과, 다소의 차이는 있지만 전반적으로 동일한 결과를 나타냈습니다. 가장 눈에 띄는 부분은 RTX 40·50 시리즈와 RTX 20·30 시리즈의 결과가 판이하게 다르다는 점인데요. 이는 RTX 40·50 시리즈와 RTX 20·30 시리즈의 텐서 코어 연산 방식에 따른 차이 때문인 것으로 여겨집니다.
DLSS 4.0의 1세대 트랜스포머 모델은 물론 DLSS 4.5의 2세대 트랜스포머 모델 모두 FP4 및 FP6 연산 방식을 사용하는 Blackwell 아키텍처에 최적화되어 있기 때문에, FP8 연산을 사용하는 RTX 40 시리즈까지는 RR 적용에 따른 이득을 얻을 수 있으나, FP16이나 TF32 등의 연산 방식을 사용하는 RTX 20·30 시리즈는 RR 적용 시 이전 Super Resolution의 경우와 마찬가지로 프레임이 하락하는 모습을 보여줍니다.
반대로 RTX 40·50 시리즈는 RR 적용 시 프레임이 상승하는 모습을 보였는데요. 트랜스포머 모델에 통합되어 있는 Super Resolution과 디노이저 기능이 좋은 효율과 시너지 효과를 낸 결과라 할 수 있습니다. 따라서 게임 플레이 시 RR을 적용할 예정이라면 최소 RTX 40 시리즈 그래픽 카드가 필요할 것으로 판단됩니다. 특히 DLSS 4.5 RR의 경우, 앞서 살펴보았듯 1세대 트랜스포머 모델을 사용하는 기존 DLSS 4.0 RR보다 더 개선된 이미지 품질을 얻을 수 있음에도 전 해상도를 통틀어 -2 FPS 이내로 크게 두드러지지 않는 프레임 차이를 보이는 만큼 체감되는 이득이 좀 더 큰 것으로 평가됩니다.
NVIDIA DLSS 4.5 지원 예정인 콜 오브 듀티: 모던 워페어 4의 Steam 스크린샷
이제는 단순 성능 향상을 넘어, 품질까지 확보한 NVIDIA DLSS
모든 게임의 그래픽이 실사 지향적인 것은 아니지만 최근의 트리플 A급 게임들은 대부분 더욱 현실적인 그래픽을 지향하고 있으며, 일부 스크린샷만 보면 실사와 큰 차이를 느끼기 어려운 수준에 이르렀습니다. 이는 수많은 조명과 그림자, 빛 반사, 질감 표현, 후처리(Post-processing) 등 다양한 그래픽 기술들이 한데 어우러진 결과지만, 그래픽 품질이 높아진 만큼 그래픽 카드에 걸리는 부하는 더욱 커질 수밖에 없습니다. 서론에서 언급했듯이 현재는 GPU 클록 주파수 상승으로 인한 성능 향상을 기대하기 어렵기 때문에, AI 연산 가속용 Tensor 코어나 레이 트레이싱 전용 RT 코어를 탑재하는 것 외에 NVIDIA DLSS와 같은 기술로 그래픽 카드의 부하를 줄이는 양상이 되었습니다.
이러한 양상의 선두 주자인 NVIDIA DLSS는 여러 번의 버전 업을 거쳐오면서 게임 업계에 성공적으로 안착하였고, 이제는 성능 향상을 넘어 Ray Reconstruction과 같은 이미지 품질 향상에도 크게 신경 쓰는 모습을 보여주었습니다. 이번 테스트에 활용된 Alan Wake 2의 결과를 살펴보면 FP8 연산 가속을 지원하는 RTX 40 시리즈 이상의 그래픽 카드에서 RR 미적용 대비 더 높은 프레임을 제공했으며, 향상된 음영 표현과 디테일을 나타냈습니다. 특히 DLSS 4.5 RR은 다소 흐릿했던 이전 RR 대비 더욱 선명한 결과물을 보여주어 개선된 모습을 확실하게 보여주었습니다.
이로써 올해 1월부터 2세대 트랜스포머 모델의 Super Resolution 출시, 최대 6배수까지 지원하는 Frame Generation 출시에 이어, 이번 Ray Reconstruction의 출시로 이미 공개된 NVIDIA DLSS 4.5의 기술은 일단락되었는데요. DLSS 4.5 지원 게임에서 성능 확보과 품질 향상을 모두 제공할 수 있는 만큼 RTX 40·50 시리즈 그래픽 카드를 사용 중인 게이머라면 충분한 만족감을 얻을 수 있겠습니다. 또한 이러한 기술 발전이 쌓여갈수록, 직접적이든 간접적이든 소비자가 얻는 메리트 역시 커지기 마련이므로 이후에 전개될 NVIDIA의 행보에도 기대해 보며 글을 맺도록 하겠습니다.
저작권자ⓒ 쿨엔조이 https://coolenjoy.net/ , 무단전재 및 재배포 금지
