DLSS 위협 업스케일링 기술 혁신, AMD FSR 2.0

2022-05-18 13:00
이상호 기자 ghostlee@bodnara.co.kr

TV나 동영상 작업 등에 쓰여온 업스케일링 기술이 게임에도 본격적으로 적용되고 있다.

업스케일링에 대해 간단히 정리하면, 표시 해상도보다 낮은 해상도로 그려내어 표시 해상도로 키워 출력하는 것이다. 이러면 그래픽 카드가 처리해야할 작업량이 줄어들어 표시 해상도는 같아도 훨씬 빠른 성능을 내줄 수 있다. 여기까지만 보면 기존에도 있던 동적 해상도나 랜더링 비율 조절 옵션처럼 보이기 쉽지만, 업스케일링 기술은 화면 이상이나 품질 저하를 보정하기 위한 기술이 더해진다.

수사 드라마에서 CCTV나 카메라에 찍힌 용의자 얼굴 혹은 차량 번호판이 작거나 흐려서 제대로 구별되지 않는 것을 크기를 키우고 선명하게 보정해주는 기술을 떠올리면 바로 이해될 것이다.

이부분에서 선두 주자는 엔비디아의 DLSS가 꼽혀왔다. 지포스 RTX 20 시리즈부터 탑재된 텐서 코어를 활용한 인공지능 기반 기술을 적용하였고, 특히 레이 트레이싱 적용 후 대폭 낮아진 성능을 보완하기 위한 기술로 주목받았지만, 구동에 텐서 코어라는 하드웨어가 필요해 엔비디아 그래픽 카드에서만 사용 가능하다.

이에 맞서 AMD에서 2021년 내놓은 기술이 바로 피델리티FX 슈퍼 레졸루션(FidelityFX Super resolution, 이하 FSR)이다.

하이브리드 방식으로 레이 트레이싱을 구현하는 AMD 라데온 RX 6000 시리즈 특성상 레이 트레이싱 적용시 성능 하락폭이 엔비디아에 비해 크고, 떄문에 성능 보완을 위한 업스케일링 기술이 더욱 절실해 자체적으로 개발해 내놓은 것.

단지, 구현 방식 특성상 성능이 낮은 메인스트림급 모델에서 주로 사용되는 Full HD 해상도와 '성능' 옵션에서는 이미지 품질이 대폭 하락하는 현상이 지적되었다. 그래도 '품질' 옵션에서는 나쁘지 않은 품질과 성능을 확보할 수 있는데다, AMD 뿐 아니라 경쟁 그래픽 카드에서도 사용 가능하다는 범용성 덕에 빠르게 도입되었다.

AMD에서 내놓은 FSR이 약 1년 만에 2.0으로 업데이트 되어 게이머들 앞에 등장했다.

FSR 2.0, 약점이던 저해상도 고성능 옵션 품질 대폭 개선

FSR 1.0과 2.0을 가르는 가장 근본적인 차이는 업스케일링 방식이다.

FSR 1.0은 공간(spatial) 업스케일링 방식으로, 간단히 이해하자면 화면 하나 하나에 대해 따로 적용하는 것이다. 그러다보니 앞서 이야기한 저해상도, 저품질 옵션에서 품질 저하가 눈에 띄는 한계가 있었다.

FSR 2.0의 업스케일링 기술은 FSR 1.0을 기반으로 하지만, 여기에 임시(temporal) 데이터 업스케일링 기술이 더해졌다. 역시 간단히 설명하자면 이전 프레임과 현재 프레임의 정보를 비교해 업스케일링 하는 것으로, 깊이와 화면 움직임, 색상 등의 변화를 반영해 저해상도, 저품질 옵션에서도 뛰어난 품질을 구현해낼 수 있게 업그레이드 된 것이 가장 큰 차이점이다.

FSR 2.0 역시 FSR 1.0과 같이 특정 브랜드 하드웨어를 제약하지 않고 MIT 라이센스하에 오픈소스로 제공되어 FSR 1.0에 이어 광범위하게 사용될 것으로 예상된다. 특히 FSR 1.0의 약점인 품질 이슈가 보완된 덕에 더 빠르게 도입될 것으로 기대된다.

위 스크린 샷은 FSR 2.0을 지원하는 첫 타이틀인 데스루프의 화면으로, Full HD 해상도에서 '울트라' 프리셋을 적용한 네이트브 화면과 FSR 1.0 및 2.0의 '성능' 옵션화면을 100% 크롭한 것이다.

FSR 1.0에서는 철조망의 디테일이 싸그리 날아건 것과 달리 FSR 2.0에서는 네이티브 품질과 비교해도 오히려 더 높은 디테일을 보여준다. 업스케일링의 한계상 바닥 텍스처쪽에서 디테일이 약화된 모습도 보이지만, FSR 1.0에 비해서는 보다 네이티브 품질에 근접한 모습을 보인다.

FSR 2.0은 특별히 하드웨어를 가리지 않는 덕에 엔비디아 지포스 RTX 그래픽 카드에서도 사용할 수 있고, 마침 데스루프는 엔비디아 DLSS의 최신 버전인 2.3.0.0을 지원해 두 업스케일링 기술의 품질도 비교했다.

비교해보면 DLSS와 FSR 2.0을 적용했을 때의 품질이 거의 흡사한데, 이정도면 FSR이 DLSS의 품질을 따라잡았다고 봐도 무방할 것이다.

참고로, 각 옵션이 적용된 이미지 부분을 클릭하면 원본 이미지를 확인할 수 있다. 원본은 무손실 PNG 캡처이므로 각 파일 크기가 약 5MB에 달하므로 모바일 네트워크에서 다운로드할 때는 데이터 요금제에 주의하길 바란다.

참고로, FSR 2.0은 FSR 1.0과 같이 해당 옵션을 적용할 경우 외부 샤픈 옵션이 비활성화된다. 데스루프에서는 FSR 옵션 적용시 'FSR 샤픈' 필터 옵션을 외부에서 조절할 수 있도록 튜닝했다. 기본값은 10이고, 사용자가 0까지 낮출 수 있다.

DLSS 역시 외부 샤픈 필터는 비활성되지만 DLSS을 위한 별도의 샤픈 조절 옵션을 제공하지 않는다. 때문에 위 비교 스크린샷에서의 선명도는 어느정도 감안하고 볼 필요가 있지만, 그점을 감안해도 FSR 2.0의 품질이 DLSS에 준하는 수준으로 개선되었다고 판단된다.

FSR 1.0 vs FSR 2.0 성능은?

FS 1.0에서 지적받았던 화면 품질을 대폭 개선한 FSR 2.0의 효율은 어떨까?

먼저 4K 해상도 게이머를 겨냥한 라데온 RX 6800 XT, Full HD 게이머를 겨냥한 라데온 RX 6600을 이용, 두 기술이 공통적으로 지원하는 '품질'과 '성능' 옵션을 적용해 테스트한 결과를 정리했다.

FSR 2.0은 결과물을 만들어 내기까지 더 많은 요소를 고려하고 반영하는 만큼, 성능 효용은 FSR 1.0과 비교시 상대적으로 떨어질 수 밖에 없다. 그럼에도 4K에서 품질 옵션과 성능 옵션을 적용시 각각 42%와 73%에 달하는 추가 성능을 경험할 수 있다. Full HD에서는 품질 옵션으로 24%, 성능 옵션으로 40% 가까운 추가 성능을 경험할 수 있었다.

FSR 2.0의 효율은 그래픽 카드를 포함한 시스템 구성에 따라 차이가 발생할 수 있다는 점을 감안해야겠지만, 메인스트림 모델부터 하이엔드 모델까지 상당한 성능 향상을 기대할 수 있다는 점에서 주목할 가치가 있다.

마지막으로 DLSS와 비교했을 때 FSR 2.0의 효율은 어떨까?

지포스 RTX 3080 FE를 이용해 데스루프의 4K Ultra 세팅에서, 공통적으로 지원하며 스케일 팩터도 동급인 '품질'과 '성능' 옵션의 성능을 비교했다.

테스트 결과에 따르면 두 기술의 성능은 거의 비슷한 만큼 효율은 거의 동급으로 볼 수 있다. 단지, DLSS는 AI 처리를 위한 전용 코어가 사용되는 것을 감안하면 기술의 효율 자체는 FSR 2.0이 더 높은 것으로 판단할 수 있다.

기대 이상의 성장 FSR 2.0, 게임용 업스케일링 대세 전망

AMD는 뒤늦게 FSR 기술을 내놨지만 범용성과 어렵지 않은 이식 난이도를 무기로 여러 개발사들에서 게임에 적용하고 있으며, 2.0으로 업데이트되면서 1.0 버전의 단점으로 지적받았던 이미지 품질도 대폭 개선되어 전용 하드웨어가 필요한 경쟁 기술과는 취향에 따라 선택할 정도로 끌어 올렸다.

데스루프를 통해 게임 시장에 도입된 FSR 2.0은 우선 13개의 게임과 개발사에서 도입을 예고했으며, 적응형 동기화 기술 경쟁에서 전용 하드웨어가 필요한 경쟁 기술을 제치고, 범용성을 내세운 AMD의 프리싱크기 시장의 대세로 자리잡은 것 처럼, 범용성을 유지한 FSR 2.0도 게임용 업스케일링 기술의 대세가 될 것으로 예상된다.

테스트 장소나 패턴 영향일 수 있지만, 기사를 위해 데스루프를 수십여 차례 돌리며 경험한 동안 눈에 띄는 이상 증상도 없었다. 물론 기자가 경험하지 못했다고 FSR 2.0에 단점이 없다고 단정할 수는 없다. 단적인 예로 템퍼런 업스케일링 방식인 DLSS에서 이슈화 되었던 고스트 현상을 다른 게이머들은 FSR 2.0에서 경험할 수 있을 것이다.

분명한 것은 AMD는 FSR 2.0에서 게임용 업스케일링 기술의 대등한 경쟁을 위한 출발선에 섰다는 것이다.