AMD RDNA 3 라데온 테스트해 보니⋯"마침내 콘텐츠 제작에도 쓸만해졌다"

AMD의 라데온 그래픽 카드가 콘텐츠 제작이나 실시간 스트리밍 작업에서 특별히 대단한 적이 없었다는 것이 냉엄한 현실이다. 엔비디아 쿠다(CUDA)가 동영상 편집의 세계를 지배하는 가운데, AMD 카드의 AMF/VCE 동영상 인코더는 계속해서 경쟁에서 밀렸다. 그러나 RDNA 3과 라데온 RX 7900 시리즈가 그런 상황을 바꿔 놓을지 모른다.
 

AMD의 차세대 GPU는 어떨까? 필자는 이 새로운 세대에 인코더 기능을 테스트해 보고 과연 업데이트가 얼마나 잘 되었는지 확인했다. 결과를 미리 밝히면 마음에 드는 점이 꽤 많다.
 

활짝 열린 AV1 시대

AMD가 자일링스(Xilinx)를 인수한 이후 RDNA 3 GPU에는 자일링스 하드웨어가 ‘새로운 듀얼 미디어 엔진’을 위해 탑재됐다. AMD의 발표회에서는 이 부분에 대한 부연 설명이 많지 않았다. 실제로 ‘듀얼’이란 표현이 의미하는 ‘동시 인코딩 및 디코딩’ 기능은 최신 GPU라면 거의 다 지원한다. 단지 엔비디아의 콘텐츠 크리에이터 친화적인 RTX 40시리즈 그래픽 카드의 듀얼 AV1 인코더와 비슷하게 뛰어나다는 인상을 주기 위해 이런 표현을 쓴 것으로 보인다.

결과적으로 하드웨어의 변화에 따라 이제 AMD의 새로운 라데온 카드에서도 AV1 인코딩이 가능해졌다. 현재는 OBS 29 베타에서만 지원되는 업데이트된 인코더 구현판이어서 손볼 데가 있지만 전망은 매우 밝다.
 

품질 측면에서는 솔직히 AMD, 엔비디아, 인텔 기기에서 인코딩된 낮은 비트 전송율 AV1 사이에 큰 차이점을 찾아보기 힘들지만, AMD가 이 대열에 합류했다는 것만으로도 충분히 희소식이다. 특히 녹화 및 기록 용도에서는 AMD의 새로운 AV1 인코더가 확실히 경쟁에 뒤지지 않는다.
 

향후 낮은 전송 속도(필자는 3.5mbps와 6mbps를 테스트했다)에서의 AV1 스트리밍에 어느 업체의 AV1 인코더가 최고 성능을 발휘할지 자세히 확인한 결과 AMD의 AV1 품질은 정확히 인텔과 엔비디아 중간에 있는 듯하다. 즉, 엔비디아의 인코딩에 비해서는 눈에 띄게 고르지 못하거나 흐릿해 보일 때가 많지만 인텔이 가끔 보이는 정도의 흐릿함은 아니다.
 

 

스트리밍?

추가로 반가운 소식은 RDNA 3 GPU의 H264 및 HEVC 인코딩 역시 새로운 하드웨어 기기에서 처리된다는 점이다. 지난 세대 AMD 인코딩에 비해 품질이 눈에 띄게 향상됐다.
 

아쉬운 점은 그런데도 품질이 여전히 엔비디아와 인텔에 크게 뒤진다는 것이다.
 

인텔과 엔비디아는 이런 시나리오에서 최고의 품질을 놓고 여전히 자웅을 겨루고 있지만 AMD는 아직 이 싸움에 끼지도 못하고 있다.
 

전송 속도가 높아지면 이런 점이 그리 중요하지 않을 수 있지만, 낮은 전송 속도에서 품질을 크게 좌우한다. 단, RDNA 2와 RDNA 3 사이의 품질 차이는 낮은 전송 속도에서 가장 두드러질 만큼 개선됐다.
 

스트리밍하려는 게임이나 콘텐츠의 속도가 더 빠르면 빠를수록 확실히 이러한 품질 차이는 중요하다. 즉, 속도가 느린 게임에서는 품질 차이가 덜 중요하다.
 

특히 엔비디아는 H264 품질 업데이트를 더 이상 하지 않고 향후 인텔 세대 역시 구식 코덱이 개선될 가능성이 크지 않아, 필자는 AMD의 품질 향상이 솔직히 더 기대된다.
 

이런 품질 향상이 더 좋은 하드웨어가 더 격렬한 소프트웨어 구성을 활용하기 때문인지, 이런 인코더가 새로운 하드웨어에서 실행되고 있는지는 아직 불확실하다. AMD는 ‘인공지능’ 또는 머신러닝을 활용해 동영상 품질을 개선했다고 주장한다. 그러나 필자는 H264 및 HEVC가 여전히 구형 AMD 하드웨어에서 인코딩되는 것으로 보인다. 작업 관리자에서 구형 코덱이 AV1가 아닌 다른 하드웨어에서 인코딩하는 것으로 표시되기 있기 때문이다.
 

향후 녹화, 기록, 그리고 AV1 스트리밍 분야에서 AMD의 새로운 그래픽 카드는 크리에이터가 원하는 것에 가까이 다가갈 것이다. 반면 H264-스트리밍에 대한 경쟁력이 떨어지는 것은 실망스럽다.
 

놀라운 인코딩 성능

AMD가 제공한 리뷰어용 가이드에는 H264 인코더가 4K 동영상을 H264 및 H265에서는 최대 180FPS, AV1에서는 최대 240FPS, 8K 동영상을 HEVC에서는 48FPS, AV1에서는 60FPS에서 인코딩할 수 있다고 명시돼 있다. 필자가 확인한 RTX 4000의 인코딩 기능만큼 인상적이지는 않지만, 여전히 훌륭하다. 그러나 세부 내용은 이보다 조금 더 복잡하다.

경탄할 만한 소식은 이번 세대는 인코딩 세션에 드라이버 잠금이 없어 보인다는 점이다. 이는 하드웨어에 랙이 발생하기 전까지는 동시 스트림 또는 동영상을 얼마든지 많이 인코딩할 수 있다는 의미다. 필자는 한 번에 최대 6개의 인코딩을 대기시켰는데 그제야 컴퓨터 내 라이젠 9 7950X CPU가 얼어붙으면서 소스 영상을 반복해서 디코딩하기 시작했다. 이는 훌륭한 결과다. 엔비디아는 월등한 하드웨어에도 불구하고 현재 한 번에 3개까지 인코딩 세션을 제한한다.

그러나 한 번에 두 개 이상의 세션을 인코딩하는 것은 까다롭다. AV1용의 새로운 ‘고품질’ 프리셋은 동영상 인코더 하드웨어를 겨우 한 개의 4K 60PFS 인코딩과 함께 100% 사용에 고정하기 때문이다. 필자는 OSB 스튜디오에서는 물론 AMD 리라이브(ReLive)에서도 인코더 랙 영역에 빠지기가 엄청나게 쉽다는 점을 발견했다. 즉, 조심하지 않으면 마치 슬라이드쇼처럼 매끄럽지 않은 동영상이 만들어진다는 의미다. 1440p 이상에서는 ‘스피드’ 프리셋(리라이브에서는 사용 불가)을 사용하는 것이 가장 안정적이었다. 이는 같은 수준의 품질을 유지하려면 더 높은 전송 속도를 사용해야 한다는 의미다.

긍정적인 측면을 보자면, 이 카드는 적어도 플렉스(Plex)가 이 하드웨어 대한 지원을 추가한다면, 다량의 동시 인코딩을 원하는 플렉스 서버 사용자에게 훌륭한 선택지일 것이다.
 

 

리라이브의 부활

AMD는 GPU와 함께 자체 녹화 및 스트리밍 소프트웨어를 제공한다. 엔비디아의 섀도우플레이(Shadowplay)와 비슷하지만 거의 모든 면에서 월등하다. 설정도, 능력도, 기능도 더 많다. 엔비디아는 섀도우플레이를 빠른 시일 내에 업데이트해야 한다.
 

동영상 편집?

나중에 AMD의 새로운 카드를 직접 손에 넣으면 전체적인 크리에이터 워크플로우 테스트를 해봐야 하겠지만, 플래그십 XTX가 아닌 라데온 RX 7900XT에서 실행되는 퓨젯 시스템(Puget System)의 퓨젯벤치(PugetBench)를 사용해 간단하게 다빈치 리졸브(DaVinci Resolve) 벤치마크를 실행했다. 이번에 실행한 테스트 벤치는 (원격 접속만 가능했으므로) 평소에 사용하던 12900K 테스트 벤치 대신 AMD 라이젠 7950X CPU를 사용했다는 점이지만 결과는 희망적이다.
 

라데온 7900 XT는 이전 세대의 RTX 3080 및 3090을 앞서는 것처럼 보였다. 인상적이다. 새로운 RTX 4080 및 4090에 필적하려면 아직 갈 길이 멀지만 더 거대한 라데온 RX 7900 XTX가 그 차이를 메울 수 있기를 기대한다. 카드에 탑재된 24GB 메모리 용량은 확실히 동영상 편집 용도로는 반갑다.
 

 

AMD의 귀환

AMD의 제품 전략을 고려하면 미디어와 스트리밍은 (엔비디아 대비) 한정된 AMD의 리소스를 감안해 나중에 추가된 것이라는 느낌을 여전히 지울 수 없지만, AMD는 마침내 이 분야에서의 성능 차이를 간신히 회복하기 시작하고 있다. 이번 AMD 카드가 특히 엔비디아의 값비싼 이번 세대 지포스 옵션에 비해 얼마나 저렴한지를 감안하면 AI 업스케일링, 동영상 편집, AV1 인코딩을 하는 사람들을 비롯한 크리에이터에게 자신 있게 추천할 수 있겠다는 느낌이 든다.
editor@itworld.co.kr