“낮은 비트레이트로 선명한 4K 영상을” 마침내 현실이 된 AV1 스트리밍

유튜브가 업그레이드된 스트리밍 프로토콜 지원을 시작하면서 실시간 스트리밍 영상의 화질이 훨씬 개선될 전망이다. 곧 OBS 스튜디오(OBS Studio) 29.1이 업데이트되면 ‘GPU 스트리밍의 미래’라고 불리는 AV1 영상을 방송할 수 있게 된다. 

이런 변화가 의미 있는 이유는 과거 트위치에서 H.264로 고화질 1080p 스트리밍을 제작하기에 부족하다고 여겨졌던 비트 전송률인 6Mbps로도 훌륭한 화질의 4K 60fps 동영상을 스트리밍할 정도로 개선폭이 크기 때문이다.
 

AV1란 무엇인가?

AV1는 현재 20년 가까이 주요 동영상 표준이라는 왕좌에서 군림하는 H.264를 끌어내릴 목적으로 개발된 새로운 오픈소스 동영상 코덱이다. 구글, 넷플릭스, ARM, 애플, 아마존, 인텔, 마이크로소프트, 엔디비아 등 스트리밍 및 동영상과 밀접한 관계가 있는 주요 IT 업체 다수가 지원하는 컨소시엄 AOM(Alliance for Open Media)이 개발했다.

그동안 AV1 인코더는 일반적인 CPU에서 고속 실행하기가 매우 어려웠다. 그러나 최근 몇 년간 사용할 수 있는 인코더의 효율이 향상됐다. 또 지난 9개월간 AMD, 인텔, 엔비디아는 하드웨어 AV1 인코딩 기능이 내장돼 성능 저하 없이 AV1 동영상을 실시간으로 인코딩할 수 있는 그래픽 카드를 출시했다. 
 

 
고급 RTMP(Enhanced RTMP)

RTMP(Real Time Messaging Protocol) 스트리밍 프로토콜 사양이 10년만에 처음으로 업데이트됐다. 고급 RTMP(Enhanced RTMP)라고 명명된 이 업데이트는 HEVC/H.265, VP9, AV1 등 지원하는 동영상 코덱이 늘어난 것이 특징이다. 유튜브는 RTMP를 지원한다.

HEVC는 유튜브에서 이미 지원하고 있었지만, 이를 위해 사용하는 HLS 프로토콜은 일부 인터넷 연결 시 원활하게 작동하지 않을 때가 있었고 시청자에게 스트리밍할 때 지연이 발생하는 것이 일반적이었다. 필자가 테스트해 보니 고급 RTMP 스트리밍의 지연은 일반 RTMP 스트리밍과 동일한 수준으로 보인다.

OBS 29.1

곧 출시될 OBS 스튜디오 29.1 업데이트에서 사용자는 ‘스트림’ 설정에서 ‘유튜브 – RTMPS’를 설정해 이런 코덱을 사용할 수 있다. SVT 및 AOM CPU 기반 AV1 인코더 등 사용할 수 있는 HEVC 및 AV1 인코더는 모두 선택할 수 있다. 필자가 테스트한 현시점에는 엔비디아와 인텔 하드웨어 AV1 인코더만 지원하지만, 곧 AMD도 지원할 예정이다.
 

AV1 인코딩을 지원하는 그래픽 카드는 다음과 같다.
 

• 엔비디아 지포스 RTX 40 시리즈
• AMD 라데온 RX 7000 시리즈
• 인텔 아크 알케미스트

엔비디아 지포스 RTX 3000 및 AMD 라데온 RX 6000 그래픽 카드는 재생을 위한 AV1 디코딩을 지원하지만, 하드웨어 상에서의 인코딩은 지원하지 않는다는 사실도 주목할 만하다. 그러나 엔비디아의 구형 GTX 10 시리즈(GTX 1050 Ti 이상) 정도로 오래된 그래픽 카드의 사용자도 이번 업데이트로 HEVC 스트리밍을 할 수 있다. 구형 GPU로도 고화질 스트리밍을 즐길 수 있게 된 것이다.

더 낮은 비트레이트

몇 시간짜리 스트리밍 영상을 여러 번에 걸쳐 테스트해 본 결과, 필자는 그 어느 때보다 훨씬 더 낮은 비트레이트로 선명한 고화질 동영상을 감상할 수 있었다. 

1440p 60fps에서 스트리밍했을 때는 불과 4~8Mbps로도 화질이 매우 좋았으며, 4K 60fps는 10~20Mbps로도 멋진 화질을 구현했다. 업로드 대역폭이 제한된 사용자는 물론 녹화 용량을 소화할 하드 드라이브 공간이 부족한 사용자에게도 혁신적인 변화다.

현재 유튜브에 스트리밍되는 AV1 동영상은 시청자에게 AV1로 전달되지 않는다. 유튜브에 업로드 되는 동영상과 스트리밍 영상은 항상 트랜스코딩을 거치므로 해상도가 1080p를 초과하는 1440p 및 4K 영상은 시청자에게 VP9로 전달된다(트위치에서는 기본적으로 압축하지 않은 원본 화질 그대로 전송된다). 1080p 이하의 스트리밍 영상은 시청자에 따라 AVC(H.264) 또는 VP9로 전달된다. 이는 생각보다 화질에 큰 영향을 미치지 않는다. VP9는 블록 및 잔상 없이 영상의 품질을 보존하는 기능이 뛰어나다.
 

테스트 결과, 필자가 OBS에 정확히 명시하여 입력한 CBR 타겟을 준수하는 데 여러 AV1 인코더가 확실히 애를 먹는 모습이 눈에 띄었다. 그러나 큰 문제는 아니었고 전반적으로 효율이 개선된 덕분에 충분히 상쇄됐다. 1440p60 영상을 대상으로 500kbps까지 낮춰서 테스트했더니 확실히 화질은 선명하지 않았으나 그래도 현재 1080p 트위치 스트리밍 영상보다는 놀랄 정도로 봐 줄 만하다고 느꼈다.
 

스트리밍의 미래

이런 업그레이드로 인해 콘텐츠 제작자는 대역폭을 아끼면서 유튜브 생방송 스트리밍 영상의 품질을 높일 수 있다. 하드웨어의 AV1 성능이 계속 좋아지면 점점 많은 스트리머가 이 기능을 사용하게 될 것이다.

하지만 AV1의 미래에 관해 아직 풀리지 않은 의문이 있다.
 

먼저 애플이 언제부터 AV1을 지원할지 궁금하다. 다수의 게임 콘솔, 스마트 TV, 기타 안드로이드 기기는 계속해서 여러 세대의 지원을 제공하는 와중에도 AOM에 2018년 가입한 초기 회원인 애플은 하드웨어 사양 내에 AV1 디코딩 지원을 명시한 적이 단 한 번도 없다.

필자는 애플이 최신 세대의 하드웨어(M2든 아이폰 14 혹은 15든 그 시점의 최신 세대)가 그동안 AV1을 계속 지원했고 이제 막 활성화 중이라는 사실을 WWDC 같은 행사에서 발표할 ‘적절한 순간’을 기다리고 있다고 해도 놀라지 않을 것이다. 그러나 지금까지 애플은 이 주제에 대해 함구하고 있다.

트위치도 마찬가지다. 거대 스트리밍 업체인 트위치는 수석 동영상 엔지니어 유에시 쉔이 2021년 틱톡으로 이직한 이후 기존 AV1 로드맵에 대해 함구하고 있다. 필자는 트위치의 AV1 지원 계획이 아직 현재 진행형이기를 바란다. 업데이트된 RTMP 사양은 완전히 새로운 프로토콜보다 구현하기 더 쉬울 것이기 때문이다. 안타깝게도 현시점에서는 알 길이 없다. 트위치가 이 업데이트를 구현하려면 할 일이 “많이” 남아 있다고 지적한 동영상 인코딩 및 재생 소프트웨어 엔지니어 M3U8의 말이 안타까움을 더한다.
 

Probably a very long time. They need to implement the ingest spec into their custom RTMP server, update the player, change the delivery format to fmp4 (or cmaf) and update the transmuxing pipeline.

— M3U8 (@m3u8) March 27, 2023

트위치가 곧 AV1을 지원한다면 스트리밍 영상 품질에 있어서 최초로 유튜브를 앞설지 모른다. 트위치는 스트리밍 영상을 압축하지 않는 원본 화질을 기본 설정으로 하기 때문에 낮은 비트레이트로 AV1 영상을 스트리밍한다는 장점을 시청자가 더 확연하게 느낄 것이다. 

시간이 지나야 판가름 나겠지만 경쟁이 커지고 있다. 우선은 유튜브에서 AV1 스트리밍 영상을 마음껏 즐기자.
editor@itworld.co.kr