엔비디아, GTC 2024 개최…컴퓨팅 성능 향상이 가져올 기술 발전 총망라

엔비디아 CEO 젠슨 황이 지난 19일 오전 5시(한국시간) 실리콘밸리 SAP센터에서 열린 GTC 기조연설에서 새로운 블랙웰(Blackwell) 컴퓨팅 플랫폼을 비롯해 컴퓨팅 성능 향상이 가져올 기술 발전에 대해 발표했다.
 
젠슨 황은 강화된 컴퓨팅 성능은 소프트웨어부터 서비스, 로보틱스, 의료 기술에 이르기까지 모든 분야에 놀라운 혁신을 가져올 것이라며 “우리는 계속해서 컴퓨팅 비용을 낮추면서 지속 가능한 방식으로 더 많은 컴퓨팅을 수행할 수 있도록 끊임없이 확장 가능한 컴퓨팅을 위한 새로운 방법이 필요하다. 가속 컴퓨팅은 모든 산업에서 범용 컴퓨팅에 비해 획기적인 속도 향상을 가져온다”라고 말했다.

젠슨 황은 수조 개의 파라미터로 구성된 LLM에서 실시간 생성형 AI를 구현해 전 세계 AI 인프라에 대대적인 업그레이드를 제공할 엔비디아 블랙웰 플랫폼을 소개했으며, 엔비디아 추론 마이크로서비스에 대한 레퍼런스인 엔비디아 NIM도 발표했다. 엔비디아 NIM은 개발자가 모든 종류의 맞춤형 AI를 배포할 수 있도록 수억 개의 GPU와 연결해주는 새로운 소프트웨어 패키징이자 제공 방식이다. AI를 실제 세계에 접목해 고급 시뮬레이션 기능을 제공하는 옴니버스 클라우드 API(Omniverse Cloud API)도 소개했다.

올해 GTC는 트랜스포머의 개념을 처음으로 소개한 8명의 선구자들과 함께 젠슨 황이 진행하는 트랜스포머 관련 패널 토론, 300개 이상의 전시, 20개 이상의 기술 워크샵 등 900개 이상의 세션이 준비돼 있다.

젠슨 황은 기조연설을 시작하면서 여러 모델에서 처리 가능하며 다양한 데이터 유형을 처리할 수 있는 멀티모달(multi-modal) AI의 등장으로 AI의 적응력과 성능이 향상됐다고 설명했다. 이런 모델은 매개변수를 늘림으로써 더 복잡한 분석을 처리할 수 있다.
 

차세대 가속 컴퓨팅

블랙웰은 훈련용 FP8에서 칩당 이전 세대 대비 2.5배, 추론용 FP4에서는 5배의 성능을 제공한다. 이 제품은 호퍼보다 두 배 빠른 5세대 NV링크(NVLink) 인터커넥트를 갖추고 있으며 최대 576개의 GPU까지 확장할 수 있다. 또한 엔비디아 GB200 그레이스 블랙웰 슈퍼칩(Grace Blackwell Superchip)은 초당 900GB 초저전력 NV링크 칩투칩(chip-to-chip) 인터커넥트를 통해 두 개의 블랙웰 엔비디아 B200 텐서 코어(Tensor Core) GPU를 엔비디아 그레이스 CPU에 연결한다.

최상의 AI 성능을 위해 이날 발표된 GB200 기반 시스템을 최대 800Gb/s의 속도로 고급 네트워킹을 제공하는 엔비디아 퀀텀-X800 인피니밴드(Quantum-X800 InfiniBand)와 스펙트럼-X800 이더넷(Spectrum-X800 Ethernet) 플랫폼과 연결할 수 있다.

엔비디아는 블랙웰을 확장하기 위해 NV링크 스위치(NVLink Switch)라는 새로운 칩을 개발했다. 이 칩은 초당 1.8TB 속도로 4개의 NV링크 인터커넥트를 연결하고 네트워크 내 감소를 수행해 트래픽을 제거할 수 있다.

엔비디아 스위치와 GB200은 젠슨 황이 ‘하나의 거대한 GPU’라고 부른 멀티노드의 수냉식 랙 규모 시스템인 엔비디아 GB200 NVL72의 핵심 구성요소다. 이는 블랙웰을 활용해 단일 랙에서 720페타플롭의 AI 훈련 성능과 1.4엑사플롭의 AI 추론 성능을 제공하는 조 단위 파라미터 모델을 위한 초강력 컴퓨팅을 제공한다.

더 나아가, 엔비디아는 차세대 AI 슈퍼컴퓨터인 엔비디아 GB200 그레이스 블랙웰 슈퍼칩 기반 DGX 슈퍼팟(DGX SuperPOD)도 발표했다. 이 슈퍼컴퓨터는 수조 개의 파라미터 모델을 처리하고 초거대 생성형 AI 훈련과 추론 워크로드를 위한 지속적인 가동 시간을 보장한다.

새로운 고효율 수냉식 랙 스케일 아키텍처를 특징으로 하는 새로운 DGX 슈퍼팟은 엔비디아 DG GB200 시스템으로 구축됐다. 또한 FP4 정밀도에서 11.5 엑사플롭의 AI 슈퍼컴퓨팅과 240테라바이트의 고속 메모리를 제공하며, 랙을 추가하면 더 확장할 수 있다.

젠슨 황은 “앞으로 데이터센터는 AI 공장으로 여겨질 것”이라며, “이들의 목표는 수익을 창출하는 것이며, 이 경우에는 인텔리전스를 창출하는 것”이라고 말했다.

블랙웰은 모든 주요 글로벌 클라우드 서비스 제공업체, 선도적인 AI 기업, 시스템과 서버 공급업체, 전 세계 지역 클라우드 서비스 제공업체, 통신회사들이 도입할 예정이다.

소프트웨어를 만드는 새로운 방법

젠슨 황은 생성형 AI가 애플리케이션 작성 방식을 바꾼다고 강조하며 기업이 소프트웨어를 작성하는 대신 AI 모델을 조립하고, 미션을 부여하고, 작업 결과물의 예시를 제시하고, 계획과 중간 결과를 검토한다고 설명했다. 엔비디아 NIM은 이런 패키지로, 엔비디아의 가속 컴퓨팅 라이브러리와 생성형 AI 모델을 기반으로 구축된다고 젠슨 황은 밝혔다.  

마이크로서비스는 업계 표준 API를 지원하므로 쉽게 연결할 수 있고, 엔비디아의 대규모 쿠다(CUDA) 설치 기반에서 작동한다. 또한, 새로운 GPU에 맞게 다시 최적화되고, 보안 취약점과 노출 여부를 지속적으로 검사한다. 

젠슨 황은 고객이 기성품으로 제공되는 NIM 마이크로서비스를 사용하거나, 엔비디아의 도움으로 자체 AI와 코파일럿을 구축할 수도 있다고 말했다. 코파일럿은 특정 기업만이 알 수 있는 전문 기술을 모델에 학습시켜 가치 있는 새로운 서비스를 만들 수 있다.

주요 기술 기업들은 이미 이를 활용하고 있다. 젠슨 황은 이미 코히시티, 넷앱, SAP, 서비스나우, 스노우플레이크가 코파일럿과 가상 비서를 구축하는 데 엔비디아가 어떻게 도움을 주고 있는지 설명했다. 그리고 업계도 이에 동참하고 있다. 젠슨 황은 AI의 가장 큰 영향력은 의료 분야에서 나타날 것이라며, 이미 영상 시스템, 유전자 염기서열 분석 기기 분야에서 작업 중이며 선도적인 수술 로봇 전문기업들과 협력하고 있다고 덧붙였다.

엔비디아는 새로운 유형의 생물학 소프트웨어를 출시한다. 엔비디아는 전 세계 의료 기업이 어디서나 모든 클라우드에서 최첨단 생성형 AI를 활용할 수 있는 20여 개의 새로운 마이크로서비스를 출시했다. 이들 서비스는 고급 영상, 자연어와 음성 인식, 디지털 생물학 생성, 예측, 시뮬레이션을 제공한다.

옴니버스, 실제 세계에 AI 접목

젠슨 황은 AI의 다음 물결은 실제 세계에 대해 학습하는 AI가 될 것이라고 전망했다. 황은 “로봇이 로봇이 되는 방법을 배울 수 있도록 로봇을 위해 세계를 디지털로 표현하는 시뮬레이션 엔진이 필요하다”라며, “우리는 이 가상 세계를 옴니버스라고 부른다”라고 말했다.

엔비디아는 엔비디아 옴니버스 클라우드를 API로 제공한다고 발표했다. 이를 통해 산업용 디지털 트윈 애플리케이션과 워크플로우를 제작하는 플랫폼의 적용 범위를 소프트웨어 제조업체의 전체 에코시스템으로 확장할 것이라고 밝혔다.

개발자는 5가지 새로운 옴니버스 클라우드 API를 통해 옴니버스의 핵심 기술을 직접 쉽게 통합할 수 있다. 여기에는 디지털 트윈을 위한 기존 설계, 자동화 소프트웨어 애플리케이션 또는 로봇이나 자율주행차와 같은 자율 기계의 테스트와 검증을 위한 시뮬레이션 워크플로우가 포함된다.

또한 젠슨 황은 엔비디아가 애플 비전 프로에 옴니버스를 제공한다고 발표했다. 새로운 옴니버스 클라우드 API를 통해 개발자는 대화형 산업용 디지털 트윈을 VR 헤드셋으로 스트리밍할 수 있게 된다.
 

다양한 분야로 활용되는 로보틱스 

젠슨 황은 움직이는 모든 것이 로봇이 될 것이라고 말했다. 대표적인 것이 바로 자동차 산업이다. 엔비디아 컴퓨터는 이미 자동차, 트럭, 배달 로봇, 로보 택시 등에 탑재돼 있다. 젠슨 황은 자율주행차 기업인 BYD가 자율주행차 개발을 위해 엔비디아의 차세대 컴퓨터를 선택해 드라이브 토르(DRIVE Thor)를 기반으로 자사의 차세대 전기차 플릿을 구축하고 있다고 소개했다.

또한 로봇이 주변 환경을 더 잘 볼 수 있도록 최첨단 멀티 카메라 시각 거리 측정, 3D 재구성과 점유 지도, 깊이 인식 기능을 갖춘 아이작 퍼셉터(Isaac Perceptor) 소프트웨어 개발 키트도 발표했다. 이와 함께 로봇 팔인 매니퓰레이터의 적응성을 높이기 위해 엔비디아는 최첨단 로봇 팔 인식, 경로 계획과 운동 제어 라이브러리인 아이작 매니퓰레이터(Isaac Manipulator)와 휴머노이드 로봇을 위한 범용 파운데이션 모델 GR00T를 발표했다. GR00T는 로보틱스와 임바디드 AI(Embodied AI)의 혁신을 주도하는 엔비디아의 노력을 더욱 진전시키기 위해 설계됐다.

이런 노력을 뒷받침하기 위해 젠슨 황은 엔비디아 토르 시스템 온 칩(SoC) 기반의 휴머노이드 로봇을 위한 새로운 컴퓨터인 젯슨 토르(Jetson Thor)와 엔비디아 아이작 로봇 플랫폼의 중요한 업그레이드를 공개했다.

젠슨 황은 “컴퓨터 그래픽, 물리학, 인공지능의 교차점이 바로 엔비디아의 핵심”이라며, “이 모든 것이 지금 이 순간 이뤄졌다”라고 말했다.
editor@itworld.co.kr