글로벌 칼럼 | 쌍방향 소통하는 챗봇, UX는 진화한다

ⓒ Getty Images Bank 사회, 경제, 문화 등 모든 부문에서 디지털 전환이 이루어지면서 디지털 경제의 기반이라 할 수 있는 데이터센터 수요가 급증하고 있다. 그러나 데이터센터 증가는 각국 정부와 기업에 ‘지속가능성’이라는 새로운 고민 거리를 안겨주었다.  지속가능성은 데이터센터의 설계, 구축, 운영에서 가장 중요한 전제 조건이다. 기업은 환경에 미치는 영향을 최소화하기 위해 에너지 효율, 재생 에너지, 폐기물 관리, 수자원 절약에 점점 더 많은 관심을 기울이고 있다. 이런 고민은 데이터센터 구축과 운영 주체만 하는 것이 아니다. 프로세서 같은 데이터센터의 핵심 솔루션을 공급하는 인텔 같은 기업에게도 중요 과제다.  프로세서는 데이터센터 지속가능성의 출발점이라 할 수 있다. CPU, GPU 같은 프로세서는 데이터센터 전력 소모에서 가장 높은 비중을 차지한다. 지속가능성 보장을 위한 인텔의 고민이 담긴 솔루션 중 하나가 4세대 인텔 제온 스케일러블 프로세서다. 프로세서 측면에서 보면 데이터센터 지속가능성은 크게 에너지 효율성과 성능으로 나누어 볼 수 있다. 4세대 인텔 제온 스케일러블 프로세서는 이전 세대보다 최대 40% 더 높은 에너지 효율성을 제공한다.  더불어 2022년 기준으로 4세대 인텔 제온 프로세서는 90% 이상이 재상 가능한 전기를 사용해 제조하여 환경에 미치는 영향을 줄였다. 이전 해인 2021년에는 재사용, 회수, 재활용을 통해 제조 폐기물 흐름의 65%에 순환 경제 관행을 적용하기도 하였다. 인텔은 2030년까지 매립폐기물 총량 “제로화(Net Zero)”를 달성하고, 전 세계 사업장에서 100% 재생 가능한 에너지를 사용하여 40억 kWh의 전력을 절약하는 것을 목표로 하고 있다.    ⓒ Intel 성능의 경우 4세대 인텔 제온 스케일러블 프로세서는 이전 세대보다 최대 40% 향상된 성능을 제공하여 조직이 애플리케이션을 더 빠르고 효율적으로 실행할 수 있도록 지원한다. 또한, 전원 모드를 통해 워크로드 성능에 끼치는 영향을 최소화하는 가운데 소켓 전력을 절감할 수도 있다.  지속가능한 데이터센터를 위한 프로세서를 설계하는 여정은 에너지 효율과 성능 간의 황금비를 찾는 것에 비유할 수 있다. 인텔은 더 나은 와트당 성능을 제공하기 위해 CPU 아키텍처를 지속적으로 혁신하고 개선하고 있다. 더불어 CPU에서 특정 작업을 오프로드하고 데이터센터의 전반적인 에너지 효율성을 개선하기 위해 AI, 네트워크, 스토리지 및 보안 같은 다양한 가속기 개발에 투자하고 있다. 이중 가속기는 지속가능한 데이터센터를 현실로 만드는 데 있어 중요한 역할을 한다.  AI, 네트워크, 스토리지, 보안 등 CPU에 내장된 다양한 가속기는 여러 방식으로 데이터센터의 지속가능성에 기여한다. 내장 가속기는 범용 프로세서보다 특정 작업을 더 효율적이고 빠르게 수행하도록 설계된 프로세서의 로직 블록이며 더 나은 와트당 성능을 제공한다. 이 블록은 더 강력한 와트당 성능을 제공할 수 있도록 설계한 인텔 4세대 제온 프로세서의 기본 아키텍처와 시너지를 일으켜 AI, HPC, 보안, 네트워크 등 중요 워크로드를 더 높은 성능으로 운영할 수 있다. 인텔의 평가에 따르면 가속기를 이용하면 사용하지 않을 때와 비교해 와트당 성능이 1.2배에서 최대 9.23배 향상된다. 또한, 가속기는 작업을 더 효율적으로 처리하여 컴퓨팅 밀도를 높여 더 적은 수의 서버로 더 많은 워크로드를 처리할 수 있다. 이는 곧 전력 소비, 냉각 요구 사항, 물리적 공간을 줄일 수 있는 효과로 이어진다.  4세대 인텔 제온 스케일러블 프로세서는 소프트웨어 정의 환경으로 진화하는 가운데 AI, 첨단 분석, 엣지 컴퓨팅 등 새로운 트렌드를 수용해야 하는 차세대 데이터센터를 위한 가속기 라인업을 갖춘 솔루션이라 할 수 있다.  4세대 인텔 제온 스케일러블 프로세서에는 자연어 처리, 추천 시스템 및 이미지 인식과 같은 AI 워크로드에 이상적인 인텔 AMX 기술 기반 가속기가 적용되어 최대 14배의 와트당 성능 향상이 가능하다. 4세대 인텔 제온 스케일러블 프로세서에는 인텔 퀵어시스트 테크놀로지(QAT), 다이나믹 로드 밸런서(DLB) 및 인텔 데이터 스트리밍 가속기(DSA)와 같은 여러 가지 내장 가속기도 통합되었다. 이러한 가속기는 네트워킹 워크로드의 성능을 높이고, 네트워크 가상화와 엔드 투 엔드 가상화를 위한 플랫폼을 제공하며, 보다 효율적인 데이터 처리를 지원한다. 가속기 외에도 인텔은 성능 개선을 위해 CXL, DDR5, PCIe Gen 5 등을 통해 높은 성능과 더 큰 메모리 대역폭을 통해 보다 향상된 단위 시간당 처리성능을 제공한다 4세대 인텔 제온 스케일러블 프로세서는 데이터센터 지속가능성을 운영 측면에서 지원하기 위한 도구와 옵션도 제공한다. 4세대 인텔 제온 스케일러블 프로세서는 원격 측정 기능, 최적화된 전력 모드, 워크로드 가속화를 위한 자동 절전 기능, CSP 인스턴스에서 워크로드를 최적화하는 도구 등을 제공한다. 예를 들자면 인텔 4세대 제온 프로세서는 원격 측정 정보를 수집하고 AI 기반 첨단 분석 기능을 제공하는 인텔 전원 관리 툴을 통해 프로세서의 전기 사용량을 지능적으로 제어한다. 가령 CPU 전력모드 중 P-state 를 적용하면 전기 사용량 분석을 통해 사용률이 낮은 기간에는 주파수를 동적으로 줄여 전력 소비를 낮춘다. C-state 를 적용하면 개별 코어 또는 전체 CPU를 유휴 상태로 전환할 수 있어 서버 전력 소비를 큰 폭으로 줄일 수 있다. 지능적 전원 관리는 데이터센터 에너지 소비에 큰 영향을 끼친다. 일본의 대형 통신업체인 KDDI는 AI 기반 원격 측정을 통해 5G 데이터센터의 전기 사용량을 20%가량 줄였다.  이 밖에도 4세대 인텔 제온 SKU는 액체 냉각용으로 설계되어 데이터센터의 전력 사용 효율성(PUE)를 개선하는데도 유리하다. 인텔은 데이터센터의 다양한 요구에 맞는 지속가능성을 추구할 수 있도록 다양한 제품 SKU와 함께 온디맨드를 통해 제품 수명주기 동안 일부 SKU에서 기능을 점진적으로 활성화할 수 있는 옵션도 제공한다.  한편, 데이터센터의 지속가능성은 단순히 에너지 효율성이나 환경적 영향만이 아니라 정보 보안 등 운영의 모든 측면을 포괄해야 한다. 이런 이유로 인텔은 4세대 인텔 제온 스케일러블 프로세서에 소프트웨어 가드 익스텐션(SGX)을 적용했다. SGX는 CPU와 메모리 내에 암호화된 엔클레이브를 생성해 민감한 데이터를 보호한다. 이를 이용하면 기업들은 규제로 인해 사용이 제한되었던 데이터까지도 활용할 수 있다.    ⓒ Intel 데이터센터의 지속가능성은 디지털 전환의 핵심이다. 4세대 인텔 제온 스케일러블 프로세서는 데이터 센터를 더욱 효율적이고, 더욱 강력하며, 지속가능하도록 만드는 중추 역할을 맡을 준비가 된 솔루션이다. 

ⓒ Getty Images Bank 사파이어 래피즈(Sapphire Rapids)라는 코드명으로 알려진 인텔의 4세대 제온 스케일러블 프로세서가 최근 출시됐다. 이 칩은 12가지 가속기로 주목받고 있지만 기능적인 흥미를 넘어 인텔이 급격하게 변화하는 데이터센터, 서버, 클라우드 시장에 대응하는 방법이 반영되어 있다는 점에 주목할 필요가 있다. 프로세서의 근본적인 역할은 연산에 있다. 프로세서는 여전히 연산을 빠르게 많이 할 수 있으면 좋다. 하지만 처리해야 하는 데이터의 종류와 특성이 다양해지면서 데이터를 다루는 방법도 진화했다. 그리고 이는 실질적인 성능의 향상으로 이어진다.   나승주 인텔 데이터센터 담당 상무는 4세대 제온 스케일러블 프로세서가 새로운 데이터센터 환경을 반영한다고 설명한다. ⓒ Intel “단순히 작동속도와 코어의 개수를 늘리는 것만이 최고의 가치를 주는 것은 아닙니다. 폭발적으로 증가하는 데이터센터 수요와 복잡한 데이터 처리에 대한 필요성을 풀어내기 위한 방법은 단순히 트랜지스터 수에만 의존할 일이 아니라 완전히 새로운 방법을 찾을 필요가 있습니다.” 인텔코리아 나승주 데이터센터 담당 상무는 데이터센터 환경이 달라지는 만큼 프로세서 구조도 새로 그려져야 한다고 설명한다. 그 관점에서 4세대 제온 스케일러블 프로세서는 이전과 다른 두 가지 전환점을 갖는다. 한 가지는 연산의 양적 증가, 다른 하나는 데이터 처리의 효율성이다. “모놀리식 아키텍처로는 소켓당 절대적 성능을 높이는 데에 한계가 있습니다. 이를 극복하기 위한 노력이 여전히 이어지고 있지만 단위 칩을 더 작게 만들고 효과적으로 연결하는 방법으로 성능 손실을 최소화하고 단일 칩에 준하는 처리 능력을 제공할 수 있습니다.”   최대 4개의 칩릿을 묶는 구조로 같은 공간 안에 더 많은 코어를 넣을 수 있다. ⓒ Intel 인텔은 사파이어 래피즈를 통해 ‘칩릿(Chiplet)’ 구조를 녹였다. 한정된 공간 안에 더 많은 코어를 넣는 것은 반도체 업계의 숙제였다. 제온 스케일러블 프로세서는 4개의 칩릿을 이어 붙여 최대 60개 코어를 쓴다. 칩릿 구조는 생산이 훨씬 쉬워지고 필요에 따라서 단일 칩부터 2개, 4개 등 필요한 만큼 이어 붙여 다양한 설계의 자유도를 제공하기도 한다. 핵심 기술은 칩과 칩 사이를 손실없이 연결하는 데에 있다. “중요한 것은 인터페이스와 패키징 기술입니다. 사실 이 칩릿 구조는 인텔만의 고민은 아닙니다. 반도체 업계, 그리고 더 나아가 산업 전체의 숙제이기 때문에 이를 공론화해서 업계가 함께 답을 찾아가는 중입니다.” 나승주 상무는 기술 개방과 표준에 해결책이 있다고 말했다. UCIe(Universal Chiplet Interconnect Express) 컨소시엄을 통해 전 세계 반도체 관련 기업들이 경쟁을 내려놓고 답을 찾아가고 있다. UCIe는 단순히 코어와 코어를 연결하는 수준이 아니라 단일 패키지 안에서 GPU도, 컨트롤러도, 또 가속기도 성능 손실을 최소화하면서 이어붙일 수 있다. 성능의 확장 뿐 아니라 단순화된 칩들을 자유롭게 맞붙이는 설계의 자유도 얻게 된다.   ⓒ Intel 이 모듈형 칩릿 구조를 적극적으로 활용하는 또 하나의 방법이 바로 12가지 가속기다. 데이터의 특성에 맞는 처리 방법은 점점 중요해지고 있다. 인텔은 오래 전부터 MMX(Multi Media  eXtension)와 SSE(Streaming SIMD eXtensions)를 비롯해 AVX(Advanced Vector Extensions)와 최근에는 AMX (Advanced Matrix Extensions) 까지 데이터를 효과적으로 처리하는 기술을 발전시켜 왔다. 사파이어 래피즈의 가속기는 프로세서를 현대 데이터센터의 필요에 맞춰 최적화할 수 있는 방법이라는 것이 나승주 상무의 설명이다. “클라우드는 가상머신과 네트워크는 물론이고, 암호화와 인공지능 처리까지 더욱 복잡해지기 때문에 기업은 설계의 고민이 많습니다. 클라우드에서 GPU의 활용도가 높아지고 있는 것은 사실이지만 머신러닝의 학습과 추론 작업의 80%가 CPU에서 이뤄지고 있습니다. 프로세서가 이를 받아들일 필요가 있습니다.” AMX(Advanced Matrix Extensions)가 더해진 이유도 막대한 실시간 학습 데이터가 필요하지 않은 상황에서 범용적인 인공지능 학습이 CPU만으로 충분히 빠르게 이뤄질 수 있도록 하기 위해서다. AMX는 텐서플로와 파이토치 등 범용적인 머신러닝 프레임워크에 최적화되어 기존 환경을 그대로 가속한다.   12가지 가속기를 통해 데이터센터의 특성에 맞는 서버를 구성할 수 있다. ⓒ Intel 마찬가지로 데이터센터에서 큰 리소스를 차지하는 암호화 효율을 높여주는 QAT(QuickAssist Technology), 로드밸런싱을 맡는 DLB(Dynamic Load Balancer), 인메모리 분석 처리를 가속하는 IAA(In-Memory Analytics Accelerator), 데이터 스트리밍을 가속하는 DSA(Data Streaming Accelerator) 등 별도의 전용 가속 코어를 두고, 필요에 따라서 가속기를 선택할 수 있도록 했다. 그리고 이는 데이터센터의 자원 관리에 직접적으로 영향을 끼치게 된다. “가속기가 실제 현장에서 주는 가치는 특정 리소스를 빠르게 처리하는 것도 있지만 특정 처리에 대한 부담을 덜어 CPU가 본래 해야 할 연산에 집중하는 것입니다. 데이터센터에서 70개 코어를 할당해서 쓰던 암호화가 사파이어 래피즈의 QAT 가속기를 이용하면 11개 코어로 충분합니다. 나머지는 실제로 데이터센터가 처리해야 하는 인스턴스에 할당되면서 자원의 효율이 크게 높아집니다.”   ⓒ Intel 4세대 제온 스케일러블 프로세서는 구조의 변화와 가속기를 통해서 ‘스케일러블(Scalable)’이라는 이름이 어울리는 확장성을 갖게 됐다. 이는 곧 데이터센터의 최적화, 그리고 유연성과도 연결된다. 반도체는 시대의 흐름을 읽어야 하고, 인텔은 사파이어 래피즈를 통해 기술로 그 답을 제시하고 있다.

ⓒ Getty Images Bank AI, HPC, 첨단 분석 등 새로운 유형의 워크로드가 급부상하면서 데이터센터의 성능에 대한 재정의가 필요한 시대가 되었다. 이런 시대적 요구에 부응하기 위해 인텔은 4세대 제온 스케일러블 프로세서(코드명 사파이어 래피즈)라는 답을 내놓았다. 인텔은 이전 세대에 비해 성능, 확장성 및 효율성을 크게 개선한 4세대 제온 스케일러블 프로세서로 차세대 데이터센터에 대한 인텔의 전략을 구체화하고 있다.    성능 최적화의 새로운 관점 ‘워크로드 최적화’  4세대 제온 스케일러블 프로세서는 ‘다양한 워크로드 각각의 요구에 맞는 최대 성능을 끌어 낸다’라는 한 줄로 핵심을 짚을 수 있다. 이 프로세서의 설계 사상은 AI, HPC, 첨단 분석 등 다양한 워크로드의 요구사항을 충족하기 위해 CPU 및 관련 기술을 설계하고 최적화하는 것이다.  최근 기업들이 주목하는 주요 워크로드는 각각 성능에 대한 요구와 기준이 다르다. 예들 들어 AI 워크로드는 매트릭스 연산과 병렬 처리에 크게 의존한다. 더불어 대용량 데이터 세트를 처리해야 하는 경우가 많아 CPU와 메모리 간의 효율적인 데이터 전송을 위해 높은 메모리 대역폭이 필요하다. AI 워크로드에 맞는 최고의 성능을 제공하기 위해 인텔은 4세대 제온 스케일러블 프로세서에 고급 매트릭스 확장(AMX)과 같은 특수 명령어 세트와 통합 가속기를 내장하였다. 이는 꽤 주목할 개선이다. AMX의 내재화는 CPU도 AI 처리가 준비됐다는 것을 뜻한다. 이는 AI 인프라에서 CPU의 역할을 크게 확장할 전망이다. 최근 ChatGPT의 등장과 함께 모든 기업의 관심사가 된 초거대 언어 모델 기반 생성형 AI 전략 수립에 있어 AMX에 관심을 두는 곳이 늘고 있는 것도 같은 맥락에서 이해할 수 있다.  HPC 워크로드는 복잡한 수학적 계산이 포함되며 높은 부동소수점 성능을 보장해야 한다. HPC 워크로드에는 병렬 처리가 수반되는 경우가 많다. 멀티코어 CPU는 이러한 워크로드를 가속하는 데 있어 핵심이라 할 수 있다. 또한, 대규모 HPC 시뮬레이션은 효율적인 데이터 처리를 위해 높은 메모리 용량과 대역폭도 요구한다. 이런 특수성도 4세대 제온 스케일러블 프로세서는 유연하게 수용한다.  4세대 제온 스케일러블 프로세서는 최대 8채널 DDR5 메모리 구성 및 인텔 옵테인 퍼시스턴트 메모리(Optane Persistent Memory)를 지원하여 HPC 시뮬레이션을 위한 높은 메모리 용량과 대역폭을 제공한다. 또한, PCIe 5.0을 지원하여 PCIe 4.0의 두 배에 달하는 대역폭을 제공하여 CPU와 가속기 및 스토리지와 같은 기타 장치 간의 통신 속도가 빠르다. QAT를 통해 암호화 및 압축 워크로드를 가속화하여 네트워킹 및 스토리지와 같은 애플리케이션의 성능과 효율성도 크게 높인다. 열거한 특징들은 HPC뿐 아니라 AI 워크로드의 성능 요구에도 부합한다.  다음으로 첨단 분석의 경우 적시에 통찰력을 제공하고 빠른 의사결정을 지원하려면 지연 시간을 최소화하면서 데이터를 빠르게 처리할 수 있는 CPU가 필요하다. 인텔은 단일 스레드 성능 및 멀티 스레딩 기능을 향상시켜 실시간 분석을 위한 저지연 처리를 가능하게 한다. 그리고 인텔 프로세서는 최적화된 캐시 계층 구조를 갖추고 있어 메모리 액세스 시간을 최소화하여 실시간 분석 워크로드의 지연 시간을 줄이고 성능을 개선할 수 있다. 여기에 4세대 제온 스케일러블 프로세서는 넓은 메모리 대역폭으로 데이터베이스 성능을 향상하고 인텔 인-메모리 분석 가속기(IAA), 데이터 이동 속도를 높이는 인텔 데이터 스트리밍 가속기(DSA)까지 통합하여 실시간 데이터 처리 성능을 높였다.  요약하자면 워크로드마다 특화된 CPU 기능, 아키텍처 또는 가속기가 필요한 요구사항이 다르다. AI 워크로드는 가속 기술과 넓은 메모리 대역폭의 이점을 누리고, HPC 워크로드는 높은 부동소수점 성능과 병렬 처리가 필요하며, 실시간 분석 워크로드는 지연 시간이 짧은 처리와 효율적인 I/O 및 스토리지가 필요하다. 4세대 제온 스케일러블 프로세서는 다양한 워크로드의 성능 요구를 수용하여 각각 최대의 성능을 끌어 낸다.    워크로드 최적화 성능 추구가 가능한 이유 CPU의 발전사를 보면 무어의 법칙의 시대를 지나 멀티 코어의 시기가 이어지고 있다. 멀티 코어는 현재 진화를 거듭 중인데 최근 동향은 더 나은 성능과 에너지 효율성을 보장하는 가운데 워크로드별 최적화를 지원하는 것이다. 이를 실현하기 위해 인텔은 코어 수를 늘리는 가운데 다양한 가속기를 CPU에 통합하는 방식을 택하였다. 이런 노력의 결과물이 4세대 제온 스케일러블 프로세서다.  멀티코어 아키텍처는 병렬 처리를 가능하게 하여 성능과 에너지 효율을 높인다. 예를 들어 인텔의 제온 스케일러블 프로세서는 최대 60개의 코어를 가지고 있어 AI, HPC, 실시간 분석 등 다양한 워크로드 처리에 이상적이다. 여기에 다양한 가속기를 통합하여 워크로드마다 차이를 보이는 최적의 성능 목표 달성에 한걸음 더 가까이 다가서고 있다. 또한, 4세대 제온 스케일러블 프로세서는 CPU와 가속기 간의 고속 통신을 위해 설계된 개방형 산업 표준 인터커넥트인 컴퓨트 익스프레스 링크(CXL)를 지원한다.  이 밖에도 인텔은 상호 연결 및 효율적인 전력 공급을 위해 4개의 실리콘 다이를 EMIB(Embedded Multi-Die Interconnect Bridge)라는 고급 패키징 기술로 연결했다. 인텔의 EMIB 기술은 CPU 설계 및 패키징의 패러다임 전환을 잘 보여준다. 인텔은 프로세서를 타일이라고 하는 더 작은 모듈식 구성 요소로 분할하고 EMIB라는 작은 실리콘으로 연결하여 하나의 Monolithic 구조와 같은 성능, 에너지 효율성 및 설계 유연성을 높였고 그 결과물이 4세대 제온 스케일러블 프로세서다.  인텔은 고급 패키징 기술을 통해 다양한 가속기를 통합하면서도 높은 전력 효율을 달성했다. 가령 4세대 인텔 제온 스케일러블 프로세서가 내장된 가속기를 사용하면 이전 세대 대비 워크로드 처리에 있어 평균 2.9배 높은 와트당 성능 목표 달성이 가능하다. 더 자세히 알아보면 범용 컴퓨팅에서 53% 평균 성능 향상을 기대할 수 있고, AI는 최대 10배 높은 추론과 학습 성능, 네트워킹과 스토리지 분야에서는 95% 적은 코어로 더 높은 데이터 압축 성능을 보여 최대 2배 성능을 높일 수 있고, 데이터 분석의 경우 최대 3배 성능 개선이 가능하다.    달라진 게임의 법칙  4세대 제온 스케일러블 프로세서의 등장으로 차세대 데이터센터 시장을 놓고 벌이는 다양한 프로세서 간 새로운 경쟁이 본격화될 전망이다. 4세대 제온 스케일러블 프로세서는 단순한 신제품이 아니다. 다양한 워크로드의 급변하는 요구 사항을 해결하고 성능, 확장성 및 효율성에 중점을 둔 차세대 데이터센터 구축에 대한 인텔의 전략을 상징한다. 4세대 제온 스케일러블 프로세서는 반도체 시장의 게임의 법칙은 시대의 흐름에 따라 바뀐다는 것을 보여주는 산증인이다.