또한 모든 악성 트래픽을 차단하는 침입 방지 시스템(Intrusion Prevention System, IPS)에 대해서도 들어봤을 것이다. 이런 AI 기반 솔루션은 99%의 정확도로 공격을 탐지한다고 주장한다. 심지어 기존에 알려지지 않았던 공격도 탐지할 수 있다고 강조한다.
대단히 놀라운 주장이다. 그리고 멋진 '마케팅 홍보’다. 그러나 정말 그럴까? 필자는 이런 주장에 설득되지 않는다. 2가지 중요한 이유 때문이다.
1. 앞서 언급한 마케팅 주장은 공격 탐지와 침입 탐지를 혼동하고 있다. 공격에는 성공 못해도, 침입에는 성공할 수 있다. 5개의 새로운 공격을 탐지했다고 가정하자. 그러나 단 1개가 진짜 침입이다. 4개의 실패한 공격이 아닌, 1개의 성공한 침입에 초점을 맞추고 싶지 않은가?
2. 머신러닝으로 강화된 보안이 견고하지 않을 수도 있다. 공급업체에 해당되는 경우가 많은 1개 데이터 세트에는 잘 작동하지만, 사용자의 진짜 네트워크에는 효과가 없다는 의미다. 간단히 말해, 공격자는 탐지 회피를 중시한다. 그런데 머신러닝 관련 조사 결과에 따르면, 탐지를 회피하는 것이 어렵지 않은 경우가 많다.
머신러닝 알고리즘은 일반적으로 활성 공격자를 이기려는데 목적을 두고 있지 않다. 사실 공격자 관련 머신러닝 분야는 학술 연구조차 아직 '유년기’이다. 머신러닝 기술이 적용된 실제 제품은 두 말할 나위 없다. 오해는 하지말기 바란다. 멋진 연구, 훌륭한 연구원이 많다. 그러나 완전한 ‘자율 보안’에 대한 준비가 되었다고 생각하지 않는다.
자율 보안(autonomous security)은 머신이 탐지, 대응, 방어를 한다는 비전을 갖고 있다. 앞서 언급한 2가지 이유 때문에 완전 자율 보안이 될 수 없다. 간단히 설명하면 다음과 같다.
- (대다수 실패하는) 공격을 표적으로 쫓는 완전 자율 시스템은 무용지물이다. 진짜 침입을 방지하는 것이 중요하다.
- 견고하지 못한 시스템은 회피하기 쉽다. 배포되는 즉시, 공격자가 효과가 있는 부분과 없는 부분을 파악해 침입한다.
침입 탐지 및 방지를 사용하는 것을 중심으로, 네트워크 보안(Netsec)과 머신러닝에 대해 조금 더 자세한 얘길해보자.
탐지율의 대상은 ‘진짜 침입’!
필자가 머신러닝에 설득이 되지 않는 중요한 이유 중 하나는 탐지율(detection rates)을 진짜 공격 비율과 혼동하는 경우가 많기 때문이다. IDS의 경우, 사용자는 진짜 침입을 파악하기 원한다. 공격자에 대해 조사하고 싶어하는 것이 아니다. 공격자가 실제 공격에 성공했을 때, 이를 탐지하기 원한다. 유감스럽게, 실제는 그렇지 못하다.필자는 이 기사 첫 문장에서 독자들을 속이려 시도했다. 눈치챘는가?
침입 탐지에 대해 이야기를 해서 관심을 유발한 후, 정확한 공격 탐지율에 대해 설명을 한 것이다. 유인책을 썼는데, 알아차린 독자들도 있을 것이라 본다.
공격 탐지와 침입 탐지를 바꾼 것이다. 이 둘은 다른 개념이다. 공격은 침입 징후이다. 그러나 이런 공격은 성공할 수도, 그렇지 못할 수도 있다. 침입이란 누군가 액세스를 한 것이다.
포트 스윕(Port Sweep, 예: nmap), 기본 비밀번호를 시도해보는 스크립트 키디(Script Kiddies), 표적화 된 시스템 익스플로잇 공격을 생각해보자.
Nmap 스윕은 침해로 이어지지 않고, 스크립트 키디는 성공하지 못할 확률이 높다. 그러나 표적화 된 공격은 조금 다르다. 성공 확률이 높다. 사용자는 제한된 리소스, 인력, 주의 범위를 진짜 침입에만 집중하고 싶을 것이다.
이를 이해하는 데 필요한 핵심 개념이 ‘기저율의 오류(base rate fallacy)’이다. 그렇게 어려운 오류는 아니지만, 사람이 즉각적으로 이해하기 어려운 통계 개념이다. 수학과 통계에 관심이 많은 사람을 위해 덧붙이면, 필자가 카네기 멜론 대학 과정에서 중요하게 다루는 논문은 스테판 액셀슨(Stefan Axelsson)의 논문이다.
영업 담당자를 당황시키고 싶다면, 이 논문을 읽었는지 물어보라. 예를 들어, 도박꾼이 승승장구할 때 기저율의 오류를 확인할 수 있다. 그들은 이기는 경우가 많기 때문에, 그들의 시스템이 '승자’라고 생각한다. 동일한 원칙이 보안에도 적용될 수 있다. 머신러닝 알고리즘이 옳은 때가 많기 때문에, 이를 실제보다 더 낫게 착각한다.
기저율의 오류를 설명하면 다음과 같다. 병원을 방문해 질병 발견에 대한 정확도가 99%인 테스트를 받았다고 가정하자. 나쁜 소식은 테스트 결과에 따르면 질병이 있다는 것이며, 좋은 소식은 발병 확률이 아주 드문 질병이라는 것이다. 발병자가 500명 중 1명에 불과하다. 실제 해당 질병을 앓고 있을 확률은 얼마나 될까?
여기에서 오류가 발생한다. 대부분은 테스트 정확도가 99%이기 때문에 자신이 질병을 앓고 있을 확률이 아주 높다고 생각한다. 그러나 수학적으로는 그렇지 않다. 실제 질병을 앓고 있을 확률은 약 20%에 불과하다. 왜 그럴까?
테스트가 99%가 정확하다는 것은 100명 중 1명이 음성임에도 양성인 것으로 밝혀진다는 것이다. 그러나 이 질병의 실제 발병자는 500명 중 1명이다. 500명 테스트에서 5명이 질병에 대해 양성인 것으로 밝혀지지만, 실제 양성인 사람은 1명, 즉 전체의 약 20%에 불과하다(수학 전공자라면 베이즈의 정리로 정확한 확률을 계산할 수 있다. 우리는 조건부 확률보다 용이하기 때문에 근사치를 사용한다).
숫자가 커지면 상황이 더 복잡해진다. 예를 들어, 실제 침입율이 1/100만 이벤트에 불과하다고 가정하자. 99% 정확도의 탐지율에서 진짜 경고(알람) 당 긍정 오류는 대략 9,999개다. 이 많은 긍정 오류를 추적할 시간이 있을까?
이를 IDS, 알고리즘, 머신러닝, 이것들이 없는 경우 모두에 대입해보자. 실제 침입율이 아주 낮다면, 99%의 정확도를 가진 IDS는 정말 많은 수의 긍정 오류가 발생할 것이다. SOC의 원칙 가운데 하나는 분석가가 시간당 처리할 수 있는 이벤트의 수는 약 10개라는 것이다. 대부분이 진짜 침입이 아닌 긍정 오류라면, 잘해야 수많은 긍정 오류 처리에 시간을 뺏기게 되고, 더 나쁜 경우에는 IDS를 무시하라고 가르치는 셈이 된다.
수학적으로 보면, 실제로는 긍정 오류율이 더 높을 확률이 크다.
머신러닝은 견고하지 않다
머신러닝은 견고하지 않다. 여기에서 견고하다는 것은 ‘공격자가 예상을 한 후에도 계속 효과가 있어야 한다’는 의미다. 자신이 공격자라고 가정하자. 밀수를 시도하다가 검문소에서 붙잡혔다. 법 집행 기관(IDS)이 승리한 것이다. 검문 대상이 무엇인지 몰랐고, 발각이 되도록 무언가 건드렸기 때문에 법 집행 기관이 승리한 것이다.
자신이 지능적인 범죄자라면 어떻게 하겠는가? 자연스럽게 검문소, 검문 규칙을 파악하고, 이를 회피할 것이다. 그렇지 않은가? 다시 말해, ‘방어 체계’를 인식한 즉시 이를 회피할 방법을 파악할 것이다. 동일한 원칙이 공격자에게 적용된다.
공격자가 공격 방법을 바꾸는 경우에도 계속 공격을 탐지하는 IDS 시스템이 견고한 IDS 시스템이라 할 수 있다. 이것이 중대한 문제점이다. 현재 머신러닝 시스템이 매력적으로 보이는 이유는 공격자가 이를 회피할 시도를 하지 않기 때문이다. 머신러닝 시스템을 배포하는 즉시, 공격자는 통과되지 않는다는 점을 알고, 이에 대한 회피를 시도하게 될 것이다.
여기에 적용되는 이론이 NFL(No Free Lunch)이라는 이론이다. 수학에 관심이 많은 사람이라면 ‘NFL 정리(No Free Lunch Theorem)’라는 논문을 참조하고, 이를 이해하기 쉽게 간추린 요약본도 있다.
NFL 정리에 따르면, 모든 문제에 효과적으로 적용할 수 있는 그런 단일 모델은 존재하지 않는다. 보안에서의 ‘함의’를 설명하면, 어떤 머신러닝 알고리즘이든 공격자는 가정을 무너뜨려 머신러닝이 제대로 작동하지 않도록 만드는 공격 방법을 만들 확률이 있다.
지금까지 머신러닝 기반 보안 분야에 대한 조사 및 연구에 따르면, 견고성이 입증되지 않은 실정이다.
- 캐리 게이츠와 캐롤 테일러는 여러 측면에서 머신러닝 기반 IDS의 문제점을 지적하고 있다. 특히 견고성과 트레이닝 데이터 품질을 큰 단점으로 꼽는다.
- 악성코드 개발자는 탐지를 회피하도록 악성코드를 수정할 때 바이러스 토털(VirusToral, 많은 상용 안티 악성코드 솔루션을 가동시키는 시스템)을 많이 이용한다.
- 2016년, 버지니아 대학교 연구원들은 PDF 악성코드를 탐지하는 첨단 머신러닝 알고리즘을 회피할 수 있음을 입증해 보였다. 이에 대한 결과는 https://evademl.org/에서 확인할 수 있다. 중요한 점은 연구에 사용한 모든 표본에서 머신러닝 분류자(ML classifiers)를 회피할 수 있는 '변종’을 자동으로 찾을 수 있음을 보여줬다. 추가 연구에 따르면, 2번의 간단한 변이로 47%(시도) 확률로 지메일의 악성코드 분류자를 속일 수 있다. 구글만 회피할 수 있는 것이 아니다. 다른 머신러닝 기반의 안티 바이러스 엔진 또한 속일 수 있다.
- 카네기 멜론 대학교의 루조 바우어 연구팀은 첨단 안면 인식 알고리즘이 공격자를 다른 특정 사람으로 인식하도록 속이는 안경을 3D 프린팅으로 만들 수 있다는 점을 입증해 보였다. 공격자가 공항 검문대의 안면 인식 시스템을 회피하는 안경을 3D 프린팅으로 만들 수 있다는 의미다. 분야가 다르지만 적용되는 원칙은 동일하다. 머신러닝은 이런 회피에 견고하지 못하다.
- 침입 탐지 분야에서 평판이 높은 브로(Bro) 네트워크 IDS의 아키텍트인 번 팩슨과 로빈 섬머스는 침입 방어 시스템의 머신러닝과 비정상 탐지 기술의 도전 과제에 대해 개략적으로 설명하는 자료를 발표했다.
이것이 알려주는 교훈은 공격자는 방어 체계에 대해 학습을 할 수 있고, 방어 체계가 견고하지 않을 경우 이를 회피할 수 있다는 것이다.
설득이 되지 않는 이유
필자는 머신러닝 기반 보안에 대한 주장에 설득이 되지 않는다. 이번 기사에서 2가지 이유를 제시했다.- 인공지능과 머신러닝 기반 IDS 제품들은 쉽게 회피가 가능하다. 그런데 이 부분이 제대로 반영되지 않은 경우가 많다. 이를 배포할 경우, 지금 당장은 탐지율을 높일 수 있지만 오래가지 않을 것이다.
- 수학적으로 실제 침입이 공격 대비 드물 경우, 긍정 오류 발생 비율이 지나치게 높을 확률이 크다.
이는 시작에 불과하다. 여기에서 다루지 않은 다른 기술적인 문제들도 존재한다. 트레이닝에 사용한 데이터가 네트워크를 실제 반영하고 있는지 여부 등을 예로 들 수 있다. 구글과 AT&T 같은 기업은 엄청나게 많은 데이터를 보유하고 있으며, 여전히 여기에 어려움을 겪고 있다.
유기적 문제도 있다. 내부 직원들이 알려지지 않은, 또는 이상한 위험을 관리하지 않도록 SAL를 조정하는 문제를 예로 들 수 있다. 역량이 높은 보안 운영 센터의 경우, 먼저 자신이 처리할 수 있는 양을 파악한 후 탐지 도구를 적절히 하향 조정하는 경우가 많다.
권장 사항
먼저 단기적인 해결을 추구할지, 회피에 대해 견고할 필요가 있는 장기적인 해결을 추구할지 생각해야 한다. 인터넷 쓰레기를 막는 것에만 관심이 있다면, 새로운 머신러닝 제품이 도움이 될 수 있다. 하지만 공격자가 학습을 할 경우에도 머신러닝이 계속 탐지할 것이라는 믿음은 과학적으로 입증되지 않았다.둘째, 탐지 대상에 대해 깊이 생각해야 한다. 공격자에 대해 조사하기 원하는가? 아니면 진짜 문제에 대한 대응을 책임지고 있는가? ‘기저율의 오류’에 따르면, 침입의 공격에서 실제 침입이 차지하는 비중이 아주 낮다면, 수학적으로 머신러닝이든 아니든 모든 접근법에 한계가 있다.
머신러닝이 도움이 될 수 있는 분야는 어디일까? 아직 결론이 나지 않았지만, 일반적으로 말하면 머신러닝은 통계다. 통계적 정확도를 크게 높이려 시도하는 영역에 더 효과적으로 적용이 된다. 필자는 일부러 ‘통계’라는 단어를 사용하고 있는데, 이는 위험이 존재한다는 점을 받아들여야 한다는 것이다. 예를 들어, 구글은 머신러닝 덕분에 광고 클릭율에서 큰 성과를 일궈냈다. 5%만 향상시켜도 매출이 크게 증대되기 때문이다. 그러나 자사의 조직에서도 5% 향상이 충분한지 생각해보자.
머신러닝이 도움을 줄 수 있는 두 번째 영역은 단순한 공격자를 저지하는 것이다. 잘 알려진 익스플로잇을 사용하는 스크립트 키디가 여기에 해당된다. 이 경우, 견고성이 필요없다. 단호하게 알고리즘을 회피하려 시도하는 공격자를 배제할 수 있기 때문이다.
마지막으로 현재 머신러닝에 대한 훌륭한 연구, 우수한 연구원이 많다는 점을 강조하고 싶다. 하지만 더 많이 필요하다. 아직 ‘거기’에 도달하지 못했다고 생각한다. 최소한 일반 사용자가 기대하는 수준에서는 그렇다.
처음 이 글을 시작하면서 필자는 애플리케이션의 최소한 일부 보안을 완벽하게 자율화(자동화)시킬 확률이 더 높을 것이라고 언급했다. 이의 근거는 다음과 같다.
- 퍼징(Fuzzing) 같은 애플리케이션 보안 테스트 기법의 긍정 오류는 ‘0’이다.
- 공격자는 배포되는 앱은 통제하지 못한다. 따라서 회피의 개념이 적용되지 않을 수도 있다.
그렇다면 머신러닝 기반 IDS가 완전히 자율적인 네트워크 방어 체계가 될 가능성이 있을까? 지금 당장은 아니다. editor@itworld.co.kr
함께 보면 좋은 콘텐츠
Sponsored
Intel
"모든 규모의 데이터센터를 위한 강력하고 지속가능한 솔루션" 4세대 인텔 제온 스케일러블 프로세서
ⓒ Getty Images Bank 사회, 경제, 문화 등 모든 부문에서 디지털 전환이 이루어지면서 디지털 경제의 기반이라 할 수 있는 데이터센터 수요가 급증하고 있다. 그러나 데이터센터 증가는 각국 정부와 기업에 ‘지속가능성’이라는 새로운 고민 거리를 안겨주었다. 지속가능성은 데이터센터의 설계, 구축, 운영에서 가장 중요한 전제 조건이다. 기업은 환경에 미치는 영향을 최소화하기 위해 에너지 효율, 재생 에너지, 폐기물 관리, 수자원 절약에 점점 더 많은 관심을 기울이고 있다. 이런 고민은 데이터센터 구축과 운영 주체만 하는 것이 아니다. 프로세서 같은 데이터센터의 핵심 솔루션을 공급하는 인텔 같은 기업에게도 중요 과제다. 프로세서는 데이터센터 지속가능성의 출발점이라 할 수 있다. CPU, GPU 같은 프로세서는 데이터센터 전력 소모에서 가장 높은 비중을 차지한다. 지속가능성 보장을 위한 인텔의 고민이 담긴 솔루션 중 하나가 4세대 인텔 제온 스케일러블 프로세서다. 프로세서 측면에서 보면 데이터센터 지속가능성은 크게 에너지 효율성과 성능으로 나누어 볼 수 있다. 4세대 인텔 제온 스케일러블 프로세서는 이전 세대보다 최대 40% 더 높은 에너지 효율성을 제공한다. 더불어 2022년 기준으로 4세대 인텔 제온 프로세서는 90% 이상이 재상 가능한 전기를 사용해 제조하여 환경에 미치는 영향을 줄였다. 이전 해인 2021년에는 재사용, 회수, 재활용을 통해 제조 폐기물 흐름의 65%에 순환 경제 관행을 적용하기도 하였다. 인텔은 2030년까지 매립폐기물 총량 “제로화(Net Zero)”를 달성하고, 전 세계 사업장에서 100% 재생 가능한 에너지를 사용하여 40억 kWh의 전력을 절약하는 것을 목표로 하고 있다. ⓒ Intel 성능의 경우 4세대 인텔 제온 스케일러블 프로세서는 이전 세대보다 최대 40% 향상된 성능을 제공하여 조직이 애플리케이션을 더 빠르고 효율적으로 실행할 수 있도록 지원한다. 또한, 전원 모드를 통해 워크로드 성능에 끼치는 영향을 최소화하는 가운데 소켓 전력을 절감할 수도 있다. 지속가능한 데이터센터를 위한 프로세서를 설계하는 여정은 에너지 효율과 성능 간의 황금비를 찾는 것에 비유할 수 있다. 인텔은 더 나은 와트당 성능을 제공하기 위해 CPU 아키텍처를 지속적으로 혁신하고 개선하고 있다. 더불어 CPU에서 특정 작업을 오프로드하고 데이터센터의 전반적인 에너지 효율성을 개선하기 위해 AI, 네트워크, 스토리지 및 보안 같은 다양한 가속기 개발에 투자하고 있다. 이중 가속기는 지속가능한 데이터센터를 현실로 만드는 데 있어 중요한 역할을 한다. AI, 네트워크, 스토리지, 보안 등 CPU에 내장된 다양한 가속기는 여러 방식으로 데이터센터의 지속가능성에 기여한다. 내장 가속기는 범용 프로세서보다 특정 작업을 더 효율적이고 빠르게 수행하도록 설계된 프로세서의 로직 블록이며 더 나은 와트당 성능을 제공한다. 이 블록은 더 강력한 와트당 성능을 제공할 수 있도록 설계한 인텔 4세대 제온 프로세서의 기본 아키텍처와 시너지를 일으켜 AI, HPC, 보안, 네트워크 등 중요 워크로드를 더 높은 성능으로 운영할 수 있다. 인텔의 평가에 따르면 가속기를 이용하면 사용하지 않을 때와 비교해 와트당 성능이 1.2배에서 최대 9.23배 향상된다. 또한, 가속기는 작업을 더 효율적으로 처리하여 컴퓨팅 밀도를 높여 더 적은 수의 서버로 더 많은 워크로드를 처리할 수 있다. 이는 곧 전력 소비, 냉각 요구 사항, 물리적 공간을 줄일 수 있는 효과로 이어진다. 4세대 인텔 제온 스케일러블 프로세서는 소프트웨어 정의 환경으로 진화하는 가운데 AI, 첨단 분석, 엣지 컴퓨팅 등 새로운 트렌드를 수용해야 하는 차세대 데이터센터를 위한 가속기 라인업을 갖춘 솔루션이라 할 수 있다. 4세대 인텔 제온 스케일러블 프로세서에는 자연어 처리, 추천 시스템 및 이미지 인식과 같은 AI 워크로드에 이상적인 인텔 AMX 기술 기반 가속기가 적용되어 최대 14배의 와트당 성능 향상이 가능하다. 4세대 인텔 제온 스케일러블 프로세서에는 인텔 퀵어시스트 테크놀로지(QAT), 다이나믹 로드 밸런서(DLB) 및 인텔 데이터 스트리밍 가속기(DSA)와 같은 여러 가지 내장 가속기도 통합되었다. 이러한 가속기는 네트워킹 워크로드의 성능을 높이고, 네트워크 가상화와 엔드 투 엔드 가상화를 위한 플랫폼을 제공하며, 보다 효율적인 데이터 처리를 지원한다. 가속기 외에도 인텔은 성능 개선을 위해 CXL, DDR5, PCIe Gen 5 등을 통해 높은 성능과 더 큰 메모리 대역폭을 통해 보다 향상된 단위 시간당 처리성능을 제공한다 4세대 인텔 제온 스케일러블 프로세서는 데이터센터 지속가능성을 운영 측면에서 지원하기 위한 도구와 옵션도 제공한다. 4세대 인텔 제온 스케일러블 프로세서는 원격 측정 기능, 최적화된 전력 모드, 워크로드 가속화를 위한 자동 절전 기능, CSP 인스턴스에서 워크로드를 최적화하는 도구 등을 제공한다. 예를 들자면 인텔 4세대 제온 프로세서는 원격 측정 정보를 수집하고 AI 기반 첨단 분석 기능을 제공하는 인텔 전원 관리 툴을 통해 프로세서의 전기 사용량을 지능적으로 제어한다. 가령 CPU 전력모드 중 P-state 를 적용하면 전기 사용량 분석을 통해 사용률이 낮은 기간에는 주파수를 동적으로 줄여 전력 소비를 낮춘다. C-state 를 적용하면 개별 코어 또는 전체 CPU를 유휴 상태로 전환할 수 있어 서버 전력 소비를 큰 폭으로 줄일 수 있다. 지능적 전원 관리는 데이터센터 에너지 소비에 큰 영향을 끼친다. 일본의 대형 통신업체인 KDDI는 AI 기반 원격 측정을 통해 5G 데이터센터의 전기 사용량을 20%가량 줄였다. 이 밖에도 4세대 인텔 제온 SKU는 액체 냉각용으로 설계되어 데이터센터의 전력 사용 효율성(PUE)를 개선하는데도 유리하다. 인텔은 데이터센터의 다양한 요구에 맞는 지속가능성을 추구할 수 있도록 다양한 제품 SKU와 함께 온디맨드를 통해 제품 수명주기 동안 일부 SKU에서 기능을 점진적으로 활성화할 수 있는 옵션도 제공한다. 한편, 데이터센터의 지속가능성은 단순히 에너지 효율성이나 환경적 영향만이 아니라 정보 보안 등 운영의 모든 측면을 포괄해야 한다. 이런 이유로 인텔은 4세대 인텔 제온 스케일러블 프로세서에 소프트웨어 가드 익스텐션(SGX)을 적용했다. SGX는 CPU와 메모리 내에 암호화된 엔클레이브를 생성해 민감한 데이터를 보호한다. 이를 이용하면 기업들은 규제로 인해 사용이 제한되었던 데이터까지도 활용할 수 있다. ⓒ Intel 데이터센터의 지속가능성은 디지털 전환의 핵심이다. 4세대 인텔 제온 스케일러블 프로세서는 데이터 센터를 더욱 효율적이고, 더욱 강력하며, 지속가능하도록 만드는 중추 역할을 맡을 준비가 된 솔루션이다.
Intel
인텔이 12가지 가속기로 데이터센터에 확장성과 유연성을 추가하는 방법
ⓒ Getty Images Bank 사파이어 래피즈(Sapphire Rapids)라는 코드명으로 알려진 인텔의 4세대 제온 스케일러블 프로세서가 최근 출시됐다. 이 칩은 12가지 가속기로 주목받고 있지만 기능적인 흥미를 넘어 인텔이 급격하게 변화하는 데이터센터, 서버, 클라우드 시장에 대응하는 방법이 반영되어 있다는 점에 주목할 필요가 있다. 프로세서의 근본적인 역할은 연산에 있다. 프로세서는 여전히 연산을 빠르게 많이 할 수 있으면 좋다. 하지만 처리해야 하는 데이터의 종류와 특성이 다양해지면서 데이터를 다루는 방법도 진화했다. 그리고 이는 실질적인 성능의 향상으로 이어진다. 나승주 인텔 데이터센터 담당 상무는 4세대 제온 스케일러블 프로세서가 새로운 데이터센터 환경을 반영한다고 설명한다. ⓒ Intel “단순히 작동속도와 코어의 개수를 늘리는 것만이 최고의 가치를 주는 것은 아닙니다. 폭발적으로 증가하는 데이터센터 수요와 복잡한 데이터 처리에 대한 필요성을 풀어내기 위한 방법은 단순히 트랜지스터 수에만 의존할 일이 아니라 완전히 새로운 방법을 찾을 필요가 있습니다.” 인텔코리아 나승주 데이터센터 담당 상무는 데이터센터 환경이 달라지는 만큼 프로세서 구조도 새로 그려져야 한다고 설명한다. 그 관점에서 4세대 제온 스케일러블 프로세서는 이전과 다른 두 가지 전환점을 갖는다. 한 가지는 연산의 양적 증가, 다른 하나는 데이터 처리의 효율성이다. “모놀리식 아키텍처로는 소켓당 절대적 성능을 높이는 데에 한계가 있습니다. 이를 극복하기 위한 노력이 여전히 이어지고 있지만 단위 칩을 더 작게 만들고 효과적으로 연결하는 방법으로 성능 손실을 최소화하고 단일 칩에 준하는 처리 능력을 제공할 수 있습니다.” 최대 4개의 칩릿을 묶는 구조로 같은 공간 안에 더 많은 코어를 넣을 수 있다. ⓒ Intel 인텔은 사파이어 래피즈를 통해 ‘칩릿(Chiplet)’ 구조를 녹였다. 한정된 공간 안에 더 많은 코어를 넣는 것은 반도체 업계의 숙제였다. 제온 스케일러블 프로세서는 4개의 칩릿을 이어 붙여 최대 60개 코어를 쓴다. 칩릿 구조는 생산이 훨씬 쉬워지고 필요에 따라서 단일 칩부터 2개, 4개 등 필요한 만큼 이어 붙여 다양한 설계의 자유도를 제공하기도 한다. 핵심 기술은 칩과 칩 사이를 손실없이 연결하는 데에 있다. “중요한 것은 인터페이스와 패키징 기술입니다. 사실 이 칩릿 구조는 인텔만의 고민은 아닙니다. 반도체 업계, 그리고 더 나아가 산업 전체의 숙제이기 때문에 이를 공론화해서 업계가 함께 답을 찾아가는 중입니다.” 나승주 상무는 기술 개방과 표준에 해결책이 있다고 말했다. UCIe(Universal Chiplet Interconnect Express) 컨소시엄을 통해 전 세계 반도체 관련 기업들이 경쟁을 내려놓고 답을 찾아가고 있다. UCIe는 단순히 코어와 코어를 연결하는 수준이 아니라 단일 패키지 안에서 GPU도, 컨트롤러도, 또 가속기도 성능 손실을 최소화하면서 이어붙일 수 있다. 성능의 확장 뿐 아니라 단순화된 칩들을 자유롭게 맞붙이는 설계의 자유도 얻게 된다. ⓒ Intel 이 모듈형 칩릿 구조를 적극적으로 활용하는 또 하나의 방법이 바로 12가지 가속기다. 데이터의 특성에 맞는 처리 방법은 점점 중요해지고 있다. 인텔은 오래 전부터 MMX(Multi Media eXtension)와 SSE(Streaming SIMD eXtensions)를 비롯해 AVX(Advanced Vector Extensions)와 최근에는 AMX (Advanced Matrix Extensions) 까지 데이터를 효과적으로 처리하는 기술을 발전시켜 왔다. 사파이어 래피즈의 가속기는 프로세서를 현대 데이터센터의 필요에 맞춰 최적화할 수 있는 방법이라는 것이 나승주 상무의 설명이다. “클라우드는 가상머신과 네트워크는 물론이고, 암호화와 인공지능 처리까지 더욱 복잡해지기 때문에 기업은 설계의 고민이 많습니다. 클라우드에서 GPU의 활용도가 높아지고 있는 것은 사실이지만 머신러닝의 학습과 추론 작업의 80%가 CPU에서 이뤄지고 있습니다. 프로세서가 이를 받아들일 필요가 있습니다.” AMX(Advanced Matrix Extensions)가 더해진 이유도 막대한 실시간 학습 데이터가 필요하지 않은 상황에서 범용적인 인공지능 학습이 CPU만으로 충분히 빠르게 이뤄질 수 있도록 하기 위해서다. AMX는 텐서플로와 파이토치 등 범용적인 머신러닝 프레임워크에 최적화되어 기존 환경을 그대로 가속한다. 12가지 가속기를 통해 데이터센터의 특성에 맞는 서버를 구성할 수 있다. ⓒ Intel 마찬가지로 데이터센터에서 큰 리소스를 차지하는 암호화 효율을 높여주는 QAT(QuickAssist Technology), 로드밸런싱을 맡는 DLB(Dynamic Load Balancer), 인메모리 분석 처리를 가속하는 IAA(In-Memory Analytics Accelerator), 데이터 스트리밍을 가속하는 DSA(Data Streaming Accelerator) 등 별도의 전용 가속 코어를 두고, 필요에 따라서 가속기를 선택할 수 있도록 했다. 그리고 이는 데이터센터의 자원 관리에 직접적으로 영향을 끼치게 된다. “가속기가 실제 현장에서 주는 가치는 특정 리소스를 빠르게 처리하는 것도 있지만 특정 처리에 대한 부담을 덜어 CPU가 본래 해야 할 연산에 집중하는 것입니다. 데이터센터에서 70개 코어를 할당해서 쓰던 암호화가 사파이어 래피즈의 QAT 가속기를 이용하면 11개 코어로 충분합니다. 나머지는 실제로 데이터센터가 처리해야 하는 인스턴스에 할당되면서 자원의 효율이 크게 높아집니다.” ⓒ Intel 4세대 제온 스케일러블 프로세서는 구조의 변화와 가속기를 통해서 ‘스케일러블(Scalable)’이라는 이름이 어울리는 확장성을 갖게 됐다. 이는 곧 데이터센터의 최적화, 그리고 유연성과도 연결된다. 반도체는 시대의 흐름을 읽어야 하고, 인텔은 사파이어 래피즈를 통해 기술로 그 답을 제시하고 있다.
Intel
데이터센터 성능을 재정의하는 게임 체인저 ‘4세대 인텔® 제온® 스케일러블 프로세서’
ⓒ Getty Images Bank AI, HPC, 첨단 분석 등 새로운 유형의 워크로드가 급부상하면서 데이터센터의 성능에 대한 재정의가 필요한 시대가 되었다. 이런 시대적 요구에 부응하기 위해 인텔은 4세대 제온 스케일러블 프로세서(코드명 사파이어 래피즈)라는 답을 내놓았다. 인텔은 이전 세대에 비해 성능, 확장성 및 효율성을 크게 개선한 4세대 제온 스케일러블 프로세서로 차세대 데이터센터에 대한 인텔의 전략을 구체화하고 있다. 성능 최적화의 새로운 관점 ‘워크로드 최적화’ 4세대 제온 스케일러블 프로세서는 ‘다양한 워크로드 각각의 요구에 맞는 최대 성능을 끌어 낸다’라는 한 줄로 핵심을 짚을 수 있다. 이 프로세서의 설계 사상은 AI, HPC, 첨단 분석 등 다양한 워크로드의 요구사항을 충족하기 위해 CPU 및 관련 기술을 설계하고 최적화하는 것이다. 최근 기업들이 주목하는 주요 워크로드는 각각 성능에 대한 요구와 기준이 다르다. 예들 들어 AI 워크로드는 매트릭스 연산과 병렬 처리에 크게 의존한다. 더불어 대용량 데이터 세트를 처리해야 하는 경우가 많아 CPU와 메모리 간의 효율적인 데이터 전송을 위해 높은 메모리 대역폭이 필요하다. AI 워크로드에 맞는 최고의 성능을 제공하기 위해 인텔은 4세대 제온 스케일러블 프로세서에 고급 매트릭스 확장(AMX)과 같은 특수 명령어 세트와 통합 가속기를 내장하였다. 이는 꽤 주목할 개선이다. AMX의 내재화는 CPU도 AI 처리가 준비됐다는 것을 뜻한다. 이는 AI 인프라에서 CPU의 역할을 크게 확장할 전망이다. 최근 ChatGPT의 등장과 함께 모든 기업의 관심사가 된 초거대 언어 모델 기반 생성형 AI 전략 수립에 있어 AMX에 관심을 두는 곳이 늘고 있는 것도 같은 맥락에서 이해할 수 있다. HPC 워크로드는 복잡한 수학적 계산이 포함되며 높은 부동소수점 성능을 보장해야 한다. HPC 워크로드에는 병렬 처리가 수반되는 경우가 많다. 멀티코어 CPU는 이러한 워크로드를 가속하는 데 있어 핵심이라 할 수 있다. 또한, 대규모 HPC 시뮬레이션은 효율적인 데이터 처리를 위해 높은 메모리 용량과 대역폭도 요구한다. 이런 특수성도 4세대 제온 스케일러블 프로세서는 유연하게 수용한다. 4세대 제온 스케일러블 프로세서는 최대 8채널 DDR5 메모리 구성 및 인텔 옵테인 퍼시스턴트 메모리(Optane Persistent Memory)를 지원하여 HPC 시뮬레이션을 위한 높은 메모리 용량과 대역폭을 제공한다. 또한, PCIe 5.0을 지원하여 PCIe 4.0의 두 배에 달하는 대역폭을 제공하여 CPU와 가속기 및 스토리지와 같은 기타 장치 간의 통신 속도가 빠르다. QAT를 통해 암호화 및 압축 워크로드를 가속화하여 네트워킹 및 스토리지와 같은 애플리케이션의 성능과 효율성도 크게 높인다. 열거한 특징들은 HPC뿐 아니라 AI 워크로드의 성능 요구에도 부합한다. 다음으로 첨단 분석의 경우 적시에 통찰력을 제공하고 빠른 의사결정을 지원하려면 지연 시간을 최소화하면서 데이터를 빠르게 처리할 수 있는 CPU가 필요하다. 인텔은 단일 스레드 성능 및 멀티 스레딩 기능을 향상시켜 실시간 분석을 위한 저지연 처리를 가능하게 한다. 그리고 인텔 프로세서는 최적화된 캐시 계층 구조를 갖추고 있어 메모리 액세스 시간을 최소화하여 실시간 분석 워크로드의 지연 시간을 줄이고 성능을 개선할 수 있다. 여기에 4세대 제온 스케일러블 프로세서는 넓은 메모리 대역폭으로 데이터베이스 성능을 향상하고 인텔 인-메모리 분석 가속기(IAA), 데이터 이동 속도를 높이는 인텔 데이터 스트리밍 가속기(DSA)까지 통합하여 실시간 데이터 처리 성능을 높였다. 요약하자면 워크로드마다 특화된 CPU 기능, 아키텍처 또는 가속기가 필요한 요구사항이 다르다. AI 워크로드는 가속 기술과 넓은 메모리 대역폭의 이점을 누리고, HPC 워크로드는 높은 부동소수점 성능과 병렬 처리가 필요하며, 실시간 분석 워크로드는 지연 시간이 짧은 처리와 효율적인 I/O 및 스토리지가 필요하다. 4세대 제온 스케일러블 프로세서는 다양한 워크로드의 성능 요구를 수용하여 각각 최대의 성능을 끌어 낸다. 워크로드 최적화 성능 추구가 가능한 이유 CPU의 발전사를 보면 무어의 법칙의 시대를 지나 멀티 코어의 시기가 이어지고 있다. 멀티 코어는 현재 진화를 거듭 중인데 최근 동향은 더 나은 성능과 에너지 효율성을 보장하는 가운데 워크로드별 최적화를 지원하는 것이다. 이를 실현하기 위해 인텔은 코어 수를 늘리는 가운데 다양한 가속기를 CPU에 통합하는 방식을 택하였다. 이런 노력의 결과물이 4세대 제온 스케일러블 프로세서다. 멀티코어 아키텍처는 병렬 처리를 가능하게 하여 성능과 에너지 효율을 높인다. 예를 들어 인텔의 제온 스케일러블 프로세서는 최대 60개의 코어를 가지고 있어 AI, HPC, 실시간 분석 등 다양한 워크로드 처리에 이상적이다. 여기에 다양한 가속기를 통합하여 워크로드마다 차이를 보이는 최적의 성능 목표 달성에 한걸음 더 가까이 다가서고 있다. 또한, 4세대 제온 스케일러블 프로세서는 CPU와 가속기 간의 고속 통신을 위해 설계된 개방형 산업 표준 인터커넥트인 컴퓨트 익스프레스 링크(CXL)를 지원한다. 이 밖에도 인텔은 상호 연결 및 효율적인 전력 공급을 위해 4개의 실리콘 다이를 EMIB(Embedded Multi-Die Interconnect Bridge)라는 고급 패키징 기술로 연결했다. 인텔의 EMIB 기술은 CPU 설계 및 패키징의 패러다임 전환을 잘 보여준다. 인텔은 프로세서를 타일이라고 하는 더 작은 모듈식 구성 요소로 분할하고 EMIB라는 작은 실리콘으로 연결하여 하나의 Monolithic 구조와 같은 성능, 에너지 효율성 및 설계 유연성을 높였고 그 결과물이 4세대 제온 스케일러블 프로세서다. 인텔은 고급 패키징 기술을 통해 다양한 가속기를 통합하면서도 높은 전력 효율을 달성했다. 가령 4세대 인텔 제온 스케일러블 프로세서가 내장된 가속기를 사용하면 이전 세대 대비 워크로드 처리에 있어 평균 2.9배 높은 와트당 성능 목표 달성이 가능하다. 더 자세히 알아보면 범용 컴퓨팅에서 53% 평균 성능 향상을 기대할 수 있고, AI는 최대 10배 높은 추론과 학습 성능, 네트워킹과 스토리지 분야에서는 95% 적은 코어로 더 높은 데이터 압축 성능을 보여 최대 2배 성능을 높일 수 있고, 데이터 분석의 경우 최대 3배 성능 개선이 가능하다. 달라진 게임의 법칙 4세대 제온 스케일러블 프로세서의 등장으로 차세대 데이터센터 시장을 놓고 벌이는 다양한 프로세서 간 새로운 경쟁이 본격화될 전망이다. 4세대 제온 스케일러블 프로세서는 단순한 신제품이 아니다. 다양한 워크로드의 급변하는 요구 사항을 해결하고 성능, 확장성 및 효율성에 중점을 둔 차세대 데이터센터 구축에 대한 인텔의 전략을 상징한다. 4세대 제온 스케일러블 프로세서는 반도체 시장의 게임의 법칙은 시대의 흐름에 따라 바뀐다는 것을 보여주는 산증인이다.