블로그 | AI가 주도하는 클라우드 성장, 문제는 없는가?

AI가 클라우드 서비스 업체에는 새로운 금광이라는 점은 의심의 여지가 없다. 하지만 솔루션 업체와 고객이 잘못된 방향으로 너무 멀리 가버리면, 몇 년 동안의 비즈니스 가치를 허비하고 말 것이다.

IDC의 기업 인프라 분기 추적 조사(IDC Worldwide Quarterly Enterprise Infrastructure Tracker)에 따르면, 클라우드 인프라 매출은 빠르게 성장할 것으로 보인다. 2023년 4분기 클라우드 배포를 위한 컴퓨팅 및 스토리지 인프라에 대한 지출은 전년 동기 대비 18.5% 증가했다. 이는 IT 지형의 중요한 변화로, 이제 AI가 클라우드 인프라의 성장에 있어서 가장 중요한 요소가 된 것이다.
 

지출은 증가한 반면, 총 출하 대수는 줄었다. IDC는 대형 클라우드 서비스 업체가 선호하는 고가의 고용량 GPU 중심 서버로의 전략 변화를 보여주는 것이라고 분석했다. 이런 서버가 기존 CPU 중심 서버보다 더 많은 작업을 수행할 수 있으므로 더 적은 수의 서버가 필요하다는 것이다.
 

변화를 주도하는 AI 붐

이런 성장 궤도의 중심에는 AI가 있다. IDC를 비롯해 시장을 조금이라도 이해하는 사람이라면 누구나 클라우드 인프라 지출의 가파른 증가는 AI를 주요 동력으로 한다는 것을 알고 있다.

성장을 주도하는 것은 AI 중심 워크로드를 처리하도록 맞춤화된 특수 목적의 하드웨어 인프라이다. 물론 이는 GPU 관련 업체의 주가가 치솟은 것에서 알 수 있듯이 고가의 GPU 하드웨어 투자를 의미한다. AI 도입 증가와 전문 인프라에 대한 수요가 맞물리면서 클라우드 시장이 재편되고 있으며, 향후 몇 년 동안 이런 지출이 지속될 것으로 보인다.

이제 필자가 가장 많이 받는 질문은 "어떤 클라우드가 가장 좋은가?"가 아니라 "어떤 GPU 클라우드를 사용해야 하는가?"이다. 물론, 두 가지 모두 바보 같은 질문이다. 쇼핑 카트에 GPU를 가득 채우는 것이 아니라 비즈니스 요구 사항에 따라 다르기 때문이다. 

IDC 보고서는 AI를 중심으로 클라우드 인프라 시장의 지형 변화에 대한 인사이트를 제공한다. 이런 변화를 부정하는 사람은 없을 것이다. 하지만 우리가 주목해야 할 다른 시장 역학 관계도 있다.

기업 IT 책임자의 빠른 AI 역량 배포로 인해 인프라 요구사항이 변화하고 있으며, 이에 따라 전문화된 고성능 하드웨어의 필요성이 강조되고 있다. 그러나 이는 연산 처리보다 AI에 더 중요한 스토리지와 데이터베이스에 대한 관심으로 바뀔 가능성이 크다. 누가 생각이나 했겠는가?

가격대는 높지만 판매 대수는 적은 GPU 중심 서버로의 전환은 클라우드 서비스 업체와 거대 IT 솔루션 업체의 우선순위에 영향을 받는 시장 역학을 반영한다. 앞서 지적했듯이, 이는 클라우드 서비스 업체를 포함한 많은 이들을 잘못된 길로 이끌 수 있다. 필자는 GPU와 유사 GPU가 빠르게 범용화될 것이며, 클라우드 서비스 업체, 기업, 대형 IT 솔루션 업체는 충분한 가치를 창출하지 못하는 기술 투자에 과도한 비용을 지불하게 될 것이라고 생각한다.

클라우드 인프라 지출이 크게 증가한 것은 기술 및 비즈니스 환경에 광범위한 영향을 미치는 AI 역량에 대한 투자가 활발히 이루어지고 있음을 보여준다. 기업의 IT 인프라가 어떤 측면에서는 과잉이고 어떤 측면에서는 부적절할 수 있다는 점을 고려하면, 이런 투자의 대부분은 성과를 거두지 못할 것이다. 즉, 요구 사항 B를 목표로 해야 할 때 요구 사항 A를 목표로 하는 것이다.
 

시장 변화가 기업 IT에 미치는 영향

필자는 이런 변화가 시스템 배포, 성장, 유지보수 및 운영으로 한 해를 마무리하려는 실무 IT 책임자에게 부정적인 영향을 미칠 것이라고 생각한다. 많은 사람이 말하듯이, AI는 레이더망에 있지만, 아직 이를 위한 예산을 확보하지 못했다. 이들은 현재 AI에 밀려나 있는 보다 '전통적인' 클라우드 서비스의 소비자이다. 그리고 이런 소비자 중 일부는 예전만큼의 사랑을 받지 못하고 있다는 것을 알게 될 수도 있다.

클라우드 서비스 업체들이 그렇게 어리석지는 않기를 바라지만, 현재 "클라우드"라는 단어를 사용하면서 실제로는 실제 생성형 AI를 다루는 "클라우드" 컨퍼런스를 비롯해 터무니없는 일이 많이 벌어지고 있다. 목적지는 그 중간 어딘가가 되겠지만, AI 서비스로 자금이 쏠리면, 일부 클라우드 서비스는 소외될 수밖에 없을 것이다.

장비 가격도 더 높아질 것이다. 기업도 고사양 GPU 기반 서버에 집중할 것이고, 이렇게 모두가 GPU 서버를 찾으면 가격은 올라가고 가용성은 떨어질 것이다. 단기적인 현상일 수도 있지만, 지난 10년간 서서히 하락했던 스토리지, 네트워킹, 컴퓨팅 장비의 가격이 다시 상승하는 것을 볼 수 있다.

물론 여기에는 기회도 있다. 트랜잭션 스토리지와 저가형 네트워킹 서비스 등 AI를 지원하지 않는 클라우드 서비스의 가격이 하락할 수 있다. 모두가 고급형 서비스에 집중하면 전통적인 서비스를 박리다매로 내놓을 수 있기 때문이다. 이런 변화는 대대적으로 발표하지 않을 것이므로, 가격 변화를 주시해야 한다.

더 큰 문제는 클라우드 컴퓨팅에 투자한 기업들이다. 이들 기업은 클라우드 서비스 업체가 전력 회사처럼 기능하기를 바라고, 또 가능한 한 최고의 서비스를 제공하기 위해 항상 그 자리에 있기를 바란다. 기업 고객은 과대광고가 사라지기를 바란다. 클라우드를 둘러싼 과대광고는 사라졌지만, 새로운 것이 돌아오고 있는 것 같다. 많은 사람에게는 좋지 않은 일이지만 일부에게는 좋은 일이 될 수도 있다. 필자는 그렇지 않기를 바랄 뿐이다. IT 시장은 날씨만큼이나 종잡을 수 없는 것 같다.
editor@itworld.co.kr