클라우드

블로그 | 클라우드 기반 AI/ML이 온프레미스로 돌아오는 이유

David Linthicum | InfoWorld 2022.08.08
AI는 제법 오래된 개념이다. 거의 40년 전 필자의 첫 일자리가 리스프(Lisp)를 사용하는 AI 시스템 개발자였다. 당시의 AI 개념 중 많은 수가 오늘날에도 여전히 사용되고 있다. 차이가 있다면, 지금은 업무용으로 AI 시스템을 구축하고 배치하고 운영하는 것이 수천 배는 저렴하다는 것이다.
 
ⓒ Getty Images Bank

클라우드 컴퓨팅은 AI/ML의 혁명을 일으켰다고 할 수 있는데, 거대 클라우드 업체가 AI/ML을 발명해서가 아니라 저렴하게 만들었기 때문이다. 그럼에도 불구하고 AI/ML 처리와 관련 데이터를 어디에서 호스팅할지에 관한 생각은 변하고 있다. 몇 년 동안은 퍼블릭 클라우드를 이용하는 것이 생각할 필요도 없을 만큼 좋은 선택이었다. 그런데 최근에는 퍼블릭 클라우드에서 AI/ML과 필요한 데이터를 호스팅하는 데 의문이 생긴 것이다. 이유가 무엇일까? 

당연히 비용 때문이다. 많은 기업이 클라우드에 획기적인 AI/ML 시스템을 구축했고, 월말쯤에 클라우드 요금 고지서를 받고는 AI/ML 시스템과 페타바이트급 데이터를 클라우드에서 호스팅하는 것이 상당히 비싸다는 것을 알게 된다. 게다가 데이터를 넣고 빼는 데 드는 비용이 상당하다. 

기업은 더 비용 효과적인 선택지를 찾고 있다. MSP나 코로케이션 서비스 업체는 물론, 이들 시스템을 다시 구식 서버 룸으로 이전하는 것도 고려하고 있다. 이렇게 자체 플랫폼으로 이전하려는 이유는 크게 두 가지다.

첫째, 전통적인 컴퓨팅과 스토리지 장비의 가격이 지난 5년 동안 큰 폭으로 하락했다. 자체 하드웨어와 소프트웨어를 유지하는 부담을 포함하더라도 기존 장비 구매 접근법이 날로 비싸지는 클라우드 요금보다 더 저렴해진 것이다.

둘째, 많은 기업이 클라우드에서 지연을 경험하고 있다. 클라우드 기반 시스템은 다수의 사용자가 개방된 인터넷을 통해 동시에 소비한다. 또 멀티테넌시 모델은 프로세서와 스토리지 시스템을 여러 기업이 동시에 공유하는 것을 의미한다. 게다가 지연은 어떤 기업에는 매출 손실을 의미한다.

클라우드 서비스 업체가 제공하는 많은 AI/ML 시스템 다수는 전통적인 시스템에서도 구현할 수 있다. 클라우드에서 자체 서버로 이전하는 것은 빠르고 저렴하며, 거의 리프트 앤 시프트 프로세스에 가깝다. 단일 클라우드 서비스 업체에서만 구동할 수 있는 AI/ML 시스템에 종속되어 있지만 않으면 된다.

물론, 클라우드 컴퓨팅은 계속 성장할 것이다. 하드웨어를 직접 보유하고 관리해야 하는 전통적인 컴퓨팅 시스템은 그만큼 성장하지는 못할 것이다. 이런 추세는 계속될 것이다. 하지만 일부 시스템, 특히 AI/ML처럼 대용량 데이터를 사용하고 지연에 민감한 시스템은 클라우드에서 비용 효율적이지 않을 것이다. 데이터 레이크나 데이터 웨어하우스 같은 대규모 분석 애플리케이션도 마찬가지다.

일부 기업은 AI/ML 시스템을 온프레미스로 ‘송환’해 퍼블릭 클라우드 서비스 업체에 지불하던 비용을 크게 절감할 수 있을 것이다. 이는 무시할 수 없는 이점이다. 이제 AI/ML에 클라우드를 이용하는 것은 더 이상 ‘정답’이 아니다.
editor@itworld.co.kr
Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.