데이터ㆍ분석 / 데이터센터 / 애플리케이션

빅 데이터의 열쇠 하둡 총정리 2 하둡 vs RDBMS 비용 분석

Brian Proffitt  | ITWorld 2012.01.12
많은 사람들은 오픈소스 데이터 프레임워크인 하둡을 아주 방대한 양의 데이터 관리와 연관해 생각한다. 여기에는 물론 나름대로 합당한 이유들이 있다. 하둡 스토리지는 누구라도 막대한 양의 데이터를 떠올릴만한 페이스북과 야후가 사용하고 있다. 이번 연재 기사 1부에서도 설명했듯이 하둡의 얼리 어답터이자 엄청난 기여자인 야후는 이미 5만 개의 노드로 구성된 하둡 네트워크를 설치했으며, 페이스북은 1만 개가 넘는 노드로 구성된 하둡 시스템을 갖췄다.
 
그러나 아파치소프트웨어재단(ASF)의 아파치 하둡 부사장이자 호트웍스의 아키텍트 아룬 머시는 하둡 자체와 기업 내 하둡의 활용에 대해 이견을 제기했다. 머시는 "하둡의 활용이 빅 데이터를 훨씬 넘어선다"고 주장했다. 
 
하둡의 가장 강력한 능력 가운데 하나는 바로 확장성이며, 야후와 페이스북은 하둡이 어떻게 확장될 수 있는지를 보여주는 훌륭한 예일 뿐이다. 그러나 하둡이 다른 방향으로 어떻게 스케일링(scaling)할 수 있으며, 모든 규모의 기업들에게 의사결정에 필요한 분석 데이터를 제공하는 방법에 대해서는 별다른 의견이 없다.
 
하둡, 모든 데이터가 동등하게 저장된다
머시의 설명에 따르면, 이전의 데이터 스토리지에는 비용이 많이 들었다. 5년 전만 해도 대기업과 중소기업들은 폭발적으로 증가하는 데이터 셋들을 계속해서 기록하고 스스로 관리해야 했다. 이메일, 검색 결과, 판매 데이터, 재고 데이터, 고객 데이터, 웹의 클릭 경로 등 이 모든 정보들과 그 외의 더 많은 데이터들이 쏟아져 들어왔고, 이를 관계형 데이터베이스 관리시스템(RDBMS)에서 관리하겠다는 것은 막대한 비용이 따르는 계획이었다.
 
제대로 된 데이터 관리 기능과 비용 절감을 동시에 추구하는 기업은 들어오는 모든 이벤트 및 신호 데이터들을 일반적으로 더 작은 하위 집합들로 샘플링할 것이다. 이렇게 하향 샘플링(downsample)된 데이터를 머시는 '히스토리컬 데이터(historical data)'라고 부른다. 이 데이터는 자동으로 특정 가정에 근거해 분류되며 그 중에서도 어떤 데이터가 다른 데이터들보다 항상 더 중요할 것이라는 가정이 가장 우선적으로 작용할 것이다.
 
예를 들면 전자상거래 데이터에서 우선 순위는 신용카드 데이터가 제품 데이터보다 중요하며 제품 데이터는 클릭 경로 데이터보다 중요하다는 합리적인 가정이 수립될 것이다.
 
이렇게 하나의 주어진 가정 집합에 근거한 비즈니스 모델을 운영한다면 비즈니스 의사결정을 위한 정보들을 끌어내기가 별로 어렵지 않을 것이다. 하지만 이 정보들은 항상 초기 가정들에 입각해 있을 것이고 만약 그 가정 자체가 바뀌면 어떻게 될까? 
 
데이터가 이전에 이미 하향 샘플링을 거쳤기 때문에 모든 원 데이터(raw data)는 이미 오래 전에 사라져버렸을 것이고 어떤 새로운 비즈니스 시나리오든 스토리지에 남아있는 데이터를 사용해야 할 것이다.
 
게다가 RDBMS 기반 스토리지의 비용 부담으로 이 데이터는 종종 기관 내부에서 격리된 채로 저장된다. 영업부의 데이터는 영업부가, 마케팅부의 데이터는 마케팅부가, 회계부의 데이터는 회계부가, 그 외 여타 부서들도 마찬가지로 각 부서가 자신들의 데이터를 보관할 것이다. 따라서 비즈니스 모델과 관련된 결정들은 기업 전체가 아니라 기업의 각 부서들로 제한될 것이다.
 
머시는 "하둡을 이용하면 그냥 모든 데이터를 저장하기 때문에 아무런 가정도 필요하지 않다"고 주장했다.
 
이런 사실은 비록 하둡의 낮은 경제적 비용이라는 이점 뒤에 가려져 많이 주목받지 못하고 있지만 아마도 하둡의 가장 큰 장점일 것이다. 머시는 "하향 샘플링은 어떤 특정 데이터가 다른 데이터들보다 더 크고 더 중요할 것이라는 가정을 토대로 한다. 그러나 하둡에서는 모든 데이터가 동등한 가치를 갖는다"라고 설명했다.
 
모든 데이터의 가치가 동등하고, 각각이 비슷한 수준으로 이용될 수 있기 때문에, 비즈니스 시나리오들은 언제라도 아무런 제약 없이 원 데이터를 가지고 추진될 수 있다. 게다가 이전에는 사일로화 됐었던 데이터들에도 동등하게 접근할 수 있으며 이들을 공유함으로써 기업 비즈니스를 더 크게, 전체적으로 접근해 분석할 수 있을 것이다.  
 
이제는 히스토리컬 데이터라는 것이 사라진다는 점에서 데이터가 어떻게 인식될 것인가의 변화는 실로 엄청나다. 게다가 데이터가 있는 그대로 저장될 수 있기 때문에 추출, 변환, 로드 연산 등과 관련된 데이터 관리 일들이 많이 줄어들 것이다.
 
하둡, DBMS의 리눅스 
하둡의 여러 장점들 중에서도 저렴한 비용이 단연 가장 많은 주목을 받고 있다는 사실에는 반론의 여지가 없다. 아파치 소프트웨어 라이선스에 따라 전체 프레임워크가 오픈소스이기 때문에 기본 소프트웨어에 대한 라이선스 비용(licensing fee)를 지불하지 않아도 된다.
 
하둡 프레임워크의 창안자 가운데 한 명인 더그 커팅을 채용한 상용 하둡업체 클라우데라(Cloudera)는 오픈 코어 모델(open core model)을 사용하며 따라서 하둡 기본 소프트웨어는 무료이지만 클라우데라의 연장 도구에는 라이선스료를 지불해야 한다. 
 
머시가 야후의 하둡 팀에서 함께 근무했던 몇 명의 직원들과 2011년 초 공동 창업한 호튼웍스는 모든 소프트웨어를 무료로, 그리고 오픈소스로 제공하는 대신 교육과 지원 프로그램 등을 통해 수익을 올리고 있다.
 
그 이외에도 하둡에는 비용을 절약할 수 있는 여러 특성들이 있다. RDBMS와는 다르게 하둡은 고가의 하드웨어나 고성능 프로세서들을 필요로 하지 않는다. 하둡 네트워크에 연결된 상용 서버면 충분하다. 즉 하둡 노드는 오로지 프로세서 하나, 네트워크 카드 하나, 하드 드라이브 몇 개만을 필요로 하는데 이들을 총 합치면 약 4,000달러 정도 수준이다. 
 
반면 RDBMS 시스템은 테라바이트 당 1만에서 1만 4,000달러 정도의 비용이 든다. 이렇게 큰 비용 차이는 결정적으로 왜 하둡이 그렇게 큰 주목을 받는지, 그리고 왜 마땅히 주목받아야 하는 지에 대한 설명이 된다.
 Tags

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.