데이터ㆍ분석 / 데이터센터 / 애플리케이션 / 오피스ㆍ협업 / 클라우드

빅 데이터, 이제 관리가 아니라 활용에 초점을 - 빅 데이터 월드 2011 컨퍼런스

편집부 | ITWorld 2011.11.03
아마존, 12개 기술팀 인터뷰 통해 얻어낸 노하우 전수 
기조 연설에 나선 아마존 수석 엔지니어인 존 라우저 데이터마이너는 빅 데이터로 인해 데이터 경제학이 변화하는데, 아마존은 어떻게 대응했으며, 이를 통해 어떤 서비스와 이익을 창출하고 있는지를 상세히 설명했다.
  
존 라우저는 “데이터 양의 폭증으로 인해 기존 데이터 처리 기술로는 도저히 데이터를 처리할 수 없는, 빅 데이터의 의미를 되짚어 본다면, 빅 데이터는 데이터 가운데 아주 적은 부분”이라며, “빅 데이터 기술은 서버 한 두대를 더 설치해야 하는 상황을 지연시킬 뿐만 아니라 향후 데이터센터를 추가적으로 건립해야 하는 시점까지도 연기시킬 수 있다”고 밝혔다.

라우저는 이번 컨퍼런스를 위해 아마존의 12개 각 기술팀에게 인터뷰하면서 알아낸 성공 노하우와 경험담을 설파했다. 
 
아마존은 빅 데이터 기술을 통해 분산시스템을 개발하는 비용과 운영 비용을 줄이는 것은 물론 과거 인간의 경험에 의해 좌우되었던 데이터마이닝의 역량 또한 기존에는 신과 같은 능력이 필요했다면, 이제는 재능있는 엔지니어만 있으면 폭증하는 데이터를 마이닝할 수 있게 됐다고. 
 
또한 아마존은 자사의 데이터 트래픽을 연구하면서 4분기 트래픽은 평소 트래픽의 3배이상으로 증가하기 때문에 레드라인을 피크 타임의 15% 위에 두고 몇 개월 전에 서버 증설 예약을 하곤 했는데, 실제로는 서버의 24%밖에 활용하지 못하며, 76%는 낭비되고 있는 상황을 파악했다. 
 
이 상황에서 아마존은 빅 데이터 기술을 통해 자사의 데이터센터 혁신을 물론 새로운 비즈니스를 만들었다. 아마존은 최근 아마존 일랙스틱 컴퓨트 클라우드라는 서비스를 선보였다. 라우저는 "트래픽이 폭증하면 몇분만에 서버를 추가할 수 있으며, 추가된 만큼의 비용만 지불하면 되는 서비스"라고 밝혔다. 
 
라우저는 데이터웨어하우스는 비법이 될 수 없다며, “데이터웨어하우스는 데이터가 죽는 곳”이라고 단언했다. 이를 통해 비즈니스 요건이 충족되더라도 이를 운영하는 사람과, 데이터웨어하우스를 통해 마이닝이 되는 것과 되지 않는 것을 설명해야 하는 번거로운 프로세스만 늘어나게 된다고 주장했다. 
 
빅 데이터 시대에 맞는 분석 방법 필요
이에 대해 이지은 실장은 전통적인 데이터 분석 방법과 빅 데이터 기술을 통한 분석 방법을 구분하면서, “현재 비즈니스 상황에서 정보기반의 통찰력을 얻기 위해서는 두 가지 분석 방법이 모두 필요하다”고 설명했다. 
 
전통적인 데이터 분석 방법은 비즈니스 요구사항을 정의하고 이에 기반한 데이터 모델링을 만들고, IT를 통해 이를 구조화하고 솔루션을 디자인한다. 
 
이에 비즈니스 현업은 쿼리를 수행해 반복적으로 질문에 대한 답을 얻는다. 이런 과정 속에서 현업은 변경해야 할 사안이나 새로운 비즈니스 요구가 발생하면, 다시 디자인하거나 재구축에 나서는 수순이다. 
 
이지은 실장은 “이런 발견 위주의 접근 방법은 빅 데이터 시대에는 맞지 않다. 새로운 빅 데이터 식 분석 방법은 비즈니스와 IT가 함께 가용할 수 있는 정보 소스를 확인한다. IT는 가용한 모든 데이터와 콘텐츠에 대해 창의적인 탐색이 가능하도록 플랫폼을 제공하면 비즈니스 현업은 데이터와 데이터의 상관 관계를 탐색하면서 얻은 통찰력을 통해 요구 사항들을 결정하고, 기존 기술과 연계해 적용하는 방식”이라고 설명했다. 
 
이지은 실장은 “빅 데이터는 데이터웨어하우스의 굉장히 확장된 형태의 정보 통합으로도 볼 수 있다"며, 빅 데이터를 문제로 인식하기 보다는 새로운 비즈니스 기회로 정의하는 게 옳으며, 이제는 누가 빨리 정보를 활용하느냐가 중요하다"고 주장했다. 
 
IBM은 이런 변화를 한 마디로 '스마트한 세상'이라 규정하고 이의 중심에는 정보라는 것이 있으며, IBM은 스마트한 세상에서 빅 데이터를 어떻게 활용하는지에 초점을 맞추고 있다. 
 
이지은 실장은 "IBM는 다양성(Variety). 속도(Velocity), 크기(Volume) 등 3V 전략을 내세우고 있다"며, "이와 함께 중요한 것은 바로 비용 효율적인 측면도 고려해야 한다"고.  
 
Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.