2015.05.06

빅데이터로 인한 변화, "생각보다 많지 않다"

Matt Asay | InfoWorld
최근 발표된 한 설문조사에 따르면 최근 데이터 기술이 급속도로 빨리 진화함에도 불구하고 기업 데이터의 75%는 여전히 정형화된 구조를 유지하고 있다.

여전히 관계형 데이터베이스(RDBMS)가 지배하는 세계지만 하둡과 NoSQL이 정형 데이터의 성벽을 조금씩 무너뜨리기 시작했다.

델 소프트웨어가 후원한 유니스피어(Unisphere) 설문 결과를 요약하자면 다음과 같다.
대부분의 기업에서 데이터의 75%는 여전히 RDBMS, 구체적으로 오라클과 마이크로소프트 SQL 서버의 지배하에 있다. 더 놀라운 사실은 기업의 1/3 정도가 아직 비정형 데이터를 적극적으로 관리하지 않고 있다는 점이다.

이들은 몇 세기에 살고 있는 걸까? 이번 설문에서는 NoSQL과 하둡의 도입이 증가세인 것으로 나타났지만, 사실 이 설문에서 가장 의미있는 결과는 기업의 핵심 데이터가 어떻게 관리되는지 가장 늦게 인지하는 사람은 다름아닌 보수적인 DBA(DataBase Administration)라는 것이다.

정형 데이터에 대한 정형적 접근 방법
관계형 데이터베이스는 위대한 기술 혁신 가운데 하나다. IMS와 같은 초기 데이터베이스에서 개발자는 쿼리 설계와 스키마 설계를 선행해 생각할 수밖에 없었고 따라서 데이터 변화에 따른 유연성이 제한되었다.

관계형 데이터베이스의 SQL(structured query language)은 쿼리 설계를 스키마 설계로부터 분리했고, 이로써 개발자는 나중에 필요할 때 데이터를 쿼리할 수 있다는 편안한 마음으로 스키마 설계에 집중할 수 있게 됐다. 이 큰 변화를 통해 데이터베이스는 훨씬 더 높은 접근성을 갖고 더 강력해졌다.

그러나 편리하게 정형화된 RDBMS 세계에 대한 비정형 또는 반정형 데이터의 도전이 최근 들어 잦아지고 있다.

지난 수십 년 동안 시스템 오브 레코드(system of record), 예를 들어 ERP와 CRM 시스템이 시장을 주도했음에도 불구하고 새로운 데이터의 대부분은 제프리 무어의 표현을 빌자면 '시스템 오브 인게이지먼트(system of engagement)'에 의해 생성되고 있다. RDBMS는 다양성, 속도, 데이터 볼륨 측면에서 데이터의 예측 가능성이 확보될 때 빛을 발한다.

그러나 빅데이터 세계는 이런 특성과는 거리가 멀어 보인다. 하지만 미래가 오기까지는 오랜 시간이 걸린다. 유니스피어 설문 응답자들이 정형 데이터에 집착하고 있다는 사실도 어찌 보연 당연하다.

- 조직의 83%는 트랜잭션 데이터(전자상거래 포함)의 증가를 조직 내 정형 데이터 증가의 가장 중요한 원인으로 꼽았으며 51%는 ERP 시스템과 같은 관리 데이터의 증가도 원인으로 지목했다.

- 소셜 데이터의 급증에 치중하는 업계 분위기와 달리, 응답자의 50% 이상은 내부적으로 생성되는 문서의 증가가 비정형 데이터 증가의 가장 큰 원인이라고 답했다.


RDMBS 친화적 데이터의 강세에도 불구하고 NoSQL과 하둡에 대한 의존도 역시 높아지고 있다는 점도 주목할 만한 결과다.

- 몽고DB(MongoDB)를 사용 중인 응답자의 약 70%는 100개 이상의 데이터베이스를, 30%는 500개 이상의 데이터베이스를 운영하며, 60% 가까이가 직원 수 5,000명 이상 기업에서 일한다.

- 현재 하둡을 사용 중인 응답자의 60%는 100개 이상의 데이터베이스를, 45%는 500개 이상의 데이터베이스를 운영하며 약 2/3가 직원 수 1,000명 이상인 기업에서 일한다.

비관계형 데이터 기술에 대해 이 데이터베이스가 그렇게 유리하다면 왜 실제 사용 수치는 생각보다 낮게 나올까? 그 원인은 (아마도) DBA에 있다.

사용률이 더 높지 않은 이유
하둡과 NoSQL이 모두 설치된 기업의 응답자 가운데서 DBA가 비관계형 기술의 관리를 책임지는 경우가 72%에 이른다. 전체 설문 응답자 구성을 보면 DBA가 48%, IT 책임자가 20%다.

그런데 이런 직책은 기술 도입의 선행 지표가 아니라 지행 지표다. DBA들은 오라클 또는 마이크로소프트 SQL 서버를 운영하며 경력을 쌓아왔다. 자신이 알고 있는 것에 집착하는 현상은 결코 놀라운 일이 아니다.

이번 설문 결과, NoSQL 데이터베이스의 보급률은 10%에 그쳤고, 이 중에서 하둡을 사용한다고 답한 응답자도 20%에 불과했다. 특히 57%는 향후 3년 내에 도입할 계획이 없다고 응답했다. 즉, 최신 데이터 기술의 확산에 대해 설문 조사를 할 대상으로 애초에 적합한 사람들이 아니었음에 주목해야 한다.

사실 오히려 이들이 NoSQL과 하둡을 운영하고 있다는 것을 의외라고 판단해야 할 것이다. 물론 다른 선택권이 없다는 점까지 감안하면 그렇게까지 의외는 아니다. 오늘날 기업에 필요한 규모와 유연성을 확보하기 위해 최신 데이터 기술의 중요성이 갈수록 커지고 있기 때문이다.

설문 응답자의 가장 큰 우려 사항은 정형 및 비정형 데이터의 증가(66%)와 클라우드 컴퓨팅의 파급력이지만, 이 두 가지 추세가 결합되어 결국 빅데이터의 총아인 하둡과 NoSQL로 향하고 있다는 사실을 미처 인지하지 못한다는 점이다.

DBA를 제외하면 생각 이상으로 확산
그러나 DBA가 아닌 다른 사람들을 중심으로 한 설문에서는 이 기술의 약진이 두드러지게 나타난다.

포레스터 설문에서는 NoSQL의 현재 보급률이 20%이며 2017년까지 두 배가 된다는 결과가 나왔다. 직무 데이터, 링크드인 프로필 등을 기준으로 데이터베이스 인기 순위를 측정하는 DB-엔진(DB-Engines) 조사에서는 상위 10개 데이터베이스 내에 NoSQL 데이터베이스가 3개 포함되면서 DB2, 포스트그레스와 같은 탄탄한 기반의 RDBMS 순위를 앞질렀다.

하둡의 경우 2013년 451 리서치(451 Research) 조사에서는 기업 스토리지 점유율이 3%에 불과했으나 가트너는 전체적으로는 빅데이터, 구체적으로는 하둡을 향한 도입이 뚜렷한 증가 추세에 있다는 조사 결과를 내놨다.

가트너는 매년 기업을 대상으로 빅데이터 계획에 대한 설문을 실시하는데, 여기서 하둡은 중요한 요소로 거론되는 경우가 많고 이제 개념 증명(proof-of-concept) 단계를 지나 전진하는 추세를 보이고 있다.

몇년 전에 빌리 마샬은 기업의 활발한 오픈소스 도입에 대한 CIO의 무지를 지적하면서 "CIO가 가장 늦게 안다"고 주장한 바 있다. 지금 하둡과 NoSQL에 대해서도 이 말은 그대로 적용된다.

물론 하둡과 NoSQL이 오라클이나 SQL 서버를 가까운 시일 내에 대체될 일은 없다. 또한 이 기술은 전통적인 사용 사례와 맞지도 않는다. 그러나 기업들이 쏟아져 들어오는 비정형, 반정형 데이터를 더 효과적으로 저장하고 처리할 방법을 모색하고 있는 만큼 DBA도 하둡과 NoSQL에 익숙해져야만 한다. 선택의 여지가 없다. editor@itworld.co.kr


2015.05.06

빅데이터로 인한 변화, "생각보다 많지 않다"

Matt Asay | InfoWorld
최근 발표된 한 설문조사에 따르면 최근 데이터 기술이 급속도로 빨리 진화함에도 불구하고 기업 데이터의 75%는 여전히 정형화된 구조를 유지하고 있다.

여전히 관계형 데이터베이스(RDBMS)가 지배하는 세계지만 하둡과 NoSQL이 정형 데이터의 성벽을 조금씩 무너뜨리기 시작했다.

델 소프트웨어가 후원한 유니스피어(Unisphere) 설문 결과를 요약하자면 다음과 같다.
대부분의 기업에서 데이터의 75%는 여전히 RDBMS, 구체적으로 오라클과 마이크로소프트 SQL 서버의 지배하에 있다. 더 놀라운 사실은 기업의 1/3 정도가 아직 비정형 데이터를 적극적으로 관리하지 않고 있다는 점이다.

이들은 몇 세기에 살고 있는 걸까? 이번 설문에서는 NoSQL과 하둡의 도입이 증가세인 것으로 나타났지만, 사실 이 설문에서 가장 의미있는 결과는 기업의 핵심 데이터가 어떻게 관리되는지 가장 늦게 인지하는 사람은 다름아닌 보수적인 DBA(DataBase Administration)라는 것이다.

정형 데이터에 대한 정형적 접근 방법
관계형 데이터베이스는 위대한 기술 혁신 가운데 하나다. IMS와 같은 초기 데이터베이스에서 개발자는 쿼리 설계와 스키마 설계를 선행해 생각할 수밖에 없었고 따라서 데이터 변화에 따른 유연성이 제한되었다.

관계형 데이터베이스의 SQL(structured query language)은 쿼리 설계를 스키마 설계로부터 분리했고, 이로써 개발자는 나중에 필요할 때 데이터를 쿼리할 수 있다는 편안한 마음으로 스키마 설계에 집중할 수 있게 됐다. 이 큰 변화를 통해 데이터베이스는 훨씬 더 높은 접근성을 갖고 더 강력해졌다.

그러나 편리하게 정형화된 RDBMS 세계에 대한 비정형 또는 반정형 데이터의 도전이 최근 들어 잦아지고 있다.

지난 수십 년 동안 시스템 오브 레코드(system of record), 예를 들어 ERP와 CRM 시스템이 시장을 주도했음에도 불구하고 새로운 데이터의 대부분은 제프리 무어의 표현을 빌자면 '시스템 오브 인게이지먼트(system of engagement)'에 의해 생성되고 있다. RDBMS는 다양성, 속도, 데이터 볼륨 측면에서 데이터의 예측 가능성이 확보될 때 빛을 발한다.

그러나 빅데이터 세계는 이런 특성과는 거리가 멀어 보인다. 하지만 미래가 오기까지는 오랜 시간이 걸린다. 유니스피어 설문 응답자들이 정형 데이터에 집착하고 있다는 사실도 어찌 보연 당연하다.

- 조직의 83%는 트랜잭션 데이터(전자상거래 포함)의 증가를 조직 내 정형 데이터 증가의 가장 중요한 원인으로 꼽았으며 51%는 ERP 시스템과 같은 관리 데이터의 증가도 원인으로 지목했다.

- 소셜 데이터의 급증에 치중하는 업계 분위기와 달리, 응답자의 50% 이상은 내부적으로 생성되는 문서의 증가가 비정형 데이터 증가의 가장 큰 원인이라고 답했다.


RDMBS 친화적 데이터의 강세에도 불구하고 NoSQL과 하둡에 대한 의존도 역시 높아지고 있다는 점도 주목할 만한 결과다.

- 몽고DB(MongoDB)를 사용 중인 응답자의 약 70%는 100개 이상의 데이터베이스를, 30%는 500개 이상의 데이터베이스를 운영하며, 60% 가까이가 직원 수 5,000명 이상 기업에서 일한다.

- 현재 하둡을 사용 중인 응답자의 60%는 100개 이상의 데이터베이스를, 45%는 500개 이상의 데이터베이스를 운영하며 약 2/3가 직원 수 1,000명 이상인 기업에서 일한다.

비관계형 데이터 기술에 대해 이 데이터베이스가 그렇게 유리하다면 왜 실제 사용 수치는 생각보다 낮게 나올까? 그 원인은 (아마도) DBA에 있다.

사용률이 더 높지 않은 이유
하둡과 NoSQL이 모두 설치된 기업의 응답자 가운데서 DBA가 비관계형 기술의 관리를 책임지는 경우가 72%에 이른다. 전체 설문 응답자 구성을 보면 DBA가 48%, IT 책임자가 20%다.

그런데 이런 직책은 기술 도입의 선행 지표가 아니라 지행 지표다. DBA들은 오라클 또는 마이크로소프트 SQL 서버를 운영하며 경력을 쌓아왔다. 자신이 알고 있는 것에 집착하는 현상은 결코 놀라운 일이 아니다.

이번 설문 결과, NoSQL 데이터베이스의 보급률은 10%에 그쳤고, 이 중에서 하둡을 사용한다고 답한 응답자도 20%에 불과했다. 특히 57%는 향후 3년 내에 도입할 계획이 없다고 응답했다. 즉, 최신 데이터 기술의 확산에 대해 설문 조사를 할 대상으로 애초에 적합한 사람들이 아니었음에 주목해야 한다.

사실 오히려 이들이 NoSQL과 하둡을 운영하고 있다는 것을 의외라고 판단해야 할 것이다. 물론 다른 선택권이 없다는 점까지 감안하면 그렇게까지 의외는 아니다. 오늘날 기업에 필요한 규모와 유연성을 확보하기 위해 최신 데이터 기술의 중요성이 갈수록 커지고 있기 때문이다.

설문 응답자의 가장 큰 우려 사항은 정형 및 비정형 데이터의 증가(66%)와 클라우드 컴퓨팅의 파급력이지만, 이 두 가지 추세가 결합되어 결국 빅데이터의 총아인 하둡과 NoSQL로 향하고 있다는 사실을 미처 인지하지 못한다는 점이다.

DBA를 제외하면 생각 이상으로 확산
그러나 DBA가 아닌 다른 사람들을 중심으로 한 설문에서는 이 기술의 약진이 두드러지게 나타난다.

포레스터 설문에서는 NoSQL의 현재 보급률이 20%이며 2017년까지 두 배가 된다는 결과가 나왔다. 직무 데이터, 링크드인 프로필 등을 기준으로 데이터베이스 인기 순위를 측정하는 DB-엔진(DB-Engines) 조사에서는 상위 10개 데이터베이스 내에 NoSQL 데이터베이스가 3개 포함되면서 DB2, 포스트그레스와 같은 탄탄한 기반의 RDBMS 순위를 앞질렀다.

하둡의 경우 2013년 451 리서치(451 Research) 조사에서는 기업 스토리지 점유율이 3%에 불과했으나 가트너는 전체적으로는 빅데이터, 구체적으로는 하둡을 향한 도입이 뚜렷한 증가 추세에 있다는 조사 결과를 내놨다.

가트너는 매년 기업을 대상으로 빅데이터 계획에 대한 설문을 실시하는데, 여기서 하둡은 중요한 요소로 거론되는 경우가 많고 이제 개념 증명(proof-of-concept) 단계를 지나 전진하는 추세를 보이고 있다.

몇년 전에 빌리 마샬은 기업의 활발한 오픈소스 도입에 대한 CIO의 무지를 지적하면서 "CIO가 가장 늦게 안다"고 주장한 바 있다. 지금 하둡과 NoSQL에 대해서도 이 말은 그대로 적용된다.

물론 하둡과 NoSQL이 오라클이나 SQL 서버를 가까운 시일 내에 대체될 일은 없다. 또한 이 기술은 전통적인 사용 사례와 맞지도 않는다. 그러나 기업들이 쏟아져 들어오는 비정형, 반정형 데이터를 더 효과적으로 저장하고 처리할 방법을 모색하고 있는 만큼 DBA도 하둡과 NoSQL에 익숙해져야만 한다. 선택의 여지가 없다. editor@itworld.co.kr


X