2013.05.10

데이터 과학자와 BI 전문가와의 차이 그리고 데이터 과학자가 되는 법

Julia King | PCWorld

통계와 컴퓨터 과학의 깊은 지식에 훈련의 초점이 맞춰지면서, 데이터 과학자는 전통적인 데이터 분석가들에게 있어서 완전히 새로운 장이 열렸다.

CIO들에게 그들의 전략적 우선순위를 꼽아보라고 한다면, 대부분 '빅 데이터'를 최우선 혹은 그 다음 순위로 대답할 것이다.

CIO들이 말하는 가장 큰 도전과제 가운데 하나는 바로 기업으로 들어오는 복잡한 데이터의 점점 늘어가는 볼륨을 분석하고 사업적 가치를 짜내는데 필요한 인재를 찾는 일이다.

기업은 좋은 데이터 과학자들을 필요로 한다, 그것도 아주 많이
이 주제에 대해 가장 자주 언급되는 보고서 가운데 하나인 맥킨지 글로벌 인스티튜트(McKinsey Global Institute)의 보고서는 2018년까지 IT 인력 시장에 19만 명의 데이터 과학자 부족현상이 발생할 것이라고 예상한 바 있다.

그러나 이런 수요가 많은 빅 데이터 전문가가 되려면 정확히 어떻게 해야 하는 걸까? 훈련이 필요할까, 자격증이 필요할까, 아니면 둘다 필요할까? 빅 데이터 전문가가 단순히 전통적인 비즈니스 인텔리전스 전문가들이 밟아야 할 자연스러운 경력 단계인걸까? 컴퓨터 과학 학위가 필요할까?

최소한 지금까지 상황을 볼 때, 이런 질문들에 대한 정답은 없다. 그 대신, 빅 데이터 분야에 일대 변혁이 일어나고 있는 것은 분명하다.

미국 매사추세츠 웨스턴에 위치한 바이오젠 아이덱(Biogen Idec) CIO 그렉 메이어스는 "빅 데이터는 아이들의 축구 경기와 비슷하다. 모두가 공을 차고 있지만, 아무도 그들이 정확히 무얼하고 있는지는 모른다. 이로 인해 사람들 사이의 엄청난 경쟁이 생겨났다"고 말했다.

미국 노스캐롤라이나 주립대(North Caronlina State University) 고급 분석 연구소(Institute for Advanced Analytics) 연구소장 마이클 라파 역시 "빅 데이터는 아주 유동적인 영역이며, 자신이 속한 산업이나 자신이 이야기하는 기업에 따라 빅 데이터의 현실은 각기 다르다"고 말하며 메이어스의 주장에 동의했다.

하나로 정의하기 어려울 수 있지만, 학계, 업계, 비즈니스 전문가들은 모든 데이터 과학자들이 수행할 필요가 있는 기본적인 작업들과 이를 잘 수행하기 위해 요구되는 특유의 기술들이 존재한다는데 동의한다.

주요 지식 분야들로는 데이터 클러스터링, 데이터 상관성, 데이터 분류, 변칙 감지 등이 있다.

또는 예측적 보안 분석 제공업체 레드 램다(Red lambda)의 데이터 과학자이자 CTO인 롭 버드처럼, "데이터를 단순화시키고, 관계를 찾고, 이상한 것들을 잡아내고, 예측을 내놓는 것"으로 볼 수도 있다.

데이터 과학 vs. 비즈니스 인텔리전스, 무엇이 다른가?
'데이터 과학'과 '비즈니스 인텔리전스'라는 용어는 빅 데이터와 연계되어 많이 사용되는 것으로 보이지만, 이들은 완전히 별개의 지식분야다.

전문가들은 데이터 과학이 미래 예측에 관한 것인 반면, 비즈니스 인텔리전스는 정적 보고서 생산에 관한 것이라고 구분했다.

"전통적인 비즈니스 인텔리전스 전문가들은 트렌드와 표준편차에 대한 보고를 할 때조차 있는 그대로의 정보를 효과적으로 보고한다"고 넷플릭스(Netflix) DVD 비즈니스 인텔리전스와 분석 책임자 앤드류 뎀프시는 말했다. "비즈니스 인텔리전스 전문가들은 새로운 정보의 조각을 발견해 내는 일을 하는 게 아니다. 그저 현재의 데이터만을 다룰 뿐이다."

뎀프시는 "그러나 데이터 과학에서는 미스터리 요소가 가미된다. 예를 들어, 넷플릭스는 "어떤 고객들이 왜 업체를 갈아 타는지, 갈아 탈 가능성이 있는지를 파악하기 위해 축적된 기존 데이터를 살펴본다"고 설명했다.

뎀프시는 "평균적으로 볼때 수많은 사람들이 비슷한 시청 습관을 가지고 있기 때문에 불확실성이 더 크지만, 개인적 단계로 보면 똑같은 사람은 어느 누구도 없다"고 덧붙였다.

데이터 과학과 비즈니스 인텔리전스 사이의 또 다른 주요 차이점은 데이터 그 자체에서도 찾을 수 있다.

그렉 메이어스는 "우선 순수한 데이터 양에서 다르다. 아주 많은 데이터 속에서 예외를 찾아내기 위해서는, 보고하기보다는 이를 충분히 이해해야 한다"고.

바이오젠 아이덱은 데이터의 신호들을 전체 제조 과정에 걸쳐 계속적으로 확인하고 허용수준을 넘어서는 것들을 잡아낸다. 변칙이 감지되면, 완전히 다른 작업 절차가 촉발된다.

메이어스는 "이는 모두 우리의 제조과정을 최대한 제어하기 위함"이라고 말했다. 또한 "우리는 여러 배치에 걸쳐 데이터를 확인해 분석 절차를 성숙시켜왔기 때문에, 우리는 특정 대상의 변동성을 줄이기 위해 트렌드를 본다"고 설명했다.

또다른 도전 과제는 빅 데이터의 변동성에 대처하는 것이다.
콘태전트(Kontagent) 데이터 과학자 조시 윌리엄스는 "전형적인 데이터 인텔리전트 시스템은 고객 프로필과 같이 고도로 구조화된 데이터를 가지는 게 보통이다. 그 데이터의 상관성을 보여주고 이에 대한 회귀분석을 함으로써 분석을 하는 것"이라고 말했다.

이와 반대로 오늘날의 빅 데이터 환경 속에서는 "복잡한 데이터가 엄청나게 주어지기 때문에, 자신이 살펴보고 있는 특성들이 결과물에 어떻게 관련되어 있는 지조차 알 수 없다"고 말했다.

윌리엄스는 "최종 결과는 데이터 과학이 훨씬 더 탐구적이다. 데이터 과학은 자신의 발등을 찍기 쉽기 때문에 더욱 엄격해져야 한다. 분석도 훨씬 어렵기 때문에 기계 학습에 관련된 연구도 그렇게 많이 진행되고 있다"고 덧붙였다.



2013.05.10

데이터 과학자와 BI 전문가와의 차이 그리고 데이터 과학자가 되는 법

Julia King | PCWorld

통계와 컴퓨터 과학의 깊은 지식에 훈련의 초점이 맞춰지면서, 데이터 과학자는 전통적인 데이터 분석가들에게 있어서 완전히 새로운 장이 열렸다.

CIO들에게 그들의 전략적 우선순위를 꼽아보라고 한다면, 대부분 '빅 데이터'를 최우선 혹은 그 다음 순위로 대답할 것이다.

CIO들이 말하는 가장 큰 도전과제 가운데 하나는 바로 기업으로 들어오는 복잡한 데이터의 점점 늘어가는 볼륨을 분석하고 사업적 가치를 짜내는데 필요한 인재를 찾는 일이다.

기업은 좋은 데이터 과학자들을 필요로 한다, 그것도 아주 많이
이 주제에 대해 가장 자주 언급되는 보고서 가운데 하나인 맥킨지 글로벌 인스티튜트(McKinsey Global Institute)의 보고서는 2018년까지 IT 인력 시장에 19만 명의 데이터 과학자 부족현상이 발생할 것이라고 예상한 바 있다.

그러나 이런 수요가 많은 빅 데이터 전문가가 되려면 정확히 어떻게 해야 하는 걸까? 훈련이 필요할까, 자격증이 필요할까, 아니면 둘다 필요할까? 빅 데이터 전문가가 단순히 전통적인 비즈니스 인텔리전스 전문가들이 밟아야 할 자연스러운 경력 단계인걸까? 컴퓨터 과학 학위가 필요할까?

최소한 지금까지 상황을 볼 때, 이런 질문들에 대한 정답은 없다. 그 대신, 빅 데이터 분야에 일대 변혁이 일어나고 있는 것은 분명하다.

미국 매사추세츠 웨스턴에 위치한 바이오젠 아이덱(Biogen Idec) CIO 그렉 메이어스는 "빅 데이터는 아이들의 축구 경기와 비슷하다. 모두가 공을 차고 있지만, 아무도 그들이 정확히 무얼하고 있는지는 모른다. 이로 인해 사람들 사이의 엄청난 경쟁이 생겨났다"고 말했다.

미국 노스캐롤라이나 주립대(North Caronlina State University) 고급 분석 연구소(Institute for Advanced Analytics) 연구소장 마이클 라파 역시 "빅 데이터는 아주 유동적인 영역이며, 자신이 속한 산업이나 자신이 이야기하는 기업에 따라 빅 데이터의 현실은 각기 다르다"고 말하며 메이어스의 주장에 동의했다.

하나로 정의하기 어려울 수 있지만, 학계, 업계, 비즈니스 전문가들은 모든 데이터 과학자들이 수행할 필요가 있는 기본적인 작업들과 이를 잘 수행하기 위해 요구되는 특유의 기술들이 존재한다는데 동의한다.

주요 지식 분야들로는 데이터 클러스터링, 데이터 상관성, 데이터 분류, 변칙 감지 등이 있다.

또는 예측적 보안 분석 제공업체 레드 램다(Red lambda)의 데이터 과학자이자 CTO인 롭 버드처럼, "데이터를 단순화시키고, 관계를 찾고, 이상한 것들을 잡아내고, 예측을 내놓는 것"으로 볼 수도 있다.

데이터 과학 vs. 비즈니스 인텔리전스, 무엇이 다른가?
'데이터 과학'과 '비즈니스 인텔리전스'라는 용어는 빅 데이터와 연계되어 많이 사용되는 것으로 보이지만, 이들은 완전히 별개의 지식분야다.

전문가들은 데이터 과학이 미래 예측에 관한 것인 반면, 비즈니스 인텔리전스는 정적 보고서 생산에 관한 것이라고 구분했다.

"전통적인 비즈니스 인텔리전스 전문가들은 트렌드와 표준편차에 대한 보고를 할 때조차 있는 그대로의 정보를 효과적으로 보고한다"고 넷플릭스(Netflix) DVD 비즈니스 인텔리전스와 분석 책임자 앤드류 뎀프시는 말했다. "비즈니스 인텔리전스 전문가들은 새로운 정보의 조각을 발견해 내는 일을 하는 게 아니다. 그저 현재의 데이터만을 다룰 뿐이다."

뎀프시는 "그러나 데이터 과학에서는 미스터리 요소가 가미된다. 예를 들어, 넷플릭스는 "어떤 고객들이 왜 업체를 갈아 타는지, 갈아 탈 가능성이 있는지를 파악하기 위해 축적된 기존 데이터를 살펴본다"고 설명했다.

뎀프시는 "평균적으로 볼때 수많은 사람들이 비슷한 시청 습관을 가지고 있기 때문에 불확실성이 더 크지만, 개인적 단계로 보면 똑같은 사람은 어느 누구도 없다"고 덧붙였다.

데이터 과학과 비즈니스 인텔리전스 사이의 또 다른 주요 차이점은 데이터 그 자체에서도 찾을 수 있다.

그렉 메이어스는 "우선 순수한 데이터 양에서 다르다. 아주 많은 데이터 속에서 예외를 찾아내기 위해서는, 보고하기보다는 이를 충분히 이해해야 한다"고.

바이오젠 아이덱은 데이터의 신호들을 전체 제조 과정에 걸쳐 계속적으로 확인하고 허용수준을 넘어서는 것들을 잡아낸다. 변칙이 감지되면, 완전히 다른 작업 절차가 촉발된다.

메이어스는 "이는 모두 우리의 제조과정을 최대한 제어하기 위함"이라고 말했다. 또한 "우리는 여러 배치에 걸쳐 데이터를 확인해 분석 절차를 성숙시켜왔기 때문에, 우리는 특정 대상의 변동성을 줄이기 위해 트렌드를 본다"고 설명했다.

또다른 도전 과제는 빅 데이터의 변동성에 대처하는 것이다.
콘태전트(Kontagent) 데이터 과학자 조시 윌리엄스는 "전형적인 데이터 인텔리전트 시스템은 고객 프로필과 같이 고도로 구조화된 데이터를 가지는 게 보통이다. 그 데이터의 상관성을 보여주고 이에 대한 회귀분석을 함으로써 분석을 하는 것"이라고 말했다.

이와 반대로 오늘날의 빅 데이터 환경 속에서는 "복잡한 데이터가 엄청나게 주어지기 때문에, 자신이 살펴보고 있는 특성들이 결과물에 어떻게 관련되어 있는 지조차 알 수 없다"고 말했다.

윌리엄스는 "최종 결과는 데이터 과학이 훨씬 더 탐구적이다. 데이터 과학은 자신의 발등을 찍기 쉽기 때문에 더욱 엄격해져야 한다. 분석도 훨씬 어렵기 때문에 기계 학습에 관련된 연구도 그렇게 많이 진행되고 있다"고 덧붙였다.



X