인터뷰 | LG유플러스 장진수 팀장 "데이터 풍부할수록 클라우드가 필요"

현대 기업이 습득할 수 있는 데이터의 양은 분명 과거에 비해 훨씬 방대하다. 이 때문에 여전히 많은 기업이 데이터를 비즈니스 전략에 활용하고 조직 내·외부와 공유하는 데 어려움을 겪고 있다.

하루에도 테라급의 데이터가 쌓이는 통신사의 경우가 대표적이다. 통신사는 어떤 면에서 디지털 데이터의 금광을 소유한 것이나 마찬가지다. 대중의 기호와 위치, 소비와 이동 시간 등 실시간으로 발생하는 통신사 데이터는 법령의 범위 안에서 비즈니스 가치와 경쟁력을 높이며, 고객을 이해하고 수익을 창출하는 가능성의 보고다. 

LG유플러스에서 데이터와 디지털 트랜스포메이션을 담당하는 NW 빅데이터 엔지니어링 장진수 팀장을 만나 통신사 내 빅데이터 공유 고민과 최근 진행한 플랫폼 고도화 프로젝트 개요를 들었다. 
 

 

넘쳐나는 데이터 고민, 온프레미스 너머로 생각 확장하기

NW 빅데이터 엔지니어링 팀은 데이터로 통신 품질을 분석하고 감시하며, 더 나아가 네트워크 분야의 디지털 트랜스포메이션을 담당한다. 유동 인구, 유입 유출 인구, 모바일 TV 콘텐츠 사용 등 보유한 데이터를 내부 조직이 활용하도록 제공하는 것도 이 부서의 역할이다. 재난재해의 피해 규모를 산정하고 대형 행사 사후 통제에 필요한 관련 데이터도 정부 기관에 제공한다.

LG유플러스 역시 하이브리드 클라우드 데이터 패브릭, 데이터 메쉬 등 모던 빅데이터 플랫폼 아키텍처로 데이터 관리와 공유 시스템을 개선해야 할 필요성을 절감하고 있었다. 2022년부터 NW 빅데이터 엔지니어링 팀을 이끌고 있는 장진수 팀장은 실시간 분석 등의 다양한 기능을 추가한 온프레미스 기반의 플랫폼을 운영해 왔다고 밝혔다.

온프레미스는 보안이 장점인 반면, 인파 관리 시스템에 필요한 정보나 5G 사업 관련 등 다양한 외부 파트너와 데이터를 공유하는 데는 불편이 컸다. 클라우드 전문 지식과 운영, 보안 관리 등의 부담을 최대한 덜어줄 솔루션을 찾아 클라우드로 데이터를 옮겨 보자는 목표하에 2022년 말 PoC를 진행했다.

두 곳의 데이터 클라우드와 기존 하드 플랫폼 시스템 중 PoC에서 선정된 것은 스노우플레이크였다. PoC의 성능 평가에서는 데이터 추출 속도, 쿼리 속도, 또는 로드가 많거나 여러 데이터 세트를 합칠 때의 시간 단축 수준 등을 평가했다.

"데이터 플랫폼 현대화의 첫 번째 목적은 기존의 노후한 하드 플랫폼 데이터를 이전해서 더 잘 활용할 수 있어야 한다는 것입니다. 기존 인프라는 하드웨어, 전력 사용량, 관리 및 유지 인력이 모두 필요했고, 업무 시간에만 사용했고, 단순 조회나 원인 분석 용도로 더 많이 쓰였습니다. 자주 쓰는 데이터는 빠르게 요구에 대응하고, 자주 쓰지 않는 데이터는 오래 잘 보관해야 했습니다. 또 관리가 쉬우면서도 보안이 철저하고 또 데이터 누락이 없어야 한다는 점을 스노우플레이크가 잘 충족했습니다."

LG유플러스에서 수집하는 데이터는 하루에도 수백 테라바이트가 넘는다. 장진수 팀장은 외부와의 연계가 높은 데이터 위주로 스노우플레이크로 공유하면서 점차 활용 범위와 폭을 계획해 나갈 것이라고 전했다.

"데이터 플랫폼 현대화의 두 번째 목적은 데이터 공유가 쉬워야 한다는 것이었습니다. LG유플러스의 데이터는 공공 목적에도 활용되고, 필요한 곳이 계속 늘어나고 있기 때문에, 사용하는 측이 원하는 데이터를 만들어서 공유할 방법이 절실했습니다. 통신사는 폐쇄망이라는 특수성 때문에 데이터를 추출하기가 쉽지 않은 구조입니다. 스노우플레이크는 기존의 전용 회선을 그대로 활용해서 데이터를 전송하면 바로 외부에서 가져갈 수 있는 형태이므로 데이터 공유가 용이한 구조였습니다."
 

데이터 규모가 크고 내부 공유가 많기 때문에 관리 포인트와 변화 관리가 큰 문제로 꼽혔다. 특히 데이터의 전달 양과 종류, 요청한 부서 등을 파악하고, 담당자나 시스템이 바뀌면 접속과 권한을 업데이트하고 차단하는 일련의 관리 과정을 투명하게, 또 자동으로 파악해야 한다는 요구가 있었다. 

"스노우플레이크를 도입한 후 공유 공간에서 권한 관리가 투명하게 이루어지고, 어떤 부서가 어떤 데이터를 얼마나 많이, 자주 가져다 쓰고 있는지 파악하고 추적할 수 있다는 장점에 크게 만족하고 있습니다."

장진수 팀장은 스노우플레이크 일부 도입 이후의 장점을 상세히 설명했다. 온프레미스 환경에서는 시스템 작업과 그에 따른 다운타임이 자주 발생하는데, 그때마다 데이터 공유 권한이 있는 부서와 담당자를 일일이 파악해서 시스템 작업을 알리고, 다운타임을 경고하는 번거로움이 컸다. 경우에 따라서는 데이터 누락과 전송 장애가 발생할 수도 있다. 그러나 이제는 권한 있는 타 부서가 필요할 때에 데이터를 가져갈 수 있다는 클라우드 기술의 장점을 그대로 누리게 됐다. 데이터로 어떤 결과를 냈는지 정량적 평가와 연동할 수도 있다.

서비스 형태로 새로운 기능이 추가된다는 장점도 있다. 

"스노우플레이크는 새로운 솔루션이나 기능이 계속 생기기 때문에 다양한 실험을 할 수 있습니다. LG유플러스의 경우 조직 내부의 공유가 중요하기 때문에 프라이빗 익스체인지라는 기능을 도입했습니다. NW 빅데이터 엔지니어링 팀에서 데이터세트를 올려두고, 부서나 계열사의 현업에서 필요한 데이터를 쉽게 가져갈 수 있죠. 직접 내부 포털을 개발하고 운영하지 않아도 되니까 굉장히 편리하죠."
 

데이터로 더 많은 가치를 만들어내려는 기업이라면

LG유플러스는 마케팅이나 사용자 분석에 핵심적인 여러 중요 데이터를 보유하고 있다. 스노우플레이크 측은 다양한 데이터를 결합해 더욱 고품질의 결과를 낼 수 있다고 덧붙였다. 또한, 전문 지식이 없는 현업 사용자도 평등하게 필요한 디지털 정보에 액세스하고 활용할 수 있어야 한다는 '데이터 민주화' 관점에서도 데이터 공유가 편리해지는 것이 매우 중요하다고 강조했다. 

"데이터 클라우드에 맞게 데이터 보안 관리나 암호화, 키 관리는 물론, 데이터를 보내는 과정도 직접 제어할 수 있도록 아키텍처를 자체 개발하는 노력도 있었습니다. 지금까지는 데이터가 관리를 벗어나 외부로 빠져나갈 수 있다는 두려움이 컸지만, 스노우플레이크처럼 글로벌 인증을 받은 플랫폼과 함께 데이터 클라우드를 관리하면서 보안에 대한 확신을 얻는다면, 향후 더욱 확대 도입할 수 있을 것 같습니다."

더 쉽고 안전한 데이터 공유 플랫폼으로 진취적인 발걸음을 내디딘 장진수 팀장은 앞으로 여러 가지 잠재력을 보고 있다고 말했다. 또 향후 그룹사 데이터 공유가 본격화되면, 가전과 커넥티드 카, 화장품 등 다양한 사업 분야에 LG유플러스의 통신 데이터가 필요할 것으로 예상했다. 빅데이터를 더욱 적극적으로 활용해 그룹 내부는 물론, 최종 사용자의 다양한 요구를 만족하고 고도화할 가능성이 한층 커졌다.

"전체 프로젝트를 모두 퍼블릭 클라우드화한 것은 아니지만, 서버 노후화와 라이선스, 데이터센터 운영과 관리, 기술 인력 비용과 부담, 여기에 항상 업데이트되는 최신 성능 등을 모두 고려하면, 데이터 클라우드를 최대한 활용하는 것이 합리적입니다."
erin_hur@itworld.co.kr