데이터ㆍ분석

메시 vs. 패브릭 : 대표 데이터 아키텍처 이해하기

Yash Mehta | IDG Connect 2022.07.15
데이터 메시와 데이터 패브릭 아키텍처 간의 주요 차이점과 유사점에 대해 알아보자. 2가지 접근 방식을 적절히 결합하면, 회사의 용도에 딱 맞는 다목적 데이터 제품 플랫폼을 구축할 수 있다. 
 
ⓒ Getty Images Bank

기업이 직관적인 데이터 관리 솔루션을 도입하는 과정에서, 데이터 형태의 다양성으로 인해 비즈니스 리더들은 지속적인 데이터 관리 전략 구축 및 탐색의 중요성을 깨닫기 시작했다. 가트너는 데이터 패브릭을 2021년 데이터 애널리틱스 주요 트렌드로 꼽았지만 업계 전문가들은 데이터로 실행 가능한 비즈니스 인사이트를 제공할 수 있다는 점에서 데이터 메시 아키텍처의 잠재력 또한 강조했다. 

이 2가지 아키텍처의 공통된 목적은 서로 다른, 혹은 이질적인 출처에 산재해 있는 데이터를 처리하고 공유하도록 돕는다는 점이다. 모든 것이 데이터로 연결된 세계에서 2가지 아키텍처는 혼용될 수 있다. 회사에 적합한 데이터 전략을 구축하려면 2가지 아키텍처 간의 근본적인 차이를 이해하는 게 중요하다. 


데이터 패브릭

기술 시장 조사업체 엑스퍼사이트(Expersight)가 설명한 정의에 따르면, 데이터 패브릭은 '데이터와 연결 프로세스의 통합 계층을 일컫는 설계 개념'이다. 이는 기존의 검색 가능하고 참조된 메타데이터를 지속해서 분석하여, 하이브리드 및 멀티 클라우드 플랫폼을 포함한 모든 환경에서 통합되고 재사용 가능한 데이터세트를 설계, 구축 및 활용하도록 해준다. 


데이터 메시 아키텍처와의 주요 차이점

  • 기술 중심(Technology centric) : 데이터 패브릭 아키텍처는 기존 인프라의 데이터를 통합하고, 의미 있는 인사이트를 사전에 얻을 수 있도록 데이터를 준비하는 운영 기술 계층을 갖추고 있다.  
  • 부산물로서의 데이터(Data is a by-product) : 데이터 패브릭 아키텍처는 데이터 통합 기술을 기반으로 여러 출처의 실시간 데이터를 특정 위치로 식별하고 통합한다. 따라서 이 아키텍처는 데이터를 중앙 위치에서 데이터를 이동하고 통합하는 프로세스의 부산물로 취급한다.
  • 중앙 집중식(Centralised) : 데이터 패브릭은 여러 출처와 기술에 걸쳐 데이터 관리를 체계화하는 단일 통합 플랫폼을 제공한다. 따라서 이 아키텍처는 데이터 거버넌스를 개선하고 연결된 모든 API에 표준 보안 정책을 수립하는 데 도움이 된다. 다양한 데이터 엔드포인트 모두에 같은 수준의 보안이 적용되는 것이다. 정리하자면, 데이터 보안 및 거버넌스 정책이 중앙 집중식으로 다양한 환경에서 일관되게 구현되도록 해준다. 
  • 분산되지 않은 소유권(Undistributed ownership) : 하지만 여러 기술에 걸친 단일 통합 플랫폼을 제공하는 데이터 패브릭에도 단점이 있다. 서로 다른 데이터와 시스템을 통합하는 중앙 집중식 프로세스는 때때로 데이터를 다르게 포맷해버린다. 

그 결과, 데이터 과학자, 데이터 엔지니어 및 데이터 분석가 등의 사용자는 온갖 형식의 데이터를 떠안게 된다. 이렇듯 데이터가 상호 운용되지 못해, 추가적인 데이터 호환 및 중복 제거 작업이 가중될 수 있다. 그래도 데이터 패브릭에서는 데이터 관리가 통합된다는 점이 중요하다. 스토리지 자체가 일원화되지는 않는다.  


데이터 메시

데이터 메시 아키텍처는 데이터를 분산시켜 영업 또는 고객 지원과 같은 부서가 데이터 소유권을 행사할 수 있는 환경을 조성하는 새로운 전략이다. 목적은 기업 내 서로 다른 부서에서 발생하는 데이터 간의 일관성을 확립하는 것이다.


데이터 패브릭 아키텍처와의 주요 차이점

  • 조직 중심(Organisation Centric) : 데이터 메시는 기업의 데이터 아키텍처에 조직적인 변화를 가져오는 데 중점을 둔다. 기존 인프라를 확장하는 방식으로 여러 부서에 새 아키텍처가 배치된다. 따라서 직원들은 이 아키텍처를 기반으로 데이터를 더 효과적으로 관리할 수 있게 된다. 이러한 조직 중심의 접근법은 데이터를 잘 다루는 팀에게 필요한 애널리틱스 데이터를 더 많이 생산하고, 접근성을 높이는 데 큰 역할을 한다. 
  • 분산된 소유권(Distributed Ownership) : 데이터 메시 아키텍처는 데이터 파이프라인을 생성하고 취급하는 데 필요한 소유권을 데이터에 가장 가까운 사용자, 즉 도메인 전문가에게 이양한다. 따라서 도메인 전문가는 기업의 데이터 소비자(예: 애널리스트 및 엔지니어 등)가 고품질 데이터에 쉽게 액세스할 수 있도록 지원한다. 이는 다양한 출처에 산재해 있는 데이터의 접근성을 높이고, 데이터 통합에 필요한 표준 포맷을 수립한다. 결과적으로 이질적 데이터의 상호운용성을 확보하고 호환시킬 수 있다. 
  • 탈중앙화(Decentralised) : 탈중앙화된 접근 방식 덕분에 데이터 사용자는 소스 포인트에 데이터가 통합될 때까지 기다릴 필요 없이 바로 데이터에 액세스하고 쿼리할 수 있다. 즉각적으로 필요한 데이터를 제공하는 데이터 시스템이 갖춰지는 것이다. 이 덕분에 단일 전사적 데이터 웨어하우스, 혹은 다양한 출처의 모든 데이터를 저장하는 데이터 레이크를 사용하는 중앙집중식 데이터 관리팀이 겪는 병목 현상을 해소해준다.  
  • 제품형 데이터(Data-as-a-Product) : 데이터 메시는 각 도메인이 자체적으로 데이터 파이프라인을 처리하는 분산 데이터 토폴로지 방식을 기반으로 한다. 이는 요즘 비즈니스 전반에 걸쳐 일어나고 있는 사고방식 변화를 고려할 때 중요한 강점이 될 수 있다. 여러 기업이 소프트웨어 제품 중심의 사고방식과 제품형 데이터 방법론에 적응하는 중이기 때문이다. 데이터 메시를 활용하면 도메인 전문가가 표준을 준수하면서도 특정 비즈니스 목적을 달성하기 위한 데이터세트를 생성하고 공유할 수 있다. 


상호 보완하기

지금까지 소개한 2가지 아키텍처는 궁극적으로 흩어진 비즈니스 데이터에 사용자가 즉시 접근하게 해 가치 있고 실행 가능한 인사이트를 창출하도록 돕는다는 목표를 공유한다. 따라서 이 2가지 인프라는 공존할 수 있다. 

기업이 적절한 데이터 관리 방식을 선택하고 싶다면 먼저 기존 인프라를 분석하는 것이 좋다. 예를 들어, 탈중앙화식 데이터 관리법은 운영 성숙도가 높고 여러 출처에서 나오는 데이터의 변경이 가능한 기업에 더 적합할 수 있다. 

아울러 두 아키텍처의 개념을 결합한 솔루션도 있다. 데이터 제품 플랫폼(Data Product Platform)은 고유한 방식으로 최적의 관리 방식을 제공한다. 이 플랫폼은 모든 비즈니스 엔티티(예 : 고객, 제품, 위치 또는 주문)의 데이터를 집계하고 관리한다. 또한 데이터를 통합 데이터 제품의 형태로 사용자에게 전달한다. 

이런 통합 데이터를 활용하면 모든 엔터프라이즈 데이터를 실시간으로 볼 수 있으며, 온갖 최신 데이터 아키텍처도 지원된다. 이 플랫폼은 360도 고객관리(Customer 360), 클라우드 마이그레이션, 테스트 데이터 관리, 데이터 개인 정보 보호, 레거시 데이터 시스템 업그레이드 등의 다양한 사용 사례가 있다. 또 신속하고 비용 효율적인 방식으로 비즈니스 결과를 창출한다. 

이 외에 케이투뷰(K2view), IBM, 스타더스크(Stardus) 및 Oracle과 같은 기업이 다양한 유형의 데이터에 빠르게 접근하고 쿼리할 수 있는 최신 데이터 관리 솔루션을 제공한다.

기존의 데이터 인프라를 재설계하는 작업은 힘든 일이다. 기업의 기술 및 조직 부문이 구조적으로 변화해야 하기 때문이다. 기업은 이미 시장에 나와 있는 여러 데이터 관리 플랫폼을 상세히 비교해 회사에 걸맞은 데이터 관리 전략을 수립해야 한다. 

이런 과정에서 데이터 패브릭과 데이터 메시 같은 아키텍처가 효과적인 데이터 수집 및 통합에 적합한 솔루션이 될 수 있다. 이런 아키텍처를 잘 활용한다면 기업은 수많은 출처의 데이터를 기반으로 더 나은 의사결정을 내릴 수 있다. 특히 데이터 패브릭과 데이터 메시를 상호보완적으로 모두 활용한다면 가장 가치 있는 인사이트를 도출해낼 수 있다.
iokr@idg.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.