OSDBMS 또는 OSDBMS 기반 dbPaaS에서 개발될 인하우스 앱 비율
70
% 이상
자료 제목 :
2019년 오픈소스 DBMS 시장 현황
State of the Open-Source DBMS Market 2019
자료 출처 :
Gartner
원본자료 다운로드
발행 날짜 :
2019년 10월 17일
개발자 / 데이터ㆍ분석

오픈소스 MPP 데이터 웨어하우스, ‘아파치 도리스’란? 

Anirban Ghoshal | InfoWorld 2022.06.27
‘그’가 누구이고, 어떤 학교에 다녔는지 궁금한가? ‘아파치 도리스(Apache Doris)’는 아파치 인큐베이터(Apache Incubator)에서 개발한 오픈소스 MPP 분석 데이터 웨어하우스다. 지난주 아파치 소프트웨어 재단(Apache Software Foundation; ASF)은 도리스가 최상위 수준 프로젝트(Top-Level Project; TLP)로 승격했다고 발표했다. 

MySQL 애널리틱스를 활용하는 이 SQL 기반 데이터 웨어하우스는 최근 버전 1.0 그리고 도리스를 다양한 애널리틱스 및 처리 기술과 연결하는 6개의 커넥터 릴리즈를 함께 출시했다(버전 1.0은 여덟 번째 릴리즈다). 특히 이는 데이터 과학 시나리오에서 자주 사용되는 온라인 분석 처리(OLAP) 워크로드를 지원하기 위해 개발됐다. 

도리스는 중국의 인터넷 검색 대기업 바이두(Baidu)에서 태어났으며, 당시에는 ‘팔로(Palo)’라고 불렸다. 2017년 오픈소스화되고, 이어 2018년 아파치 인큐베이터에 기증되기 전까지 바이두의 광고 비즈니스를 위한 데이터 웨어하우징 시스템으로 사용됐다. 
 
ⓒGetty Images Bank


아파치 임팔라 및 구글 매사를 기반으로 하는 도리스

도리스는 구글 F1(Google F1)을 토대로 2012년 개발된 오픈소스 MPP SQL 쿼리 엔진 구글 매사(Google Mesa)와 아파치 임팔라(Apache Impala)의 기술 통합을 바탕으로 한다. 2014년경 확장성이 뛰어난 분석 데이터 웨어하우징 시스템으로 설계된 매사는 구글의 인터넷 광고 비즈니스와 관련된 중요한 측정 데이터를 저장하는 데 활용됐다. 

바이두와 아파치 인큐베이터의 개발자에 따르면 이 데이터베이스는 고가용성, 안정성, 내결함성, 확장성은 물론 단순한 설계 아키텍처까지 제공한다. 아파치 소프트웨어 재단은 공식 성명에서 “단일 시스템(에서의 개발, 배포, 사용)과 많은 데이터 제공 요건을 충족하는 게 도리스의 주요 기능이다”라면서, “이 데이터 웨어하우수는 다차원 보고, 사용자 포트레이트, 임시 쿼리, 실시간 대시보드를 지원한다”라고 말했다. 

도리스의 다른 기능으로는 ▲열 기반 스토리지 ▲병렬 실행 ▲벡터화 기술 ▲쿼리 최적화 ▲안시(ANSL) SQL 그리고 ▲아파치 플링크(Apache Flink), 아파치 하이브(Apache Hive), 아파치 후디(Apache Hudi), 아파치 아이스버그(Apache Iceberg), 아파치 스파크(Apache Spark), 엘라스틱서치(ElasticSearch) 커넥터 지원을 통한 빅데이터 생태계와의 통합이 있다. 


증가하리라 예상되는 오픈소스 데이터베이스 활용

엔터프라이즈급 오픈소스 데이터베이스 활용이 증가할 전망이다. 가트너의 2019년 오픈소스 DBMS 시장 현황 보고서(State of the Open-Source DBMS Market)는 새로운 인하우스 애플리케이션의 70% 이상이 오픈소스 데이터베이스 관리 시스템(OSDBMS) 또는 OSDBMS 기반 데이터베이스 서비스형 플랫폼(dbPaaS)에서 개발될 것이라고 예측했다. 

또 데이터가 급증하고 기업의 실시간 분석 요구가 증가하면서 단순한 오픈소스 대규모 병렬 처리 데이터베이스의 필요성이 커지고 있다. 

벤타나 리서치(Ventana Research)의 리서치 디렉터 데이비드 메닝거는 “데이터 볼륨이 증가함에 따라 MPP 데이터베이스는 기업의 요구사항을 충족할 수 있을 만큼 충분히 빠르면서 저렴하게 데이터를 처리할 수 있는 유일한 현실적인 방법이 됐다”라고 전했다. 


MPP 데이터베이스 사용을 촉진하는 클라우드

메닝거에 의하면 MPP 데이터베이스 사용을 촉진하는 또 다른 트렌드는 MPP 구성의 일부로 사용할 수 있는 상대적으로 저렴한 클라우드 기반 서버 인스턴스의 가용성이다. 따라서 이러한 시스템이 사용하는 물리적 하드웨어를 조달하고 설치할 필요가 없다고 그는 설명했다. 

이어서 그는 도리스를 언급하면서 “물론 많은 MPP 데이터베이스 대안이 있다. 그중 일부는 오픈소스이긴 하지만 실제로 오픈소스 MySQL 옵션은 없다”라고 지적했다. “MySQL 자체와 마리아DB(MariaDB)는 더 큰 분석 워크로드를 지원하기 위해 확장됐지만 처음에는 트랜잭션 처리를 위해 설계됐다. 도리스의 라이벌로는 오픈소스 NoSQL 데이터베이스 그린플럼 그리고 구글 빅쿼리(Google BigQuery), 아마존 레드시프트(Amazon RedShift), 마이크로소프트 시냅스(Microsoft Synapse) 등의 하이퍼스케일러 서비스가 있다”라고 메닝거는 덧붙였다. 

가트너의 빅데이터 및 애널리틱스 부문 前 리서치 부사장 산지브 모한은 클릭하우스(ClickHouse), 아파치 드루이드(Apache Druid), 아파치 피놋(Apache Pinot)도 라이벌로 간주될 수 있다고 말했다. 


단순한 아키텍처와 빠른 쿼리 시간을 제공하는 도리스

아파치 재단은 도리스를 사용하면 구조적 단순성, 더 빠른 쿼리 시간 등의 여러 이점이 있다고 말했다. 도리스의 아키텍처가 단순한 이유는 클래스 관리, 동기화 및 통신 등의 작업을 위해 여러 구성요소를 활용하지 않기 때문이다. 아울러 쿼리 시간이 빠른 이유는 벡터화에 기인할 수 있다. 이는 프로그램이나 알고리즘이 단일 값이 아닌 여러 값 집합에서 한 번에 작동할 수 있도록 하는 프로세스다. 

아파치 재단 개발자에 따르면 이 데이터 웨어하우스의 또 다른 이점은 데이터의 동시 실행, 업데이트 및 삭제를 처리하는 기능이다. 동시 실행은 동시에 데이터를 처리하고 데이터베이스에서 인사이트를 얻기 위한 여러 사용자의 이벤트 또는 요청이라고 할 수 있다. 주로 고위 경영진과 전문가만 애널리틱스에 액세스했던 과거와는 달리, 오늘날 대부분의 기업에서는 인사이트를 도출하기 위해 대부분의 직원이 데이터에 액세스할 수 있도록 하고 있기 때문에 동시성의 필요성이 높아졌다. 

한편 아파치 도리스는 현재 전 세계적으로 500개 이상의 기업에서 사용하고 있다.
ciokr@idg.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.