AIㆍML / 데이터ㆍ분석

'IT의 영원한 숙제' 데이터 관리, AI라면 해결할 수 있을까

Eric Knorr | InfoWorld 2023.03.16
인공 지능과 머신러닝은 사기 공격을 탐지하는 것부터 챗봇, 예측 분석까지 이미 기업에 풍부한 실용적 가치가 있는 기술이다. 그러나 ChatGPT의 대담하고 창의적인 작문 솜씨가 드러나면서 AI/ML에 대한 기대치는 새로운 차원으로 높아졌다. IT 경영자라면 ‘AI/ML이 마침내 포인트 솔루션을 넘어 핵심적인 기업 문제를 해결할 단계에 이르렀나?’라는 궁금증이 생길 수밖에 없다.
 
역사상 가장 크고 오래되고 혼란스러운 IT 과제, 즉 기업 전반의 데이터 관리와 통합을 생각해 보자. 온프레미스와 클라우드 플랫폼 전반의 데이터 볼륨과 다양성, 가변성, 분산이 기하급수적으로 상승하면서 AI/ML 기술의 도움이 절실하게 필요한 상황이다. IDC의 데이터 통합 및 인텔리전스 소프트웨어 부문 부사장 스튜어트 본드는 “기업의 데이터 관리 통합을 해결하는 기술이 필요하다”라고 말했다.
 
 
ⓒ Getty Images Bank


AI/ML은 데이터의 혼돈에 질서를 부여할 수 있을까? 몇 가지 조건이 충족되면 가능하겠지만 업계의 일치된 의견은 지금으로서는 AI/ML이 지닌, 언젠가 실현될 잠재력의 표면만 긁고 있다는 것이다. 인포매티카(Informatica), IBM, 스냅로직(SnapLogic) 같은 기존 통합 소프트웨어 업체는 AI/ML 기능을 추가해 다양한 작업을 자동화하며, 테이머(Tamr), 신치(Cinchy), 몬테 카를로(Monte Carlo)와 같은 신생업체는 제품 핵심에 AI/ML을 활용하고 있다. 데이터 관리와 통합 프로세스를 종단간 자동화하는 AI/ML 솔루션을 제공하는 업체는 없고 그럴 기미도 없다.

간단히 말해 불가능하기 때문이다. 혼란스러운 기업 데이터 아키텍처의 개혁은 고사하고 어떤 제품이나 서비스도 사람의 개입 없이 모든 데이터 이상점을 조정할 수도 없다. 새로운 AI/ML 기반 솔루션이 지금 할 수 있는 일은 데이터 카탈로그화부터 데이터 파이프라인 구축, 데이터 품질 개선에 이르기까지 다양한 데이터 랭글링 및 통합 작업에서 수작업을 크게 줄이는 것이다.

이것도 큰 성과는 될 수 있다. 그러나 실질적이고 지속적인 효과를 얻기 위해서는 단발성 프로젝트를 위한 통합 툴을 충동적으로 도입하는 것이 아닌 CDO(최고 데이터 책임자)의 접근 방식이 필요하다. 기업이 어느 AI/ML 솔루션을 어디에 적용할지에 대해 우선 순위를 정하려면 먼저 데이터 자산(고객 데이터, 제품 데이터, 거래 데이터, 이벤트 데이터 등)에 대한 일관되고 전체적인 시야와 이러한 데이터 유형을 정의하는 메타데이터을 완전히 이해해야 한다.
 

기업 데이터 문제의 범위는 어디까지

오늘날 대부분의 기업은 각각 자체 애플리케이션 및 사용 사례와 연결된 방대한 데이터 스토어를 두고 있다. 이 현상은 클라우드 컴퓨팅에 의해 더욱 심화됐다. 비즈니스 부서가 자체 데이터 사일로와 함께 신속하게 클라우드 애플리케이션을 가동할 수 있기 때문이다. 트랜잭션 또는 기타 운영 활동에 사용되는 데이터 스토어도 있고, 분석 또는 비즈니스 인텔리전스에 사용되는 데이터 스토어도 있다(주로 데이터 웨어하우스).
 
포레스터 리서치의 부사장 노엘 유하나는 “전 세계 모든 기업이 거의 20개가 넘는 데이터 관리 툴을 쓴다. 문제가 복잡해지는 원인은 데이터 관리 툴이 서로 통신하지 않는 것”이라고 말했다. 데이터 관리 도구는 데이터 카탈로그화부터 MDM(마스터 데이터 관리), 데이터 거버넌스, 데이터 관찰가능성에 이르기까지 온갖 일을 처리한다. 업체에 따라 AI/ML 기능을 제품에 혼합한 경우도 있고 아직 그렇지 않은 경우도 있다.

기본적인 수준에서 데이터 통합의 주 목표는 다양한 데이터 소스의 스키마를 매핑해서 다양한 시스템이 데이터를 공유, 동기화하거나 보강할 수 있도록 하는 것이다. 후자는 예를 들어 360도로 고객을 바라보는 시각을 개발할 때 필수적이다. 그러나 이름이 동일한 고객이나 기업이 실제로 같은 대상인지를 확인하거나 어느 기록의 어느 정보가 정확한지 확인하는 것처럼 얼핏 단순해 보이는 작업에도 사람의 개입이 필요하다. 다양한 예외를 처리하기 위한 규칙을 정하기 위해 분야 전문가가 동원되는 경우가 많다.
 
이러한 규칙은 일반적으로 통합 소프트웨어에 내장된 규칙 엔진 안에 저장된다. 관계형 데이터베이스를 창안한 마이클 스톤브레이커는 ML 기반 MDM 시스템을 개발한 테이머를 설립했다. 스톤브레이커는 규칙 기반 시스템의 한계를 설명하기 위해 ‘자체’ MDM 시스템을 만들어 12년 동안 규칙을 누적해온 한 주요 미디어 기업의 실제 사례를 들었다.
 
스톤브레이커는 “이 미디어 기업은 30만 개의 규칙을 만들었다. 누군가에게 몇 개의 규칙이 적절한지를 물으면 보통 500개라고 답한다. 윽박지른다면 마지못해 1,000개라고 답할 수 있고, 물리적으로 위협한다면 2,000개라고도 말할 수 있다. 그러나 5만 개, 10만 개의 규칙은 완전히 관리가 불가능한 수준이다. 이렇게 규칙이 많은 이유는 특수한 사례가 많다는 것”이라고 설명했다.

Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.