“IT 변화 속도에 발맞추려면 데이터 활용이 관건” 다이나트레이스가 말하는 AI 기반 데이터 관리 전략

디지털 서비스의 복잡성은 날로 증가하고 있다. 클라우드 네이티브 기술과 퍼블릭, 프라이빗, 그리고 온프레미스 기술도 다양해졌다. 자연스레 IT가 빠르게 변화하고 기술이 발전하는 상황에서 어떻게 사용자의 기대 수준에 맞출 것인지 고민하는 기업도 늘고 있다. 이때 중요한 것은 끊김이 없이 안전한 디지털 상호 작용을 담보하고, 고객 경험을 보장하면서 기대치를 충족하는 환경을 구성하는 것이다. 하지만 이제 사용자는 이전보다 더 디지털 친화적으로 변모하고 있다. 기업은 사용자가 얼마나 만족하고 있는지 파악하며 빠르게 움직여야 한다.
 

이러한 상황에서 다이나트레이스(Dynatrace)가 완벽하고 안전한 디지털 인터랙션을 구현하는 방법을 제시해 주목할 만하다. 다이나트레이스는 2024년, 더 나아가 2025년까지 중요한 트렌드가 될 3가지 주제로 ‘핵심 IT의 변화’, ‘데이터에서의 가치 추출’, 그리고 ‘AI’를 꼽았다. 다이나트레이스의 마크 페트롤(Mark Fettroll) 솔루션 엔지니어링 디렉터는 12월 7일 한국IDG가 주최한 ‘The Year Ahead 2024’에서 기업이 경쟁 우위를 점하고 시장을 선도하는 데 필수적인 전략을 언급했다.
 

“디지털 역량을 갖춘 고객의 속도에 맞춰 비즈니스 운영”

오늘날의 IT 환경은 이전보다 복잡하게 구성된다. 기업은 온프레미스에 데이터센터가 있더라도 편의성을 위해 클라우드로 전환하고, 용도에 따라 프라이빗과 퍼블릭 클라우드를 선택해 이용한다. 그뿐만 아니라 고객의 여정도 변화하고 있다. 고객은 이제 IT의 통제 내에 있지 않으며, 여러 서드파티 서비스와 연결된다. 하지만 IT 서비스에서 문제가 발생하면 고객 만족도는 쉽게 떨어지고, 불만 사항이 접수되는 일도 빈번하다. 이러한 불만 사항을 처리하다 보면 IT 서비스는 결국 혁신을 이루기보다는 문제를 해결하고 불을 끄는 데 급급한 상황을 마주하게 된다.
 

핵심 IT의 변화는 이러한 문제 해결 과정을 최대한 편리하게 하는 데 있다. 자동화된 플랫폼을 이용해 고객에게 최선의 경험을 제공하고, 복잡한 IT 간의 연결성을 E2E(End-to-End)로 효과적으로 관리할 수 있도록 하는 것이다. 이를 제대로 관리하지 못한다면 고객의 불만은 IT 직원의 좌절감으로 이어질 수 있다. 결국 이는 직원의 생산성 저하, 번아웃으로 이어져 경쟁사에 인재를 빼앗기는 결과를 초래할 수 있다.

하지만 더 적은 리소스로 더 많은 것을 할 방법이 있다. 핵심은 데이터다. IT 환경 내에서 데이터를 자동으로 수집하는 방법을 마련하고, 데이터 사이의 관계를 정리하는 것을 자동화한다면 휴가나 특정 시기가 겹쳐 데이터 볼륨이 급격히 늘어날 때도 충분히 커버할 수 있다. 페트롤 디렉터는 “데이터를 활용하고 데이터 관리를 자동화함으로써 소비자에게 만족할 만한 결과를 줄 수 있다. 휴가 기간 트래픽이 6배 증가했음에도 중단(outages)이 88% 감소한 기업도 있었다”라고 설명했다.

여기에는 데이터 수집의 자동화만 중요한 것이 아니다. 데이터는 단순히 온프레미스 데이터센터에 그치지 않고 다양한 출처와 여러 툴 체인에 걸쳐 나오고 있다. 따라서 복잡성은 점점 증가하기 마련이다. 데이터로부터 가치를 잘 뽑아내는 것이 IT 직원에게는 심각한 고민거리가 될 수도 있다. 페트롤 디렉터는 데이터에서 가치를 잘 추출하기 위해 자동화된 방식으로 이를 분석하는 것이 필수라고 언급했다. 수집된 데이터의 출처와 맥락 정보를 포함해 데이터센터와 클라우드 차원에서 그 데이터의 토폴로지를 이해하고 데이터센터 내에 있는 호스트의 구조를 전부 반영하는 것이다. 

고객 입장에서 어떤 문제가 발생한다면 기업이 이를 상세하게 조사하고 근본적인 원인을 파악하는 데 있어 데이터는 핵심 요소다. 기업은 향후 동일한 문제가 발생하지 않도록 예방 조치를 취하고 발 빠르게 대응하기 위해 생성형 AI의 도입을 고려할 수도 있다. 데이터에서 정확한 답을 얻도록 생성형 AI 기반 인텔리전트 오토메이션을 수행해야 안전한 디지털 상호 작용을 이룰 수 있다는 것이다. 

생성형 AI가 조직의 변화를 끌어낼 것이라는 예측은 계속되고 있다. 뉴욕타임스는 생성형 AI가 글로벌 경제에서 약 4.4조 달러의 가치에 기여할 수 있다고 내다봤다. 마침내 생성형 AI를 기업이 적극적으로 활용해야 하는 시대가 온 것이다. 페트롤 디렉터는 IT 환경에서 연결된 데이터 상황에 어떤 일이 발생했는지 파악하고 빠르게 대응하는 방법으로 ‘하이퍼모달 AI(hypermodal AI)’ 개념을 제시했다.
 

다양한 상황에 대응할 수 있는 하이퍼모달 AI의 등장

페트롤 디렉터에 따르면 하이퍼모달 AI는 한 종류의 생성형 AI 솔루션 대신 여러 종류의 AI를 함께 사용하는 것을 일컫는다. 다이나트레이스는 데이비스AI(Davis AI)와 코파일럿(Davis Copilot)에서 예측(Predictive) AI, 인과 관계(Causal) AI, 생성형(Generative) AI 등 3가지 핵심 AI 기능을 결합해 기업의 디지털 인터랙션 구현을 지원하고 있다.
 

먼저 인과 관계 AI는 문제 발생 시 정확하고 빠르게 상황을 파악하도록 지원한다. IT 환경 전체를 살피고 근본적인 원인을 찾기 위해 토폴로지, 인과 관계 분석 등의 모델 알고리즘을 활용한다. 덕분에 사람이 데이터를 일일이 확인하며 사고를 예측하는 대신 AI에게 분석을 맡길 수 있다. 인과 관계 AI는 전체 라이프 사이클에 걸쳐 복잡하게 구성된 서비스 간의 관계를 밝히기 위해 데이터 간, 시스템 간의 관계를 추적한다. 궁극적으로는 하나의 표면적 문제를 해결하는 데 그치지 않고 정확한 원인을 찾아 해결하는 것을 목표로 한다. 

IT 작업에서는 종종 담당자가 상당한 양의 경고 알림을 받기도 한다. 직접 해결하기 어려울 정도로 많이 나타나는 경고 알림은 쉽게 피로를 호소할 수 있는 문제다. 각 경고 알림이 특정 부서로 전달돼 자동으로 담당자가 배정되도록 생성형 AI를 활용해 경고 알림의 분배 작업을 빠르게 수행할 수 있다. 

다이나트레이스의 두 번째 핵심 기능은 예측 AI다. 예측 AI에는 몇 가지 사용 사례(use case)가 있다. 먼저 언제 어떤 상황에서 CPU가 충분한지, 중단이 발생하지 않을지, 클라우드 인스턴스의 상황을 미리 예측하는 데 사용할 수 있다. 다음으로는 행동 예측이다. 이를테면 고객과 엔드 유저의 관계는 일반적으로 매우 중요하기 때문에, 과거의 행동을 바탕으로 다음을 예측하도록 할 수 있다. 마지막은 패턴 예측이다. 분기별로 또는 계절별로 어떤 패턴이 나타나는지 분석해 더 선제적으로 조정하고 대응할 수 있도록 한다. 하이퍼모달 AI는 이러한 분석을 자동화하는 데서 더 나아가 자동화된 해결 방안을 제시할 수 있다. 가령 특정 시기에 로드가 늘어날 것이라는 예측이 있다면, 담당자가 이를 신경 쓰기 전에 자동으로 생산량을 늘리도록 명령을 수행한다.
 

다이나트레이스의 마지막 주요 기능은 생성형 AI다. 데이비스AI라는 생성형 AI 기능은 권고 사항 제시를 핵심으로 한다. 앞서 인과 관계를 분석하고 예측을 자동으로 수행했다면, 이에 대해 취해야 할 조치나 업무를 추천하는 기능이 필요하다. 다이나트레이스는 데이비스AI라는 생성형 AI를 바탕으로 대시보드를 구성해 매출과 같은 스코어를 파악하거나, 고객의 반응을 확인한 뒤 그에 필요한 권고 사항을 제시한다. 고객은 데이터를 연계해 문의 사항에 응답할 수도 있다. 수많은 데이터가 연결돼 있는 기업 환경에서 어떤 작업을 진행해야 할지, 어떻게 해야 고객 경험을 개선할지 아이디어를 얻을 수 있는 셈이다.

“12명의 사고 분석 업무, 이제는 1명이 수행”

실제 다이나트레이스 솔루션을 도입한 기업 사례를 살펴보면 구체적인 효과를 가늠할 수 있다. 아시아 태평양 내 한 은행의 경우 인과 관계 AI 모델을 소프트웨어 개발의 전 주기에 적용했다. 이를 통해 2020년부터 2021년까지 주요 사고를 97%가량 줄일 수 있었으며, 운영 및 소프트웨어 개발 품질을 개선할 수 있었다.

또한 특정 소프트웨어의 릴리스까지 소요되는 시간도 크게 줄였다. 약 1,000시간 정도 걸리던 시간이 솔루션 도입 이후 50시간밖에 걸리지 않았다. 또한 소프트웨어 변경과 IT 환경 변화에 있어 주요 사고가 한 건도 발생하지 않았다. 페트롤 디렉터는 “은행에서 있어서 이는 중요한 일이다. AI 모델 사용 전까지 12명의 직원이 사고를 분석했지만, 이제는 1명이 일을 하고 있다. 비용 절감 효과도 분명했다”라고 설명했다.

또 다른 사례로는 영국 통신사인 B사가 있다. B사의 경우 최근 데이터에서 가치를 추출하는 작업을 본격적으로 수행하면서 2027년까지 약 2,800만 파운드의 비용 절감을 예상할 수 있었다. 직원들이 문제를 해결하는 데 급급하지 않고 맡은 업무를 효과적으로 처리하면서 유저 트랜잭션도 크게 늘었다. 페트롤 디렉터는 이를 통해 사고의 MTTI를 90%까지 줄일 수 있었다고 밝혔다.
 

‘대답을 중심으로 하는’ 비즈니스

페트롤 디렉터에 따르면 기업은 가용 데이터를 더 잘 활용할 수 있다. 자연 언어 모델을 사용해 데이터를 분석하고, 권고 사항을 만들고, 비즈니스 대시보드를 제작해 비즈니스와 IT 영역을 더 잘 연계할 수 있다. 어떤 부분을 어떻게 자동화해야 할지 도움을 얻을 수도 있다. 페트롤 디렉터는 “이러한 요소들을 합치는 것이 결국 보안과 생성형 AI를 IT 환경에 적용할 수 있는 방법”이라고 설명했다.

페트롤 디렉터는 핵심 IT 전환에 대응하며 팀의 생산성을 높이기 위해서는 옵저버빌리티를 E2E로 확보하는 것이 중요하다고 말했다. 또한 데이터에서 더 많은 가치를 추출하고 ‘대답을 중심으로 하는’ 비즈니스로 옮겨가야 한다고 강조하면서, “하이퍼모달 AI의 구축은 이를 더 가속화할 수 있다”라고 언급했다. ciokr@idg.co.kr