Offcanvas
Some text as placeholder. In real life you can have the elements you have chosen. Like, text, images, lists, etc.
Offcanvas
1111Some text as placeholder. In real life you can have the elements you have chosen. Like, text, images, lists, etc.
AIㆍML

AI 매니지드 서비스, 그리고 플랫폼

코그넷나인 | Cognet9 2022.09.16
ⓒ Getty Images Bank 

기업은 AI 프로젝트를 운영할 때 목표했던 성과를 도출하기 위해 전력을 다한다. 하지만 노력에 비해 프로덕션에서 운영하는 케이스가 적거나 제대로 된 성과를 얻지 못할 때가 있다. 이렇게 되면 ROI 측면에서 손해는 매우 커진다. 컴퓨팅 자원, 인력, 시간 등 소중한 기업 자산은 낭비되고, 개발 환경을 구축해 모델을 구현하고, 훈련용 자원과 데이터를 확보하는 데 들어간 리소스는 의미가 없어진다. 그렇다면 AI 프로젝트가 성공적인 프로덕션 수준으로 이어지고 비즈니스 성과를 제대로 만들려면 무엇을 개선해야 할까? 이 질문에 대한 답은 ‘AI 매니지드 서비스와 플랫폼’에서 찾을 수 있다. 
 

‘AI 매니지드 서비스’란 무엇인가

클라우드 매니지드 서비스(Cloud Managed Service)는 들어봤어도, AI 매니지드 서비스(AI Managed Service)는 생소한 사용자가 꽤 있을 것이다. 클라우드 매니지드 서비스는 전통적인 온프레미스 시스템을 클라우드로 이전하면서 겪는 어려움을 해결하기 위해 등장했다. 클라우드 수요가 늘다 보니 이를 관리하는 전문 기술이 클라우드 매니지드 서비스 형태로 나타난 셈이다. ‘사례로 살펴보는 AI 역량 내재화가 어려운 이유’ 기사에서 소개한 것처럼 기업의 AI 도입 과정은 클라우드 도입 과정과는 또 다른 방면으로 복잡하고 어렵다. 다시 말해 AI를 도입하기 위해서는 다음과 같은 요소를 세심하게 따져봐야 한다.
 
  • 기업 내 어느 비즈니스 영역에 AI를 도입할 예정인가
  • 도입했을 때 비즈니스 효과를 제대로 얻을 수 있는가
  • 선정한 과제를 어떤 서비스 형태로 기획할 것인가
  • 서비스를 구현할 때 필요한 최적의 AI 기술과 솔루션은 무엇인가
  • AI 학습을 위한 데이터는 어떻게 준비할 것인가
  • 기존 내부 시스템(레거시)과 어떻게 연계할 것인가
  • 정해진 시간 내에 빠르게 구축할 수 있는가
  • 안정적으로 서비스를 오픈하고 운영까지 진행할 수 있는가

기업을 대신해 위와 같은 요소를 처음부터 끝까지(End-to-End) 알아서 처리해주는 것이 바로 ‘AI 매니지드 서비스’다. 모든 요소를 대신해줄 뿐만 아니라, 특정 요소에 대해서만 도움을 받을 수도 있다. 따라서 기업은 모든 AI 역량을 내재화할 필요 없이 다양한 경험과 전문성을 지닌 AI 매니지드 서비스 전문 업체와 파트너십을 맺으면서, 원하는 결과를 보다 효율적으로 도출할 수 있다.

AI를 도입하다 보면, 과제 선정이 완료된 후 학습 데이터를 준비하고, 서비스를 구현 및 운영하는 영역까지 모두 유기적으로 연결되어야 한다는 것을 알 수 있다. 따라서 AI 매니지드 서비스도 그런 광범위한 기술 영역을 수용하는 플랫폼이 있어야 한다. 솔루션이나 시스템별로 서비스가 따로 지원된다면 진정한 AI 매니지드 서비스라고 볼 수 없다.
 

성공적인 AI 도입을 위한 필수 요소, AI 매니지드 서비스 ‘플랫폼’

AI 매니지드 서비스 플랫폼을 이용하면, 데이터 과학자, 모델러, 아키텍트, 개발자 등 AI 프로젝트를 진행하는 데 필요한 인력을 최소로 유지하면서, 서비스를 구축하고 안정적인 운영을 지속할 수 있다. 코그넷나인(Cognet9)은 수년간 다양한 AI 프로젝트로 쌓은 경험과 전문성을 바탕으로 AI 매니지드 서비스를 제공하고 있다. 2022년 4월에는 AI 매니지드 서비스 플랫폼인 ‘플러그넷(Plugnet)’을 출시했다. 

AI 도입 과정은 크게 1) AI 도입 과제 선정 및 타당성 입증, 2) 서비스 설계 및 학습 데이터 준비 및 관리, 3) AI 서비스 구현(애플리케이션 개발), 4) AI 운영 관리 등 총 4단계로 정의할 수 있다. 도입 과제 선정과 타당성 입증은 별도의 비즈니스 가치 평가(Business Value Assessment) 방법론에 따라 진행하고, 서비스 설계와 운영 관리 단계는 관련 툴이나 솔루션을 사용한다. 

그럼 서비스 설계 단계부터 살펴보자. 서비스 설계를 위해 AI 아키텍트는 서비스에 필요한 유스 케이스별 아키텍처를 수립한다. 이를 위해 유사한 아키텍처를 참조하고 분석해 새로운 아키텍처를 수립하고 세부 사항을 설계한다. 이런 과정은 서비스 구현의 근간이 되기 때문에 설계 후 사전 검증까지 완료하는 데 시간이 오래 걸린다. 실제 현장에서는 경험과 전문성을 갖춘 아키텍트가 부족하기 때문에 대부분이 외부 전문가의 도움을 받는다. 

플러그넷은 AI 마켓플레이스를 통해 사전에 검증되고 정의된 다양한 AI 서비스 아키텍처를 제공한다. 이를 활용하면 새롭게 구축할 서비스를 위한 아키텍처를 빠르고 간편하게 수립할 수 있을 뿐만 아니라 공통 업무 분야에서 재사용이 가능해 동일한 작업을 여러 팀에서 각각 따로 할 필요가 없어진다. 
 
코그넷나인의 AI 매니지드 서비스 플랫폼 구조 ⓒ 코그넷나인

설계가 끝났다면 학습 데이터를 준비하고 관리해야 한다. AI에 필요한 데이터는 레거시 시스템, 데이터 레이크, 외부 데이터 등 다양한 원천에서 수집되고 학습 가능한 형태로 가공된다. 동시에 지속적으로 공급돼야 한다. 이런 작업은 워낙 복잡하고 손이 많이 가다 보니, 자칫 효율성이 떨어진다는 문제에 직면할 수 있다. 지속 가능한 방식으로 학습 데이터를 처리하고 자동 공급(feeding)하려면 파이프라인이 필요한데, 이를 위한 플랫폼이 없다면 같은 작업을 매번 반복해야 한다. 

플러그넷은 데이터 관리 체계를 지원한다. 다시 말해 데이터 수집, 정제, 가공(라벨링)에 걸친 학습 데이터셋 구축 과정을 전담 데이터 팀 없이 플러그넷으로 관리할 수 있다. 특히 서비스 성능을 유지하고 개선하려면 학습 데이터를 지속적으로 제공받는 것이 필요한데, 플러그넷은 ‘AI 학습 데이터 피더(Feeder)’라는 기능으로 준비된 학습 데이터를 지속적으로 제공한다. 또한, 프로젝트 단위가 아니라 전사에서 추진하는 모든 AI 프로젝트가 단일 플랫폼을 이용하여 데이터 수집, 가공, 분석, 활용을 할 수 있게 도와준다.

서비스 구현 과정의 경우 최적의 AI 기술과 솔루션을 찾는 것이 중요하다. AI 매니지드 서비스가 없다면 기업은 직접 기술을 테스트하고 비교하면서 최적의 AI 기술과 솔루션 조합을 선택해야 한다. 또한 서비스를 위해 필요한 AI 모델을 개발하고 학습시켜 배포해야 한다. 배포 후에는 지속적인 반복 학습을 통해 최적화하면서 서비스 성능을 유지하고 개선하는 과정이 필요하다. 프로젝트가 많은 경우 모델과 서비스를 배포하고 형상 관리를 하면서 다양한 도구를 사용하는데, 그 과정에서 관리가 복잡하고 어려워지곤 한다. 

플러그넷은 최적의 AI 기술과 솔루션 조합 선정을 위해 표준 어댑터를 제공한다. 기업은 표준 AI 커넥터와 표준 레거시 커넥터를 활용하면서 다양한 AI 기술과 솔루션을 기존 레거시와 연계하여 테스트하고 비교하며, 궁극적으로 최상의 기술 조합을(Best of Breed) 선택할 수 있다. 서비스 배포 후 최신 AI 기술을 적용할 때에도 표준 어댑터를 통해 서비스 애플리케이션의 재개발 없이 손쉽게 기술을 관리할 수 있다. 서비스에 필요한 AI 모델 또한 플랫폼을 통해 직접 서비스와 함께 배포하고 형상 관리를 할 수 있다.  

마지막으로 서비스 운영 및 관리 단계를 보자. 보통 부서별로 배포한 모델과 서비스는 담당 부서가 개별적으로 모니터링하고 관리하는 것이 일반적이다. 이런 경우 관리가 복잡하고 어려울 뿐만 아니라 공통적으로 사용 가능한 부분을 따로 이용하면서 비용이 낭비된다. 

플러그넷은 관리 화면을 제공하기에 다양한 AI 서비스를 통합 모니터링하고 측정할 수 있다. 현재 사용 중인 다양한 AI 기술, 솔루션, 서비스를 일괄 관리할 수 있는 셈이다. 거기다 중복 비용을 제거해 비용 절감도 가능하다. 
 

핵심 목표에 집중하도록 도와주다

지금까지 살펴본 바와 같이 AI 매니지드 서비스 플랫폼은 AI 도입을 위해 활용하는 여러 오픈 소스 도구와 AI 개발 및 운영 솔루션을 하나의 플랫폼에서 제공한다. 마치 AI 도입을 위한 ‘맥가이버 만능칼’ 같은 역할을 하는 것이다. 서비스 아키텍처 설계, 데이터 플랫폼 기반의 학습 데이터 파이프라인 운영, 개발 환경 구축 및 관리, 그리고 서비스의 안정적 운영과 지속적인 개선 등의 모든 과정은 최소한의 전문 인력과 AI 매니지드 서비스 플랫폼에 맡겨진다. 따라서 기업은 AI 도입에 필요한 인력과 시스템을 갖추기 위해 드는 노력을 줄이고, AI 도입을 왜 하는지, 무엇을 위해 하는지, 비즈니스 목표는 무엇인지, 타당성은 있는지 등에 보다 집중할 수 있다. 

AI 매니지드 서비스 플랫폼은 AI 도입 후 최신 AI 기술과 솔루션을 추가로 적용하려 할 때도 매우 유용하다. 대대적인 시스템이나 애플리케이션 개편 없이 플랫폼에서 제공하는 AI 표준 어댑터로 손쉽게 교체가 가능하기 때문이다. AI 기술 수준을 최신으로 유지하려면 개발부터 시스템 고도화까지 복잡하고 어려운 과정을 겪는데, AI 매니지드 서비스 플랫폼은 그 안에서 소요되는 시간과 비용을 줄여준다.  

규모와 산업에 관계없이 앞으로 기업은 AI를 보다 활발하게 도입할 가능성이 크다. 반면 여전히 시장에서 AI 전문 인력은 그 수요를 충족하기에 턱없이 부족한 상황이다. 설령 지금부터 전문 인력을 양성한다 해도 현업에서 그 역량을 발휘하게 되기까지 많은 시간이 걸린다. 시장에서 살아남기 위해 기업은 마냥 기다릴 수 없다. AI 도입을 통해 시장 경쟁력을 확보하고 성장 동력을 지속적으로 가져가고자 하는 기업에게 AI 매니지드 서비스와 AI 매니지드 서비스 플랫폼은 우선 선택사항이 될 것이다.
 Tags 코그넷나인 AI매니지드서비스

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.