“데이터의 가치, AI로 극대화하라” Future of AI & Data 2023 성료

9월 21일 ITWorld와 CIO가 서울 서초구 엘타워 그레이스홀에서 개최한 ‘Future of AI & Data 2023’이 막을 내렸다. ‘AI로 진화하는 데이터 분석 전략’을 주제로 진행된 이번 행사에는 236명의 IT 전문가가 모여 빅데이터 및 분석, AI의 활용 가치를 논의했다. 생성형 AI를 활용한 데이터 분석 사례와 운영 전략도 소개됐다.
 

경쟁력 확보를 위해 비즈니스 이니셔티브에 데이터를 활용하려는 수요가 전 산업에 걸쳐 가속화되고 있다. Future of AI & Data 2023에서는 AI 시대에 차별화된 직원 및 고객 경험을 제공하는 효과적인 데이터 관리 방안인 데이터옵스(DataOps)와 함께 AI옵스(AIOps)와 ML옵스(MLOps)가 중심 주제로 다뤄졌다. 

가장 먼저 페이팔의 데이터 사이언스 리더 굴레즈 칸은 오프닝 기조연설에서 ETL을 거친 데이터를 의미 있게 활용하기 위해서는 “스토리텔링”이 필요하다고 말했다. “오랜 기간에 걸쳐 데이터를 발굴하고 탐색하고 모니터링한 결과를 청중의 귀에 꽂히고 기억에 남는 방법”으로 제시함으로써 인사이트를 더 쉽고 빠르게 전달할 수 있다는 설명이다. 

또한 칸은 “이야기”에 다양한 시각화 요소를 결합해야 한다고 강조했다. 데이터에 담긴 이야기를 시각화한 이미지만으로도 인사이트를 신속하게 파악할 수 있도록 패널과 색상을 활용해 주목해야 할 데이터를 한눈에 보여주고 텍스트의 적절히 삽입해 이해도를 높이는 것이다. 칸은 “비주얼라이제이션 데이터(visualization data)가 의미 있는 데이터 활용을 이끈다”라고 덧붙였다. 

전문가 세션에서는 AI를 접목한 구체적인 데이터 활용 방안이 논의됐다. 가장 먼저 서비스나우 임광수 상무는 ‘디지털 트랜스포메이션을 위한 지능형 워크플로우 플랫폼에서의 생성형 AI 활용법’을 주제로, 나우 플랫폼(Now Platform)에 유기적으로 결합된 생성형 AI 기능을 소개했다. 

임광수 상무는 서비스나우의 생성형 AI 나우 어시스트(Now Assist)가 개발자, 어드민 관리자, 고객, 상담원, 직원 등 조직 내외의 모든 구성원을 위해 활용된다며 “생성형 AI가 모든 비즈니스 문제를 해결하지는 못하겠지만 생산성/민첩성 향상, 위험 완화, 가시성 확보 등의 비즈니스 가치를 빠르게 달성하는 데 도움이 될 것”이라고 강조했다.

디노도 코리아 김세준 상무는 ‘다양한 위치에 분산된 기업 데이터 환경에서의 애널리틱스, 거버넌스, 개인정보 보호 실현 전략’을 공유했다. 김세준 상무는 “분산된 데이터와 사일로화된 정책, 늘어나는 데이터량, 새로운 데이터 유형 등으로 인해 데이터 관리 복잡성이 증가하고 있다”라며, 데이터 인사이트 활용 방식을 개선하는 방법을 제시했다. 

김 상무가 제안한 해결책은 데이터 운영 간소화, 엔드투엔드 통합 데이터 관리, AI 기반 데이터 관리 우선순위 지정과 같은 “데이터옵스 도입을 통한 논리적 데이터 전략” 실현이다. 김 상무는 “이를 통해 전사 데이터에 대한 가시성을 확보하고 전체 프로세스를 자동화한다면 당면 과제를 해결할 수 있을 것이다. 데이터 관리를 개선하면 결국에는 모델 개선도 빠르게 이뤄진다”라고 말했다.
 

이어진 세션에서는 메가존클라우드의 공성배 AI & 데이터분석센터장이 ‘엔터프라이즈를 위한 생성형 AI 프로젝트’를 주제로 발표했다. 공성배 센터장은 “생성형 AI를 어떻게 시작해야 하는지 다들 궁금해한다. 제목과 결과만 공유하고 중간 과정은 제공하지 않는 경우가 많다”라며 HR 부서에서 진행한 생성형 AI 도입 과정을 상세하게 공개했다.

공성배 센터장은 HR 부서의 파일럿 프로젝트를 진행하면서 “생성형 언어모델의 태생적 한계로 인해 답변 제어가 쉽지 않은 상황이 발생할 수 있으며, 이에 대한 처리 프로세스가 필요하다는 교훈을 얻었다”라며 “LLM 모델 다양화 및 RAG(Retrieval-Augmented Generation) 전략 세분화, LLM옵스 표준화를 통해 다양한 활용 사례를 만들어 나갈 수 있을 것”이라고 설명했다.

이어 VM웨어 현지수 이사는 ‘대규모 AI 기반 데이터 플랫폼 구축 전략’을 소개했다. 현 이사는 공개된 범용 AI 모델 API를 비즈니스에 활용할 때는 의도치 않은 기밀 정보 유출이나 정보 미반영, 환각 현상 등이 발생할 수 있다며 프라이빗 AI가 해답이 될 수 있다고 했다. 설명에 따르면, 프라이빗 AI를 통해 오픈소스 LLM을 파운데이션 모델로 사용하면서 내부의 비공개 데이터도 학습할 수 있고 프라이빗 인프라 환경으로 보안성도 강화할 수 있다. 

또한 현지수 이사는 “데이터를 AI 플랫폼 중심의 거시적 관점에서 고려하고, 데이터 처리 및 연계 성능, 벡터 연산처럼 데이터 이동 없이 전처리할 수 있는 고급 분석 기능을 활용하며, 전담팀을 구성해 지속가능한 서비스를 유지하는 것”이 대규모 AI 기반 데이터 플랫폼 구축의 핵심 전략이며, “이런 전략을 통해 잘 관리된 모델로 AI를 서비스할 수 있을 것”이라고 덧붙였다.

레드헷 이명진 이사는 운영 환경에서 AI/ML 모델을 안정적이고 효율적으로 배포 및 유지하는 관행 및 도구를 의미하는 ML옵스 구현 방법을 살펴봤다. 이명진 이사는 “ML옵스는 위험을 최소화하고 모델을 운영 환경에 더욱 쉽게 배포하고 모델과 앱 라이프사이클 모두를 효율적으로 통합한다”라며, ML옵스 없는 AI/ML 프로젝트는 “오류가 발생하기 쉬우며, 일관성 부족과 보안 저하, 민첩성 상실 등의 문제를 겪는다”라고 지적했다.

이명진 이사는 금융 기업의 사례를 들어 ML옵스의 이점을 설명했다. 일관된 도구를 사용해 데이터 과학자의 작업 속도와 품질을 향상하고 셀프서비스 기능을 통해 원하는 인프라를 즉시 생성하는 것이 대표적이다. 또한 인프라 자동화를 통해 사용자 오류 감소 및 ROI 개선 등의 효과도 볼 수 있다. 이명진 이사는 “코드에 집중할 수 있는 환경을 제공해 인재 유치 측면의 장점도 있고 인프라 운영 시간과 소프트웨어 개발 시간도 최대 60%까지 절감할 수 있다”라고 강조했다. 

이어진 세션에서는 한국IBM 김혜영 실장이 AI옵스(AIOps) 플랫폼을 다뤘다. 김혜영 실장은 “경쟁 우위를 선점하기 위해 혁신적인 도구를 채택해 나가면서 비즈니스를 주도해 나가고 있는데, 이는 곧 관리할 시스템의 증가와 IT 데이터 증가를 의미한다. 이런 환경에서 사고를 해결하는 현재의 방법은 느리고 수동적이다”라고 지적했다.

이에 대한 해결 방안으로 김혜영 실장이 제안한 것이 AI옵스다. AI옵스는 IT 데이터의 사일로를 허물고 시스템에 대한 실시간 인사이트를 제공하며, 이상 징후를 사전 탐지해 보고하고 사고 해결을 자동화한다. 김혜영 실장은 “AI옵스 플랫폼의 역량은 도메인간 데이터 수집 및 분석, 암시적 및 명시적 차원에서 자산 관계와 종속성을 분석한 토폴로지, 인시던트와 관련한 중복 이벤트 간 상관관계 파악 등 다양하다”라고 덧붙였다.

EDB코리아 이강일 지사장은 PostgreSQL을 중심으로 엔터프라이즈 데이터 활용 전략을 살펴봤다. 이강일 지사장에 따르면, 2021년을 기점으로 오픈소스 DB의 선호도가 상용 DB를 추월하고 있으며, 스택 오버플로우(Stack Overflow)의 설문조사 결과 개발자는 PostgreSQL을 가장 선호하는 것으로 나타났다.

이강일 지사장은 “합리적인 비용, 개발 기간 단축, 배포 유연성, 신기술 적용의 자율성, 종속성 해결, 미래 지향적”이라는 이유로 PostgreSQL과 같은 오픈소스 DB를 선호한다며, 오는 2024년에는 여기에 AI를 탑재해 여러 분석 데이터를 처리하는 역량을 강화하고 튜닝 자동화 기능을 제공하는 등 오픈소스 DBMS의 가치를 개선해 나갈 것이라고 밝혔다.
 

마지막으로 클로징 기조연설에서는 P&G의 IT 디렉터 줄리오 본타디니가 생성형 AI의 강점과 한계를 조명했다. 본타디니는 “생성형 AI는 요약하거나 이미지를 찾고 사람과 대화하며, 데이터를 이해할 수 있다. 알고리즘이 아닌 ML을 통해 가능해진 일”이라고 말했다. 하지만 생성형 AI는 합리적인 사고를 하지 못하고 진리를 만들 수 없다. 즉, 모든 질문에 대한 정답을 얻을 수 있는 도구는 아니다. 때로는 오답을 정답인 것처럼 말한다. 

본타디니는 “생성형 AI는 합리적인 주체가 아니고 문제를 완전히 해결할 수 없지만, 그럼에도 불구하고 중요한 돌파구”라고 강조했다. 또한 인터넷이 처음 발명됐을 때만 해도 컴퓨터가 정보를 이해할 수 있으리라고는 상상하지 못했던 것처럼 생성형 AI가 어떻게 활용될지도 아직은 아무도 모른다며 “다양한 시도를 통해 가치를 만들어 나가다 보면 어마어마한 가치를 발견하게 될 것”이라고 덧붙였다.
editor@itworld.co.kr