전 H&M 그룹 AI 총괄이었던 AI 프레임워크(The AI Framework)의 에롤 쿨마이스터 AI 및 데이터 고문이 기조연설자로 나섰다. 에롤 쿨마이스터 고문은 “MIT슬론의 2019년 연구 결과에 따르면 대부분 AI 이니셔티브가 성공적이지 않았다. 10개 중 7개 기업이 어떤 성과도 얻지 못했다고 밝혔다. 동일한 연구 보고서의 2021년 버전은 사뭇 달랐다. 대기업의 92%가 AI 투자에서 수익을 실현했다고 답했다. 불과 3년 만에 엄청난 변화다. AI는 더 이상 경쟁력을 확보하기 위한 요소가 아니다. 필수다”라고 강조했다.
이어 에롤 쿨마이스터 고문은 “AI가 필수적이지만 제대로 하고 있는 기업은 많지 않다”라고 지적했다. “IT 산업의 제품 및 서비스 개발 사이클이 너무 길다. 사일로화돼 있는 조직, 워터폴 접근법도 AI에는 맞지 않다. 관리자도 너무 많다. AI와 관련해 가장 큰 과제는 알고리즘 개발이 아니라 조직의 변화에 있다”라고 전했다.
에롤 쿨마이스터 고문은 가장 쉽고 빠르게 해결할 수 있는 문제에 AI를 적용하라고 조언했다. “예를 들면 H&M 그룹에서는 가치와 실현 가능성, 즉 매출을 빠르게 낼 수 있는 분야에 AI를 활용했다. 시즌 마감 세일 등에 AI를 적용하면서 가치를 창출해냈고 이후 관련 투자를 요구하기가 쉬워졌다”라며, “아울러 모든 이해관계자가 상호 협력하고 의사결정할 수 있는 팀이 구성돼야 한다”라고 권고했다.
두 번째 연사로 나선 효성인포메이션 HPC 사업팀 김형섭 컨설턴트는 AI와 관련해 현장의 고민을 언급하며 발표를 시작했다. “어떤 업무에 적용할 수 있을까? AI 비즈니스를 위해 알아야 하는 전문 지식은 무엇인가? AI 적용 프로세스와 고려사항은? AI 도입 시 필요한 항목은? 참고 사례는? 많은 고객이 묻는 질문이다”라고 밝혔다.
김형섭 컨설턴트는 “무엇보다 중요한 점은 업계별로 사용되는 AI 모델 알고리즘 유형이 다르다는 것이다. 이를테면 자동차와 로봇 부문은 고성능 연산 리소스(예: 강화학습 등)를, 물류 및 유통 부문은 비교적 가벼운 연산 작업을 필요로 한다. 따라서 소속된 산업과 업무별로 필요한 AI 솔루션이 상이하다는 점을 고려해야 한다. 또 데이터 소스 수집부터, 데이터 정제, 데이터 저장, 데이터 옵스, 머신러닝 옵스까지 AI 업무 흐름을 원활하게 가져가려면 사용자(예: 개발자, 데이터 애널리스트, 데이터 과학자 등)은 알고리즘 개발에, 시스템 관리자는 필요한 리소스를 적시에 배포하는 데 주력할 수 있어야 한다”라고 전했다.
이어 김형섭 컨설턴트는 사전 정의 이미지, GPU 분할 가상화, 컨테이너 기반 GPU 스케일링, 웹 브라우저 기반 AI 모델 개발 환경, H100과 NV링크 네트워크로 구성된 슈퍼파드(Super Pod)까지 ‘모두를 위한 AI 업무 흐름’을 지원하는 효성의 여러 서비스를 소개하면서, 이러한 제품 및 서비스를 DX 센터에서 직접 체험해볼 수 있다고 덧붙였다.
이어진 전문가 세션에서 디노도 APAC의 샨무가 순다르 무니앤디 데이터 아키텍처 디렉터는 ‘혁신적인 엔터프라이즈 데이터 활용을 위한 민첩한 논리적 데이터 아키텍처’를 주제로 발표를 전했다. 그는 성공적인 AI 이니셔티브를 위해서는 제대로 된 데이터를 넣는 것이 가장 중요하지만 데이터가 여기저기 분산돼 필요한 데이터를 확보하지 못하는 기업들이 많다고 지적했다.
샨무가 순다르 무니앤디 디렉터는 “처음에는 메인프레임에서 데이터를 가져오고 분석했다. 그러다가 90년대부터 데이터 웨어하우스가 나왔고, 여기에 데이터를 복제해서 넣었다. 하지만 데이터 웨어하우스가 다양한 데이터 유형에 대처하지 못하자 데이터레이크가 나타났다. 데이터레이크 안에 데이터를 복제해서 넣었고, 이런 데이터레이크 수가 늘어났다. 결과적으로 복잡한 아키텍처가 생겼다”라고 말했다.
“여기서 논리적 데이터 아키텍처가 등장한다. 논리적 데이터 접근법은 데이터를 추출하지 않고 추상화한다. 데이터가 어디에 있든 가상화해 통합하고 활용하는 것이다. 이점은 분명하다. 매우 빠르게 데이터를 활용하고, 이를 기반으로 신속하게 변화할 수 있다”라고 샨무가 순다르 무니앤디 디렉터는 강조했다.
네 번째 전문가 세션에서는 글로벌 협업 플랫폼 스윗(Swit)의 이주환 공동 창업자 겸 대표가 ‘데이터 연결과 흐름으로 열어가는 Work AI’를 주제로 발표를 시작했다. 이주환 대표는 최근 마이크로소프트, 구글 등 AI 선도 기업이 생산성 제품군에 LLM을 통합하고 있다면서, 고객의 워크플로우를 혁신하는 AI에 주목해야 한다고 진단했다. 즉, 기업 내 산재돼 있는 워크플로우와 데이터를 연결하기 위해 AI를 활용하는 새로운 시장이 열리고 있고, 데이터 워크플로우를 얼마나 최적화할 수 있는지가 Work AI의 화두라는 것.
이주환 대표는 “팀마다 일하는 방식과 사용하는 도구가 다르다. 이제는 모든 직원을 한 곳에 모아 놓고 관리할 수 있는 시대도 아니다. 그렇다고 연결을 위한 또 다른 도구와 솔루션을 도입하기도 부담스럽다. 어떻게 하면 여러 시스템에 사일로화돼 있는 직원과 데이터를 연결할 수 있을까?”라면서, 데이터 흐름을 연결할 수 있는 허브가 필요하다고 강조했다.
다섯 번째 발표에서는 오라클 MySQL 류수미 부장이 ‘MySQL HeatWave의 새로운 머신러닝(ML) 기능’을 주제로 머신러닝을 애플리케이션에 손쉽게 적용하는 방법을 이야기했다. 류수미 부장에 따르면 MySQL은 클라우드 부문에서는 독보적인 1위를 차지하고 있는 인기 있는 오픈소스 관계형 데이터베이스다. 이를 기반으로 하는 MySQL HeatWave는 특히 클라우드에서 분석 작업을 할 때 ETL 없이 실시간 데이터 분석이 가능하다고 류수미 부장은 전했다. 실제로 브라질의 한 교육 기업은 MySQL HeatWave로 이전한 후 300배 이상 빠른 성능을 달성했다는 설명이다.
이어 류수미 부장은 “일반적으로 데이터베이스를 쓴다고 하면 대부분 데이터베이스와 머신러닝 솔루션이 따로 있다. HeatWave는 머신러닝 솔루션도 같이 제공된다. 실제 데이터가 있는 곳에서 바로 알고리즘을 적용해서 학습할 수 있다. 물론 데이터 과학자도 있고 관련 인력도 충분하다면 다른 모델이 적합할 수 있지만, 데이터 과학자가 없는 기업도 많다. 이런 곳에서는 자동화된 모델로 머신러닝을 적용해 비즈니스를 개선할 수 있다”라고 설명했다.
이어진 전문가 세션에서는 에이아이더뉴트리진(AI the Nutrigene)의 AI 사업부 이동훈 부문장이 ChatGPT를 “인공지능 역사상 대중에게 공개된 가장 그럴싸한 AI”라고 평가하면서, 슈퍼스케일 AI 전쟁의 서막이 올랐다고 언급했다.
그렇다면 기업들은 어떤 선택을 하고, 어떤 역할을 해야 할까? 이동훈 부문장은 “빅데이터, 클라우드, 인공지능, 대규모 언어 모델 등 신기술이 2~3년 간격으로 융단폭격처럼 몰아쳤다. 기업들은 신기술을 도입하면서 비용이 폭증하거나, 투자 대비 성과를 거두지 못하거나, 내부 흡수 역량에 한계를 보이는 등 여러 문제를 겪고 있다. 기술 중심 전략의 한계라고 할 수 있다”라고 지적했다.
이런 AI 장벽을 극복하려면 우선 비즈니스 목표와 정렬된 AI 과제를 선정해야 하며, AI 기술을 플랫폼화해 역량을 내재화해야 한다고 이동훈 부문장은 조언했다. “준비, 구축, 배포, 모니터링 단계가 뫼비우스의 띠처럼 끊김 없이 연결돼야 한다. 이런 구조가 갖춰져야 제대로 된 혁신을 할 수 있다. 엔터프라이즈 AI는 쉽고 직관적인 사용자 환경, 다시 말해 ‘모두를 위한 AI 분석 플랫폼’을 구축해야 한다. 겉보기에 멋진 프로젝트보다는 비즈니스와 연결되는 AI 프로젝트를 해야 한다. 아울러 1년이 아니라 2~3년 중장기적으로 보는 것도 중요하다”라고 전했다.
인젠트 이용우 수석 매니저는 ‘오픈소스 DBMS를 활용한 유연한 데이터 아키텍처 설계와 성공 사례’를 주제로 발표를 전했다. 이용우 수석 매니저는 “인공지능과 클라우드는 모두 데이터라는 교집합을 가지고 있다. 그리고 데이터를 다루는 DBMS는 인프라의 핵심 요소다. 그중에서도 오픈소스 DBMS가 선전하고 있다. 2021년부터는 오픈소스 DBMS가 상용 DBMS를 역전하고 있기도 하다”라고 전했다.
하지만 여전히 오픈소스를 망설이는 기업도 많다. 이용우 수석 매니저는 “설치, 개발, 장애 대응 등 모든 것을 스스로 해결해야 한다는 부담감, 기술 문서 부족, 운영 관리에 필요한 편의 기능 부재, 전문가 부족 등의 이유로 오픈소스를 우려하는 것도 사실이다. 강화된 안정성, 관리 편의성, 성능 최적화 등을 제공하는 전문 기술 지원 기업이 필요한 이유이기도 하다”라고 말했다.
이어 이용우 수석 매니저는 “또 오픈소스라고 하면 작고 가벼운 업무에 적합하다고 생각하는데 그렇지도 않다. 인젠트에서는 국내 의료 관련 기관의 환자 데이터 처리 시스템을 구축하면서 120TB의 데이터를 다뤘다. 전문 기업과 협력한다면, 이미 많은 기업이 쓰고 있는 오픈소스 DBMS를 광범위한 업무에 활용하면서 여러 이점을 누릴 수 있다”라고 덧붙였다.
여덟 번째 전문가 세션에서는 HPE 김일근 이사가 ‘클라우드 네이티브 방식의 데이터 분석으로 디지털 경쟁 우위 창출’이라는 주제로 발표를 시작했다. 그는 “데이터 처리에서 기업들이 직면하는 문제가 있다. 바로 데이터 통합이다. 오늘날 데이터는 온프레미스부터 클라우드, 엣지까지 다양한 곳에 존재한다. 실제로 엔터프라이즈 데이터의 80%가 데이터센터 외부에 있는 것으로 조사됐다. 이렇게 흩어져 있는 데이터를 어떻게 통합하고 처리할 수 있을까?”라고 말했다.
김일근 이사는 미래의 데이터 및 분석 플랫폼이 ‘하이브리드 네이티브’라는 방식으로 구축돼야 한다고 제안하면서, 데이터를 최적화 및 처리하며, 일관된 분석 경험을 제공하는 HPE 에즈메랄 플랫폼을 언급했다. 그는 “하이브리드 네이티브 방식의 플랫폼을 통해 데이터를 최적화하고, 엔터프라이즈 규모의 분석팀을 지원하며, 데이터의 가치를 실현할 수 있다”라고 덧붙였다.
상포테크놀로지의 박재민 부장은 ‘클라우드 구독 기업을 위한 새로운 클라우드 서비스 모델’을 주제로 발표를 전했다. 박재민 부장은 클라우드 도입 시 기업들이 직면하는 문제로 ▲기술 격차, ▲비용 최적화, ▲관리 복잡성, ▲새로운 보안을 꼽으면서, “이런 문제에 대응하기 위해 2023년까지 클라우드 퍼스트 전략을 채택한 기업의 60% 이상이 클라우드 스마트 전략으로 전환할 것”이라고 밝혔다.
박재민 부장에 따르면 클라우드 퍼스트 전략은 클라우드를 핵심 플랫폼으로 쓰는 것이다. 클라우드 스마트 전략은 클라우드 사용을 최적화하고, 다른 기술 및 플랫폼과 함께 활용해 업무를 지원하는 것이다. “따라서 분산된 클라우드 데이터, 전용 자원, 데이터 보안, 전체 스택 보안 보호, 새로운 보안 책임 모델, 온라인 및 현장 서비스, 일대일 전문가 지원 등을 제공하는 구독 클라우드 플랫폼을 주목할 만하다”라고 설명했다.
마지막 세션에서는 JP모건 체이스의 다니엘 우 AI & ML 총괄이 ‘책임 있는 AI(RAI)’를 주제로 이야기를 시작했다. 지난 Cloud & AI Innovation 2022에서 가속화되는 인공지능을 언급했던 다니엘 우는 1년이 흐른 지금, AI 운영 측면이 많이 거론되고 있다고 밝혔다. AI를 실질적으로 적용하고 운영하기 위해 무엇이 필요한지 논의되고 있다는 것.
그중에서도 거버넌스를 강조하면서, “기업의 56%가 거버넌스 보안, 감사 이슈로 어려움을 겪고 있는 것으로 조사됐다. 95%의 기업은 AI의 잠재적인 윤리적 위험을 우려하고 있다고 답했다. 대규모로 자동화된 의사결정을 하는 데 인공지능이 적용될 수 있기 때문이다. 설명 가능해야 신뢰할 수 있고, 신뢰가 구축돼야 사용자가 AI를 진정으로 받아들일 수 있다”라고 다니엘 우는 설명했다.
다니엘 우는 “책임 있는 AI는 인공지능 개발부터 배포까지 엔드투엔드 과정에 통합돼야 한다. 특히 책임 있는 AI와 관련해서는 전사적인 노력이 필요하다”라면서, “초기에는 인공지능 모델의 성과에만 관심을 가졌다. 이제는 AI를 운영하는 과정에서 사용자나 사회에 해악을 끼치지 않을지 면밀하게 검토해야 한다”라고 권고했다.
editor@itworld.co.kr