"AI 봄은 왔지만 갈 길은 험하다" 파운드리, AI 및 클라우드 이노베이션 2022 컨퍼런스 성료

나성운 상무는 "트랜잭션을 추적하려면 프로그램을 설치해야 하는데, 센서를 애플리케이션 코드 내부에 설치해 성능 정보를 추출하는 것이다. 이 때 기술 환경이나 운영체제, 개발언어, 프레임워크에 따라 설치나 수집 방법이 달라지며, 설치가 제대로 되지 않으면 애플리케이션이 오작동하거나 실행되지 않을 수도 있다"라고 설명했다. 

이로 인해 대부분의 기업이 인프라와 중요 로그만 모니터링하고, 애플리케이션 모니터링은 불과 5%만 하고 있다. 특히 최근 마이크로서비스, 데브옵스와 같은 환경은 복잡성 장벽을 강화하고 있어 더욱 힘들어지는 상황이다. 

나성운 상무는 "다이나트레이스 원에이전트(Dynatrace OneAgent)는 자동화를 통해 마이크로서비스나 컨테이너 환경, 동적 시스템 아키텍처에도 쉽게 설치할 수 있다"라며, "단 몇 분만에 약 600여 가지 기술에 대한 IT 기술 현황을 자동으로 파악할 수 있다"라고 말했다.   

ML옵스, AI 성공의 열쇠 

6번째 세션에서는 HPE HPC & AI 비즈니스 개발 매너저인 김태룡 부장이 디지털 트랜스포메이션 시대의 AI 플랫폼 구축과 적용 사례라는 주제로 AI 적용 방안과 적용을 위해 고려해야 할 사항, 그리고 이를 해결할 수 있는 방안에 대해 설명했다. 

김태룡 부장은 "AI와 분석 플랫폼 구축은 기업의 최우선 순위가 됐지만, AI 구축 기업은 대부분 운영상의 문제를 겪고 있다. 73%의 기업이 AI 프로젝트를 프로덕션 환경에 적용하는 데 실패한다. 이는 우수한 데이터 과학 팀의 보유 여부가 아니라 운영이나 IT 통합 문제와 더 관계가 깊다"라고 지적했다. 

김 부장은 AI 플랫폼 구축 시 고려해야 할 사항에 대해 설명하면서 "하드웨어뿐만 아니라 소프트웨어도 중요하다. 하드웨어 측면에서는 가장 높은 성능을 낼수 있는 GPU 노드를 선택하고, 소프트웨어 측면에서는 좋은 성능과 손쉬운 구성이 가능한 것이 중요하다"라고 말했다. 

HPE는 다양한 산업에 걸쳐 AI 경험과 구축 노하우를 기반으로 각 기업마다 좋은 아키텍처를 구성하는 데 도움을 줄 수 있다. 이에 따른 AI 단계별로 필요한 시스템과 아키텍처들을 제시했다.     

7번째 세션에서는 마키나락스(MakinaRocks) 허영신 이사가 'AI를 잘하는 기업은 지금 이것을 고민합니다'라는 주제로 실제 비즈니스 환경에 AI/ML 모델을 적용한 기업이 겪는 어려움을 설명하면서 ML옵스(MLOps)를 해결책으로 제시했다. 

허영신 이사는 "모두가 바라는 기업에서의 AI 활용 모습은 상당히 이상적인 경우가 많다. 하지만 실제 비즈니스 환경에 적용하기 위해서는 많은 준비가 필요하다"라고 말했다. 

적용 단계에서 AI는 코어 ML과 ML 옵스 부문으로 나눠 볼 수 있다. 코어 ML은 설비 이상 여부, 부품 수요량 등 목표한 추론 결과를 제공하는 ML 모델로, 데이터 과학자가 과거 데이터를 활용해 1회성으로 학습하고 데이터셋을 입력해 추론 결과를 확인하는 것이다. ML옵스는 데이터셋과 ML 모델을 연결해 실 데이터를 기반으로 ML 모델을 재학습하고 수정 후 재배포, 그리고 인프라 관리까지 포함한다. 적용 과정에서 새롭게 도출되는 문제들은 대부분 ML옵스 부분이다.  

허 이사는 "AI 도입 초기에는 코어ML 기술이 중요하다. 초기 과정에서 AI 도입의 성과를 가늠해보는 것이 중요하기 때문이다. 그러나 이후 비즈니스 현장에 적용하는 단계에서는 체계적인 ML옵스 체제가 갖춰져있지 않으면 개발 운영 비용이 증가할 수밖에 없다. 따라서 시간이 지남에 따라 ML옵스가 중요해진다"라고 설명했다. 

또한 "실제 제조/산업 현장에 필요한 AI는 기존 IT 기업이 도입했던 그것과는 다르다. 하나의 AI로 다수를 서비스할 수 있는 기존 AI와 달리 제조/산업 현장에서는 다수의 맞춤형 솔루션으로 구성된 AI 시스템이 필요하다"라고 지적했다. 

이어 ML옵스가 가져야 하는 주요 기능을 설명하고, ML옵스 솔루션 도입 시 고려해야 할 사항에 대해 논의했다. 허영신 이사는 시중에 나와있는 ML옵스 솔루션이 기능 측면에서는 차이가 있으나, 만족도 측면에서는 대동소이한 이유를 설명하고 ML 개발과 ML 배포 단계에서의 단절을 설명하면서 심리스한 ML옵스의 중요성을 강조했다. 

허 이사는 "그러나 도구는 도구일뿐, 저절로 해결되진 않는다. 실제로 문제 해결에 도움이 되는지가 중요하다. 또한 데이터의 변화가 발생하는지 끊임없이 데이터를 평가하는 일이 반복 수행될 필요가 있다. 또한 데이터가 기존 모델의 지원 범위에서 벗어난다고 판단되면 재학습도 자동으로 이뤄져야 한다. 이런 절차와 과정들을 수행하는데 소요되는 비용을 줄이기 위해 ML옵스 체계가 필요하다"라고 덧붙였다.  

8번째 세션에서는 효성 인포메이션 시스템(Hyosung Information Systems) 클라우드 인프라사업팀 김형섭 수석 컨설턴트가 'DX시대 AI 플랫폼의 방향'이라는 주제로 AI 분석 플랫폼의 요구사항을 달성하기 위해 필요한 비용, 업무 효율, 관리 측면의 AI 플랫폼의 방향을 제시하고, 자원 효율과 성능 최적화, AI 모델 개발/운영관리를 효과적으로 할 수 있는 AI 분석 플랫폼의 구현 방법과 사례를 소개했다. 

김형섭 수석은 클라우드 도입시 고려 사항과 AI 분석 플랫폼 도입시 그것과 비교하면서 비용이나 관리 측면에서의 고려 사항은 동일하지만, AI 분석 플랫폼은 업무 효율, 즉 AI 분석을 위한 성능적인 측면에 대한 고려가 더욱 강조되는 점에서 차이가 있다고 말했다. 

김형섭 수석 컨설턴트는 "단순히 GPU를 도입한다고 AI 플랫폼을 구현할 순 없다"라며, 업무 요건에 따라 GPU 자원의 효율성을 높이는 방법을 적절하게 사용해야 한다고 설파했다. 

신뢰와 투명성을 기반으로 전체 적용하라

이 웨비나는 해외 AI 도입 사례 2곳을 소개하면서 마무리했다. 에스티 로더(Estée Lauder Companies) 공급망 COEV 부사장 제이 코건티는 'AI 기반 자율 공급망: 지속가능하고, 윤리적이며 효율적인 미래 전략의 중심'이라는 주제로, 현재 글로벌 공급망 현황과 문제점, 지속가능한 공급망을 위한 핵심 전략을 설명했다. 

전 세계 4억 5,000만 명이 공급망에서 직접 일하고 있으며, 간접적으로는 10억 명 이상이 연결되어 있다. 지난 2년간 팬데믹으로 촉발된 공급망의 구조적 변화와 비즈니스 수요의 변화로 인해 전례 없는 수준의 변동성이 발생하고, 공급망 중단, 하이테크 칩 및 지속적인 자재 부족으로 인한 비용 상승으로 비즈니스 환경이 악화됐다. 

제이 코건티 부사장은 "급진적인 변화 속에서 미래 공급망은 지속 가능성, 윤리적 관행 및 더 큰 운영 효율성의 토대 위에 구축돼야 한다. 새로운 차원의 정교함과 운영 효율성을 제고하기 위해 인공지능과 머신러닝, 그리고 큰 그림에서의 디지털화를 활용해야 한다"라고 말했다. 

지속 가능성은 글로벌 경제의 핵심으로 급부상했으며, 공급망은 글로벌 배출량과 상당한 연관관계가 있기 때문에 지속 가능성 논의의 핵심이다. 8개의 공급망(식품, 패션, 자동차, FMCG, CPG, 전자 및 자동차)은 온실 가스의 50%를 차지하고 있어 지속 가능한 공급망은 2050 넷 제로(Net Zero) 목표와 탄소 중립 경제의 필수 사항이다. 

마지막을 장식한 세션에서는 GSK 혁신 & 신기술 총괄 수브로토 무케르지가 '2022년 디지털 트랜스포메이션 트렌드 – 소매 및 CPG(Consumer-Packaged Goods)'라는 주제로, 2022년 이후의 트렌드, CPG 및 소매 업종 기업의 과제, 신기술 솔루션 및 인더스트리 4.0, 지속 가능성, 공급망의 탄력성 및 지능형 물류에 대해 논의했다. 

PwC 보고서에 따르면, AI 기반으로 프로세스를 활성화한 비중은 CPG 및 소매 업체의 경우 20%로, 전체 기업 25%에 비해 낮은 수준이며, 제한적으로 사용하고 있는 비중 또한 32%로, 전체 기업에 비해 낮았다. 

수브로토 무케르지 총괄은 세계적인 헬스케어 업체인 GSK가 의약품, 백신, 소비자 헬스케어 제품을 만들면서 AI를 적용한 다양하고 세밀한 사례들과 디지털 하이퍼 확장(digital hyper expansion)에 관해 소개했다. 

특히 소매 산업의 AI 적용 사례로 소비자 행동, 가격 예측, 공급망, 시각적 검색 및 음성 검색 등을 꼽으면서, 각 사례마다 필요한 기술과 적용 방안에 대해 설명했다. 

수브로토 무케르지 총괄은 AI 적용을 위해서는 무엇보다 데이터를 제대로 준비해야 한다며, 수집 단계에서는 단순하고 접근 가능한 데이터를 강조했다. "저장 단계에서 데이터 중앙화는 필수이며, 분산되어 있더라도 추적, 계층 구조, 리니지 관리가 되어야 한다. 데이터 거버넌스가 갖춰져야 하고, 사일로 데이터는 존재해서는 안된다. 보유한 데이터를 활용해 더 많은 비즈니스 분석 기반을 만들고, 시각화를 구현해야 한다. 이를 통해 인사이트를 찾아야 한다. 이후 신뢰와 투명성을 기반으로 기업 전체에 AI를 적용해야 한다."

이번 컨퍼런스에 참여한 한 IT 전문가는 "AI와 클라우드에 대해 거시적인 트랜드에서 미시적인 방안과 방향성, 혁신의 도전 과제 등을 골고루 볼 수 있어 좋았다"라고 말했다. 또 다른 전문가는 "AI 관련해 피상적으로만 알던 트렌드, 적용 사례에 대해 여러 정보를 얻을 수 있어서 유익했다"면서도, "늘 겪는 문제지만, 이런 다양한 사례 중 내 회사에 어떻게 적용할까 무엇이 최적일까에 대한 답은 결국 숙제로 남았다. 그래도 목표와 고민할 수 있는 지점이 생긴다는 것은 방향이 잡힌다는 것이니, 남은 숙제를 해봐야 할 것 같다"라고 말했다. 
editor@itworld.co.kr