Offcanvas
Some text as placeholder. In real life you can have the elements you have chosen. Like, text, images, lists, etc.
Offcanvas
1111Some text as placeholder. In real life you can have the elements you have chosen. Like, text, images, lists, etc.
AIㆍML / 클라우드

블로그 | 지금은 AI/ML의 ROI를 확인해야 할 때

David Linthicum | InfoWorld 2023.01.09
AI란 용어는 1955년 다스머스대학의 존 맥카시, 하버드대학의 마빈 민스키, IBM의 나다니엘 로체스터, 벨연구소 클로드 샤넌이 제출한 연구 제안에서 처음 사용됐다. 필자가 태어나기도 전의 일이다. 필요한 컴퓨팅이나 스토리지 성능을 갖추기도 전에 AI를 논의한 것이다.

필자도 대학을 갓 졸업한 의사결정 지원 애널리스트 시절에 초기 AI 시스템을 구축했지만, 운영하기에는 너무 비싸서 아주 특수한 환경에서만 사용했다. 이렇게 높은 운영비용 때문에 1980년대초부터 AI의 인기는 떨어졌다. 지금은 클라우드 컴퓨팅의 온디맨드 소비 모델과 한층 발전한 AI 기술이 근본적으로 운영 비용을 낮추면서 AI가 다시 기업 IT의 주목을 받게 됐다.
 
ⓒ Getty Images Bank

퍼블릭 클라우드 서비스 업체는 AI의 부활을 뒷받침하고 있다. AI 기술이 훨씬 최적화되었다고 하지만, 그리고 재미있다는 것도 인정하지만, 기업 IT 책임자라면 AI가 가져오는 비즈니스 가치를 온전히 파악해야 하며, 언제 ROI가 나오지 않는지 알아야 한다.

저렴하고 강력한 컴퓨팅보다 AI에 더 중요한 것은 무엇일까? 바로 스토리지가 일용품화되었다는 사실이다. AI는 학습 데이터와 학습 데이터 내의 패턴을 이해하는 것에서 힘을 얻는다. 잘 작성한 알고리즘으로 돌아가는 것이 아니다. 학습 모델이 더 많은 데이터를 이용할수록, 더 초점이 맞는 데이터가 되고 더 나은 지식과 이해를 만들어 낼 수 있다.

저렴해진 운영 비용과 AI/ML이 기업에 가져올 수 있는 가치에도 불구하고, 제대로 된 성과를 내지 못하는 경우가 많다. 2022년은 클라우드 비용 폭증의 해였다. 보통은 기업이 클라우드 자원을 잘못 사용해 클라우드 비용 폭증으로 이어졌다. 그리고 어떤 기업은 더 많은 가치를 얻을 수 있는 훨씬 더 실용적인 방안이 있는데도 클라우드 AI/ML 시스템을 선택했다.

많은 AI/ML 시스템이 유지하는 데 상당히 많은 비용이 든다. 이런 시스템을 구축하고 배치하는 것은 물론, 운영하는 데도 전문적인 기술 인력이 필요하다. 클라우드 AI는 그저 데이터 스토리지와 처리를 기업 외부에서 한다는 것일 뿐이다. AI 엔진을 구동하는 데는 막대한 양의 범용 데이터와 전용 데이터가 필요하며, 이들 데이터는 반드시 저장하고 관리하고 지속적으로 보호해야 한다. 데이터 컴플라이언스 문제도 해결해야 한다.

일반적으로 기업은 맞춤형 학습 데이터가 필요한 맞춤형 요구사항이 있다. 이런 데이터는 범용 트랜잭션 데이터베이스에는 없으며, AI 시스템의 특정 요구를 지원하기 위한 용도로만 사용된다. 즉 더 많은 스토리지와 더 많은 데이터 라벨링과 스트리밍, 그리고 더 많은 운영 비용이 필요하다.

이 모든 수고와 비용은 강력한 비즈니스 케이스가 있다면, 충분히 가치가 있을지 모른다. 하지만 그렇지 않은 경우가 많다. AI를 이용하기가 쉬워지면서 꼭 필요하지 않은 곳에도 사용되고 있기 때문이다.

AI의 올바른 사용례라면, 영업 주문 입력 시스템을 들 수 있다. 머신러닝을 이용해 추천 상품을 판단하고 고객의 온라인 주문에 자동으로 제안하는 시스템으로, AI는 판매 실적으로 높여 비즈니스 가치를 더한다. 하지만 AI를 전통적인 거래 시스템에 적용하는 경우가 더 많은데, 이런 시스템의 이점은 미미하다. 대표적인 예가 AI를 실행해 유효한 배송 주소를 확인하는 것이다. 

모든 AI 사용례에는 두 가지 측면이 모두 있다는 것을 잊지 말자. 두 번째 사용례에서 기업은 배송 오류를 줄여 매월 수천 달러의 배송 비용을 절감할 수 있다는 이점이 있다. 하지만 이런 클라우드 기반 AI 시스템을 개발하고 운영하는 데는 그보다 20배는 많은 비용이 들 것이다. 이런 용도로는 AI를 사용하지는 않지만 1년에 수백 달러만 내면 되는 온디맨드 솔루션이 더 효과적이고 효율적이다.

문제는 문지기이다. 클라우드 서비스 업체와 컨설턴트는 기업이 원하는 ROI가 나오지 않는 사용례에도 AI를 추천하곤 한다. 이때 누군가 거친 질문을 하지 않는다면, 그리고 확고한 비즈니스 케이스가 만들어지지 않았다면 그대로 진행되고 만다.

AI가 동작하느냐 마느냐의 문제가 아니다. AI는 언제나 동작한다. AI 시스템을 잘못 적용해 기업이 가치를 얻지 못하는 것이 문제이다. 이런 실수가 너무 자주 저지르면, 기업은 아무 것도 얻지 못할 것이다.

AI나 클라우드 AI를 배제하자는 것이 아니다. 필자도 AI 개념과 기술을 사용해 괜찮은 애플리케이션을 많이 만들었고, 앞으로 더 많이 만들 것이다. AI는 놀라운 것을 해낼 수 있는 기술이다. 하지만 모든 기술이 그렇듯이 AI 역시 맞는 자리가 있다. 이제 AI의 ROI에 좀 더 주의를 기울여야 할 시점이다.
editor@itworld.co.kr
 Tags ROI 사용례 비용

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2023 International Data Group. All rights reserved.