블로그 | 생성형 AI, 구축할 것인가 클라우드에서 살 것인가?

컴퓨팅의 강령은 다른 사람의 기술을 사용하는 것인데, 놀랍게도 많은 기업이 생성형 AI에서는 이런 패턴을 따르지 않는다.

생성형 AI는 몇 가지 중요한 결정을 매우 빠르게 내리고 실행할 것을 요구한다. 모든 기업은 맞춤형 생성형 AI 플랫폼을 자체 구축할 것인지, 아니면 일반적으로 클라우드 서비스로 제공되는 AI 업체의 사전 패키지 솔루션을 구매할 것인지에 대한 중요한 결정에 직면하게 된다.
 

숫자와 기회로 보면, 자체 구축이 더 유리하다. 매우 이상하지만 그 이유는 의외일 것이다. 심지어 생성형 AI 전략을 다시 생각하게 될 수도 있다.
 

완벽한 맞춤형 솔루션과 통제

생성형 AI 플랫폼을 자체 구축하면, 기업은 그 특징과 기능을 완벽하게 제어할 수 있다. AI 기술을 조직의 요구사항에 맞게 정밀하게 조정하고, 이를 통해 기업의 고유한 워크플로우를 준수하고 맞춤형 사용자 경험을 제공할 수 있다. 자체 구축 생성형 AI는 클라우드나 온프레미스 어디에나 배치할 수 있다. 지금은 많은 기업이 온프레미스 또는 퍼블릭 클라우드에서 오픈소스 기반의 특정 생성형 AI 기술을 사용하는 데 중점을 두고 있다.

자연어 인터랙션은 정적인 비즈니스 프로세스를 처리하는 데 있어 더 '인간적인' 접근 방식을 제공한다. 그러나 사람들은 이런 시스템이 빠르게 비즈니스의 핵심이 될 수 있으며, 모든 기능을 완벽하게 제어할 수 없다면 시스템이 온전한 가치를 제공하지 못할 위험이 있다고 우려한다. 즉, 모든 기능을 갖춘 AI 플랫폼을 구매했는데, 서비스 업체의 전략이 바뀔 수도 있다. 최악의 경우 해당 업체가 없어진다면, 실패한 시스템과 실패한 비즈니스에 발이 묶인다는 것이다.
 
더 많은 비용, 더 많은 시간, 더 많은 위험
복잡한 생성형 AI 플랫폼을 구축하려면 전문 지식을 갖춘 팀이 필요하지만, 기존 인재 풀에서 이런 전문가를 찾기는 매우 어렵다. 정확한 비즈니스 요구사항에 맞춰 구축된 맞춤형 생성형 AI 솔루션을 개발하려면 플랫폼 엔지니어와 협업할 데이터 과학자와 AI 엔지니어가 필요하다.

이로 인해 복잡성이 증가하고 값비싼 인재를 고용해야 할 필요성이 커진다. 필자의 지인 중에는 좋은 대학 졸업식에 직원을 파견하는 CIO도 있다. 학교 주차장에서 졸업생에게 접근해 채용 시장에 나가기 전에 인재를 채용하는 것이다. 기존 방식을 교란하지만, 동시에 참신한 방법이기도 하다. 

기업이 충분한 인력을 확보하기 위해서는 창의력을 발휘해야 하는 시절이다. 일부 기업은 이런 인재 구인난에 부딪혀 프로젝트가 지연되거나 자체 구축을 포기하고 클라우드 서비스를 구매하기로 결정하기도 한다.
 

구매 방식의 가치

시스템 구매는 신속한 배포와 바로 사용할 수 있는 기능성을 제공한다. 빠르게 구현할 수 있는 사전 구축된 솔루션이 포함되어 있기 때문이다. 이를 통해 즉각적인 가치를 구현하고 시장 출시 시간을 단축할 수 있다. 더 중요한 것은 생성형 AI 서비스를 구매하면 지속적인 지원, 업데이트 및 개선이 보장된다는 점이다. 자체 구축 방식은 일부 외부의 도움을 받을 수도 있지만, 대부분 직접 해결해야 한다.

데이터베이스를 직접 구축하고 지원하는 비용과 데이터베이스 솔루션 업체에서 구매하는 비용을 생각해 보라. AI 시스템은 훨씬 더 복잡하고 더 많은 구성 요소가 있지만, 기본 원리는 비슷하다.

자체 구축 방식의 가치는 비즈니스 요구 사항에 맞게 맞춤화된 솔루션을 만들어야 할 필요성에 달려 있다. 추가 비용, 시간, 위험을 감수하고 핵심 시스템을 완벽하게 제어할 수 있다면, 단순히 비즈니스를 자동화하는 것을 넘어 비즈니스 자체가 될 수 있다. 앞으로 몇 년 동안 생성형 AI를 얼마나 정확하고 전략적으로 활용하느냐에 따라 비즈니스의 성패가 갈릴 수 있다.
 

고려해야 하는 모든 요소

생성형 AI 플랫폼을 구축할지 구매할지 결정할 때는 장단점을 모두 고려해야 한다. 첫째, 생성형 AI를 자체 구축하는 데는 큰 비용이 들 수 있다. 이에 비해 상용 솔루션은 실용성과 비용 효율성을 제공한다. 둘째, 생성형 AI를 자체 구축하려면 숙련된 팀을 구성해야 하는 반면, 상용 솔루션을 사용하면 시스템을 만든 AI 솔루션 업체의 전문 지식을 활용할 수 있다. 이는 곧 위험과 비용을 솔루션 업체 또는 서비스 업체에 떠넘기는 것을 의미한다.

마지막으로, AI 솔루션을 새로 만들면 기술 프로세스에 대한 완전한 제어가 가능하다. 이를 통해 처음부터 컴플라이언스 장치와 요구 사항을 충족하는 정확한 기능을 통합할 수 있다. 모두가 알고 있듯이 새로운 시스템을 구축하는 과정은 수많은 반복과 시간 집약적인 개발을 필요로 한다. 또한 지원과 유지보수는 자체 개발 AI에 있어 매우 중요하다. 이런 방식이 자체 구축 방식의 비용과 시간을 정당화할 만큼 충분한 가치를 제공하지 않는다면, 위험, 시간, 비용을 배제할 수 있는 서비스 구매 방식을 고려하기 바란다.

잘못된 결정으로 인해 비즈니스가 실패하는 경우는 흔하다. 자체 구축해야 할 시점에 구매하는 바람에 기술적 가치를 제공하지 못할 수도 있고, 인력도 부족하고 예산이 한정되어 있는데 자체 구축을 진행하는 바람에 가치있는 무언가를 만들어내지 못할 수도 있다. 어떤 것도 강요할 수는 없다.
editor@itworld.co.kr