글로벌 칼럼 | 클라우드에서 찾는 AI 관련 잡음을 차단하는 방법

일단 클라우드에 정착했다면, 혁신이 필요한 부분을 파악하고 AI를 간단하고 효과적으로 만들 수 있는 유니콘 솔루션 업체를 찾아야 한다.

인공지능은 바퀴 이후의 가장 위대한 발명품으로 선전되지만, 인공지능이 무엇을 의미하는지, 무엇을 해야 하는지 전혀 알지 못한다면 아무 의미가 없다. AI 관련 뉴스가 어지러울 정도로 쏟아져 나오다 보니 잡음과 신호를 걸러내기 어렵다.

매일 새로운 대규모 언어 모델(LLM)이 출시되고, 한쪽에서는 현실과 동떨어진 금액을 모금하는 업체가 등장하기도 한다. 새로 등장하는 LLM은 성능이나 기능 면에서 기존 업체를 뛰어넘는다. 몇 주 전에는 메타가 그랬고, 지난 주에는 구글의 제미나이가 챗GPT를 능가했다. 심지어 AI와 전혀 관련이 없는 충전기에도 AI 라벨이 붙는 실정이다.
 

하지만 실제로 대부분 기업은 아직 AI로 의미 있는 일을 하고 있지 않다.

기업이 AI를 제대로 활용하지 못할 것이란 말은 아니다. 하지만 AI는 혁신의 속도가 너무 빠르다. 아무리 AI에 정통한 관찰자라도 현재로서는 AI를 따라잡기 어렵다. 필자는 지난주에 한 숙련된 데이터 과학자와 이야기를 나누며 모든 AI 잡음을 어떻게 이해해야 하는지 물었다. 대답은 이해하지 못한다는 것이었다.

그렇다면 어떻게 해야 할까? AI의 미래를 제대로 이해하기 위해서는 최고의 업체들이 클라우드를 어떻게 이해했는지, 특히 AWS가 이를 실현하는 데 어떻게 기여했는지 되돌아볼 필요가 있다.
 

클라우드가 핵심

AI를 제대로 이해하는 첫 걸음은 클라우드이다. 클라우드가 AI에 발을 들여놓을 수 있도록 해주기 때문이다. 몇 년 전, 당시 AWS 데이터 과학 책임자였던 매트 우드는 빅데이터(데이터 과학 이전에 사용하던 용어, 데이터 과학은 AI 이전에 사용하던 용어)를 길들이기 위한 핵심은 탄력적인 인프라를 활용하는 것이라고 말했다. 우드는 "고가의 인프라를 구입하는 사람들은 문제 범위와 영역이 매우 빠르게 변화한다는 것을 알게 된다. 원래의 질문에 대한 답을 찾았을 때는 이미 비즈니스는 다른 곳으로 이동한 후이다”라고 강조했다.

물론 클라우드가 비싸다고 비판하는 37Signal의 공동 설립자 데이비드 하이네마이어 한손 같은 사람도 있다. 말도 안 되는 이야기다. 37Signals처럼 워크로드를 예측할 수 있을 정도로 느리게 성장하는 회사에서는 클라우드 환송이 효과적일 수 있지만, AI 관련 워크로드의 사전적 정의처럼 수요를 예측할 수 없는 회사에서는 절대적으로 잘못된 전략이다. 고객 수요를 충족하는 능력을 제약하는 인프라만큼 비용이 많이 드는 것은 없다.

다시 우드의 말로 돌아가 보자. "유연하고 변화하는 빅데이터 요구 사항에 신속하게 대응할 수 있는 환경이 필요하다." 이는 대부분 워크로드가 실험적인 성격이 강한 AI의 경우 특히 그렇다. "리소스 조합은 계속 진화하고 있다. 인프라를 구매하면 시간이 고정되어 있기 때문에 구매하는 즉시 비즈니스 관련성이 떨어진다. 문제가 없거나 더 이상 신경 쓰지 않아도 되는 문제를 해결하는 것이다.” 

다시 한번 강조하지만, AI를 시작하기 위한 핵심은 성공을 향한 실험에 필요한 유연성을 확보할 수 있는 클라우드를 구축하는 것이다.
 

클라우드의 다음 단계

클라우드의 탄력적인 인프라를 통해 기업은 큰 비용을 들이지 않고도 승부를 걸 수 있다. 2019년 인터뷰에서 당시 AWS CEO(현 아마존 CEO) 앤디 재시는 클라우드에서 가장 큰 성공을 거둔 기업은 점진적인 접근 방식이 아니라 “판을 뒤집어” 크게 진행하는 기업이라고 말했다. AI 시대에 적용하자면, 재시의 말처럼 "클라우드에서는 여러 가지 다양한 반복을 시도하는 데 드는 비용이 훨씬 낮기 때문에 새로운 비즈니스 아이디어에 대한 위험을 감수하는 것"이 중요하다.

AI가 과대 포장됐다는 반박은 타당하지만, 재시라면 여전히 보수적인 전략에 드는 비용이 더 민첩한 AI 기반 스타트업에 의해 대체될 수 있다고 주장할 가능성이 높다. 재시는 "고객이 무엇을 원하는지, 시간이 지남에 따라 요구될 고객 경험은 무엇인지 생각해야 한다. 그리고 일반적으로 이를 위해서는 꽤 큰 변화나 혁신이 필요하다”라고 말했다. AI도 마찬가지다.

다시 말하지만, 클라우드를 통해 기업은 점진적인 방식으로 큰 승부를 걸 수 있다.

그렇다면, 이제 질문은 누가 이런 점진적인 대규모 승부의 실행을 주도해야 하는지로 이어진다. 수년 동안 개발자는 오픈소스 소프트웨어와 클라우드 인프라를 통해 빠르게 혁신하는 힘의 중심이었다. 하지만 개발자에게는 지원이 필요하며, 그 지원은 CEO가 제공해야 한다. 재시는 "클라우드 전환의 가장 큰 초기 과제는 기술적인 문제가 아니라 리더십, 즉 경영진의 리더십에 관한 것"이라고 말한다. 개발자는 일을 처리하는 방법을 알아내는 데는 뛰어나지만, CEO의 권한이 있어야 혁신을 추진할 수 있다.
 

승자의 조건 : 사용하기 쉬울 것

솔루션 업체는 어떨까? AI 분야의 승자는 가장 정교한 LLM을 만들거나 가장 기능이 풍부한 벡터 데이터베이스를 개발하는 업체가 아닐지도 모른다. 아니, AI를 가장 쉽게 사용할 수 있게 만드는 업체가 승자가 될 것이다.

새삼스러운 일도 아니다. 클라우드 분야의 승자는 기업이 클라우드 서비스를 더 쉽게 사용할 수 있게 만든 AWS였다. 오픈소스/리눅스 초기의 승자는 리눅스 실행과 관련된 복잡성을 제거한 레드햇이었다. 구글은 검색 기능을 최초로 개발한 것은 아니지만 검색과 관련된 번거로움을 제거한 최초의 업체이다. 깃허브는 개발자에게 코드를 저장하고 공유할 수 있는 방법을 최초로 제공한 것이 아니라 개발자가 대규모로 사용할 수 있도록 만든 최초의 서비스이다. 이런 예도 헤아릴 수 없이 많다.

AI 역시 이런 업체가 필요하다. 물론 기업은 클라우드 실험을 통해 AI 성공의 길을 느낄 수 있지만, AI 분야의 승자는 오픈AI나 또 다른 LLM을 만드는 곳이 아닐 것이다. 필자는 기업이 AI를 생산적으로 사용하기 쉽게 만드는 업체에 돈을 걸 것이다.
editor@itworld.co.kr