블로그 | 도대체 클라우드 핀옵스에는 무슨 일이?

핀옵스를 기억하는가? 비용 최적화? 여러 설문조사에서 핀옵스는 2023년의 주요 이슈 중 하나였지만, AI 소음의 양을 고려하면 전혀 들어보지 못한 사람도 많을 것이다.
 

핀옵스 현황(State of FinOps)은 핀옵스 재단이 중요한 우선순위, 업계 동향, 핀옵스 관행의 방향에 대한 정보를 수집하기 위해 매년 실시하는 설문조사다. 이 설문조사는 재단의 다양한 활동을 알리고 기업에서 핀옵스가 어떻게 실행되고 있는지 널리 알리는 것이 목표이다. 설문조사 응답자는 데이터를 통해 커뮤니티에 귀중한 인사이트를 제공할 수 있도록 정직하게 답변해 줄 것을 권장하지만, 자신의 비용 낭비를 쉽게 인정하는 사람은 없다는 것도 고려해야 한다.

필자는 이번 보고서가 유용하다고 생각한다. 편향되지 않은 정보를 얻는다는 것은 결코 아니지만, 핀옵스 재단이 핀옵스 표준 기관으로서 어떻게 기능하고 핀옵스에 대한 정보를 전달하는지 알 수 있었다.
 

바뀌는 최우선 순위

2023년에는 경제적 압박으로 인해 낭비를 줄이고 약정 기반 할인을 관리하는 것이 핀옵스 팀의 최우선 순위가 됐다. 기업은 필요한 시점보다 일찍 리소스를 구매하는 등 클라우드 컴퓨팅 비용을 절감하는 방법을 더 잘 알게 됐다.

또한 핀옵스팀은 예측 기능에 투자하고 있으며, 2024년에는 인공지능 및 머신러닝 실행 비용이 핀옵스 업무에 큰 영향을 미칠 것으로 예상한다. 이제 인공지능을 빼놓고는 더 이상 대화를 나눌 수 없는 상황이다.

우려되는 점은 우리가 AI를 활용하는 데 너무 집중하다 보니 AI 사용 비용을 지불할 수 있도록 리소스를 최적화하는 더 중요한 문제를 놓치고 있다는 것이다. 비용은 AI를 사용하는 데 있어 가장 큰 제약이 될 것이다. 엔비디아의 주가를 보면 수요는 가파르게 증가할 것이며, 이 때문에 가격이 높게 형성될 가능성이 크다.

2023년의 이런 재정적 우선순위는 2024년과 2025년에 바뀔 것으로 예상한다. 클라우드 컴퓨팅 소비에 있어 급격한 변화를 겪게 될 것이며, 이는 클라우드 핀옵스의 모든 측면에 영향을 미칠 것이다. 대형 실수를 저지르기 전에 일종의 비용 거버넌스를 구축해야 할 시점이다.
 

최적화가 핵심

IT 자원 중 컴퓨트는 가장 최적화가 많이 이루어진 영역이다. 하지만 스토리지와 데이터베이스, 그리고 AI와 같은 최신 기술은 여전히 최적화의 여지가 있다. 핀옵스 시스템이 사용량을 모두 계산하지만, 클라우드 리소스를 비용 효율적으로 사용하는 것은 IT 부서에는 가장 중요한 해결 과제이다.

2024년과 2025년에는 최적화가 포화점에 도달하여 낭비되는 리소스의 양이 줄어들면서 최적화 프로세스를 통해 절감되는 비용이 줄어든다는 것도 문제다. 설문조사에 따르면, 2023년에 핀옵스 커뮤니티는 AWS, 구글 클라우드, 마이크로소프트 애저에 대한 최적화 라이브러리를 구축했다. 특정 퍼블릭 클라우드 서비스 업체에 대한 구체적인 최적화 프로세스가 정리되어 있는 것이다.

그러나 더 중요한 문제가 간과되는 경우가 많다. 클라우드, 기존 환경, 엣지, 모바일 등 플랫폼 전반을 최적화하는 것은 서로 다른 최적화 프로세스를 제공한다. 예를 들어, 기업은 연산 및 스토리지 비용을 절감할 수 있다면 더 많은 연산 처리 워크로드를 퍼블릭 클라우드에서 온프레미스로 옮길 수 있다.

이런 문제를 해결할 수 있는 도구는 있지만, 핀옵스 담당자를 위한 더 많은 교육과 접근 방식이 필요하다. 지금은 퍼블릭 클라우드 비용 절감에만 초점을 맞추고 모든 시스템을 전반적으로 잘 보지 못하고 있다. 
 

핀옵스가 따라잡아야 할 과제

이번 보고서에 따르면, 핀옵스의 예측 기능에는 여전히 상당한 개선이 필요한 것으로 나타났다. 또한 핀옵스팀은 미리 구매한 리소스를 더 많이 사용하는 등 지출을 조정할 수 있도록 미래 비용을 파악할 수 있는 더 나은 기능을 원한다는 의견도 많았다.

엔지니어는 실시간 의사 결정을 가능하게 하는 셀프서비스 핀옵스 보고서에서 가장 큰 가치를 얻는다. 특정 클라우드 리소스에 액세스하기 위한 코드를 작성하기도 전에 비용을 절감할 수 있는 영역을 발견하고 이를 해결하는 것을 '자동 핸드 슬랩(Hand Slap, 실수하기 전에 손등을 때려 중지시키는 행위)'이라고도 한다.

소프트웨어를 개발할 때 지속 가능성 메트릭을 살펴보는 것과 함께 이를 통해 문제가 발생하기 전에 문제를 해결할 수 있다. 일부 개발자가 코드형 인프라 지원 애플리케이션에서 리소스를 과도하게 프로비저닝하는 등의 실수를 저지르고 나중에 문제가 발견되는 경우가 있다. 이보다는 문제를 미리 파악하는 것이 훨씬 낫다.

핀옵스에 대한 교육을 많이 받을수록 셀프서비스 보고를 통해 더 많은 가치를 얻을 수 있으며, 엔지니어링팀이 가장 큰 이점을 얻을 수 있다. 보고서 역시 지난 3년 동안 모든 부서, 특히, 엔지니어링에서 핀옵스 교육에 대한 투자가 증가했다고 밝혔다.
 

생성형 AI의 비용

설문조사 응답자의 31%만이 생성형 AI 비용이 자사의 핀옵스 업무에 영향을 미치고 있다고 답했다. 이는 핀옵스 프랙티스와 툴이 AI 관련 지출로부터 가치를 보장할 수 있는 상당한 기회가 있다는 것을 의미한다.

또한 대규모 클라우드 지출 기업(연간 1억 달러 이상)의 경우 현재 AI가 핀옵스 프랙티스에 미치는 영향이 31%에서 45%로 크게 증가한 것으로 나타났다. 전체 클라우드 지출이 큰 조직일수록 AI/ML을 관리해야 할 가변 비용의 급격한 증가 원인으로 인식하는 경향이 있다. 다음 조사에서는 이런 추세가 크게 달라질 것으로 예상된다.
editor@itworld.co.kr