AIㆍML / 애플리케이션

클라우드플레어, 허깅페이스서 “원클릭” AI 애플리케이션 배포 지원

편집부 | ITWorld 2024.04.04
클라우드플레어(Cloudflare)가 허깅페이스에서 클릭 한 번으로 클라우드플레어의 글로벌 네트워크에 AI 애플리케이션을 배포할 수 있도록 지원한다고 4일 밝혔다.
 

클라우드플레어가 워커스 AI를 허깅페이스 허브와 통합해 서버리스 추론 파트너로서 모델을 배포할 수 있도록 지원한다. 개발자가 인프라를 관리하거나 사용하지 않는 컴퓨터 용량에 대한 비용을 지불하지 않아도 전 세계를 대상으로 빠르게 AI를 배포할 수 있도록 한다는 방침이다.

매튜 프린스(Matthew Prince) 클라우드플레어 CEO 겸 공동 창업자는 "최근 생성형 AI 붐으로 인해 여러 기업이 AI에 막대한 시간과 비용을 투자하고 있다. 그 중 일부는 효과가 있겠지만, 데모는 쉬워도 이를 프로덕션에 적용하는 것은 매우 어렵다는 것이 현재 우리가 직면한 도전과제다. 클라우드플레어는 AI 기반 앱을 구축하는 데 드는 비용과 복잡성을 없앰으로써 이러한 문제를 해결하고자 한다. 워커스 AI는 추론을 실행할 수 있고 접근하기 쉬운 솔루션이다. 간단하고 경제적인 방식으로 AI를 대중화하려는 클라우드플레어와 허깅페이스의 협업으로 개발자가 직접 모델을 선택하고 AI 앱을 글로벌로 즉시 확장할 수 있는 민첩성을 제공할 계획이다"라고 말했다.

한편 클라우드플레어의 워커스 AI는 이제 일반 사용자도 이용할 수 있게 됐다. 클라우드플레어는 사용자가 효율적으로 AI 모델을 확장하고 배포하는데 필요한 엔드 투 엔드 인프라를 제공할 계획이다. 클라우드플레어는 서울, 케이프타운, 더반, 요하네스버그 등 전 세계 150여개 도시에 GPU를 보유하고 있으며, 지연을 최소화한 추론을 지원하고 있다. 또한, 워커스AI는 미세 조정된 모델 가중치를 지원하도록 확장돼 조직이 보다 전문화된 도메인별 애플리케이션을 구축하고 배포할 수 있도록 돕는다.

클라우드플레어의 AI 게이트웨이(AI Gateway)는 AI 애플리케이션을 위한 제어판을 제공해 개발자가 요청을 동적으로 평가하고 다양한 모델과 공급자에게 라우팅할 수 있도록 한다. 또한 개발자가 데이터를 사용하여 미세 조정하고 워커스 AI 플랫폼에서 미세 조정한 결과물을 바로 실행할 수 있도록 지원한다.

이를 위해 개발자는 허깅페이스에서 한 번의 클릭으로 직접 AI 모델을 배포할 수 있다. 인기 있는 오픈 소스 모델 중 하나를 선택한 다음 ‘클라우드플레어 워커스AI로 배포’를 클릭하면 즉시 모델을 배포할 수 있다. 클라우드플레어는 총 14가지 허깅페이스 모델이 전역 서버리스 추론 플랫폼을 위해 최적화됐다고 밝혔다.
editor@itworld.co.kr
Sponsored
IDG 설문조사

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.