넘버스
넘버스
클라우드플레어가 LLM을 상대로 한 남용과 공격을 식별하는 새로운 보호 레이어인 ‘AI용 방화벽(Firewall for AI)’을 선보인다고 밝혔다. 클라우드플레어는 자사 글로벌 네트워크를 기반으로 AI용 방화벽을 통해 고객이 LLM 내에 있는 기능, 주요 데이터, 영업 비밀을 노리는 공격에 대응할 수 있도록 지원한다는 방침이다.
기업의 보안팀은 클라우드플레어의 AI용 방화벽을 통해 AI 모델의 무기로 사용될 수 있는 잠재적 취약성으로부터 LLM 애플리케이션을 보호할 수 있다. AI용 방화벽은 클라우드플레어의 워커스 AI (Workers AI)에서 실행되는 모든 LLM 앞에 배포할 수 있다. 사용자가 제출한 프롬프트를 스캔하고 평가해 모델을 악용하고 데이터를 추출하려는 시도를 더 잘 식별할 수 있다.
또한 클라우드플레어의 글로벌 네트워크를 기반으로 구축된 AI용 방화벽은 엔드 유저와 가까운 곳에 배포되므로 모델 남용으로부터 거의 즉각적으로 보호할 수 있는 기능을 제공한다고 업체 측은 강조했다. 클라우드플레어의 워커스 AI에서 LLM을 실행하는 모든 고객은 AI용 방화벽을 무료로 사용할 수 있으며, 이를 통해 프롬프트 주입 및 데이터 유출 등의 우려 사항을 방지할 수 있다.
클라우드플레어 CEO 겸 공동 창업자 매튜 프린스는 “클라우드플레어는 자사 AI용 방화벽을 통해 AI 환경의 보안 구축을 처음부터 돕고 있다”라며, “AI 모델을 위한 최초의 보호막 중 하나를 제공하여, 기업이 기술 발전이 선사하는 기회를 활용함과 동시에 보호받을 수 있도록 지원하고자 한다”라고 말했다.
editor@itworld.co.kr
기업의 보안팀은 클라우드플레어의 AI용 방화벽을 통해 AI 모델의 무기로 사용될 수 있는 잠재적 취약성으로부터 LLM 애플리케이션을 보호할 수 있다. AI용 방화벽은 클라우드플레어의 워커스 AI (Workers AI)에서 실행되는 모든 LLM 앞에 배포할 수 있다. 사용자가 제출한 프롬프트를 스캔하고 평가해 모델을 악용하고 데이터를 추출하려는 시도를 더 잘 식별할 수 있다.
또한 클라우드플레어의 글로벌 네트워크를 기반으로 구축된 AI용 방화벽은 엔드 유저와 가까운 곳에 배포되므로 모델 남용으로부터 거의 즉각적으로 보호할 수 있는 기능을 제공한다고 업체 측은 강조했다. 클라우드플레어의 워커스 AI에서 LLM을 실행하는 모든 고객은 AI용 방화벽을 무료로 사용할 수 있으며, 이를 통해 프롬프트 주입 및 데이터 유출 등의 우려 사항을 방지할 수 있다.
클라우드플레어 CEO 겸 공동 창업자 매튜 프린스는 “클라우드플레어는 자사 AI용 방화벽을 통해 AI 환경의 보안 구축을 처음부터 돕고 있다”라며, “AI 모델을 위한 최초의 보호막 중 하나를 제공하여, 기업이 기술 발전이 선사하는 기회를 활용함과 동시에 보호받을 수 있도록 지원하고자 한다”라고 말했다.
editor@itworld.co.kr
Tags
클라우드플레어
추천기사
