AIㆍML / 애플리케이션

뉴렐릭, 인공지능용 APM 솔루션 ‘뉴렐릭 AI 모니터링’ 출시

편집부 | ITWorld 2023.11.20
뉴렐릭(https://newrelic.com/kr)이 AI 기반 애플리케이션용 APM(Application Performance Management) 솔루션인 ‘뉴렐릭 AI 모니터링(New Relic AI monitoring, 이하 AIM)’을 출시했다고 밝혔다. 

뉴렐릭은 AIM의 출시와 함께 AI 옵저버릴리티 영역을 새롭게 다져나가며 엔지니어들에게 AI 애플리케이션 스택 전반에 가시성과 인사이트를 제공한다는 계획이다. 이를 통해 엔지니어들은 문제들을 더욱 쉽게 해결하는 동시에 AI 애플리케이션의 성능, 품질, 비용은 최적화시키고 AI의 책임감 있는 사용과 관련 규제 준수도 더욱 효율적으로 실천할 수 있다고 업체 측은 설명했다. 대규모 언어 모델(LLM) 반응 추적 및 모델 비교와 같은 기능과 50개 이상의 통합 기술을 활용해 AIM은 IT 부서가 LLM 기반 애플리케이션을 더욱 자신있게 구축할 수 있도록 지원한다고 덧붙였다.
 

AIM은 모든 AI 기반 애플리케이션에 엔드투엔드 옵저버빌리티를 제공한다. 이로써 엔지니어는 단일 화면을 이용해 한 곳에서 성능, 비용, 보안 관련 이슈뿐만 아니라 환각현상(hallucination), 편향, 유해성 및 공정성과 같이 품질 관련 이슈에 관한 여러 LLM 프롬프트와 반응 문제를 확인하고, 비교해 최적화할 수 있다. 

엔지니어들은 서비스 및 인프라스트럭처와 관련된 AI 스택 전반에 모든 요소들에 대한 가시성을 확보할 수 있어 AI를 책임감 있게 사용하기 위해 필요한 데이터를 확인하고 향후 AI 규제 관련 컴플라이언스 준수 상황도 확인할 수 있다.

뉴렐릭 최고 제품 책임자(CPO)인 마나브 쿠라나는 “뉴렐릭은 이번 출시한 AIM에 그 동안 클라우드 APM 개발에서 AI 기반 애플리케이션의 엔드투엔드 가시성 확보 기술까지 뉴렐릭만의 심도있는 전문 기술을 녹여냈다”며, “기업들이 성능, 비용을 더욱 효율적으로 관리하는 동시에 AI 규제 및 기준을 준수하며 작업할 수 있도록 했다”고 말했다.

이번에 출시된 뉴렐릭 AIM의 주요 기능은 ▲계측 자동화 ▲AI 스택 전반 가시성 확보 ▲모든 LLM 반응에 대한 인사이트 추적 ▲성능 및 비용 비교 ▲책임감 있는 AI 사용 지원 ▲즉각적인 AI 생태계 모니터링 등이다. 

AIM은 현재 전 세계 뉴렐릭 이용자들을 대상으로 얼리액세스 버전으로 제공되고 있다. 회원가입 후 얼리액세스를 요청해 이용할 수 있으며 해당 솔루션은 뉴렐릭의 기본 사용량 기반 과금 방식의 서비스에 포함돼 제공된다.
editor@itworld.co.kr
 Tags 뉴렐릭
Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.