AIㆍML / 보안

엔비디아, 생성형 AI 마이크로서비스로 기업 소프트웨어 보안 강화

편집부 | ITWorld 2024.03.22
엔비디아가 새로운 엔비디아 NIM(NVIDIA NIM)과 네모 리트리버(NeMo Retriever) 마이크로서비스를 통해 소프트웨어 보안을 강화한다고 밝혔다.
 

엔비디아 CEO 젠슨 황은 GTC 기조연설에서 자사의 생성형 AI 기술을 통해 기업이 CVE(common vulnerabilities and exposures)와 기타 소프트웨어 보안 문제를 신속하게 감지하고 해결할 수 있는 방법을 공개했다.

새로운 엔비디아 NIM과 네모 리트리버(NeMo Retriever) 마이크로서비스를 엔비디아 모피어스(Morpheus) 가속 AI 프레임워크와 함께 작동하면 보안 분석가가 기존 툴로는 몇 시간, 심지어 며칠이 걸리던 문제를 단 몇 초 만에 식별할 수 있게 해준다고 업체 측은 설명했다. 

기존 방식에서는 발견된 취약점에 대한 해결책을 찾는 데 상당한 수작업이 필요했다. 그러나 LLM과 RAG(Retrieval-Augmented Generation)을 사용한 엔비디아 기술은 실행 가능한 CVE 위험 분석을 자동화하고 신속하게 제공할 수 있다. 엔비디아 생성형 AI 마이크로서비스와 모피어스는 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어 플랫폼의 일부로 제공되고 있다.

LLM은 엔비디아 애플리케이션에서 소프트웨어 패키지의 취약점을 검사하기 위한 작업 목록을 생성한다. 그런 다음, 엔비디아 AI 기반 LLM 에이전트가 내부와 외부 데이터 소스에서 소프트웨어의 규정 준수를 위해 취해야 할 안전 조치를 검색한다. 이 단계는 체크리스트의 모든 항목이 분류될 때까지 반복된다. 이후 애플리케이션은 상호작용을 요약하고 조치에 대한 타당한 이유를 생성한다. 그리고 이는 적절한 다음 단계를 결정하기 위해 사람 분석가에게 전달된다. 

이런 방식으로 이벤트 기반 RAG는 사람이 보안 조치를 감독하는 동안 생성형 AI가 일반적으로 완료하는 데 최대 며칠이 걸리는 연구 조사 작업을 획기적으로 가속화한다는 것이 업체 측의 설명이다. 

엔비디아는 자사의 내부 소프트웨어 개발 워크플로우의 보안을 보장하기 위해 해당 애플리케이션을 사용하고 있다. 이 애플리케이션은 평균적으로 단 몇 초 만에 400개 이상의 인터넷 검색을 수행하고, 다양한 기업 데이터 소스에서 500개 이상의 쿼리를 수행해 단일 소프트웨어 컨테이너를 분석한다. 이는 일반적으로 사람이 직접 할 때 최대 며칠이 걸리는 작업이다. 엔비디아는 하루에 1,000개 이상의 컨테이너를 스캔한다. 사이버보안 업체인 크라우드스트라이크도 엔비디아와 협력해 생성형 AI와 RAG를 구현했다.

엔비디아 NIM, 네모 리트리버, 모피어스는 엔비디아 AI 엔터프라이즈를 통해 이용할 수 있다. 이는 생성형 AI 파운데이션 모델을 위한 빠르고 효율적인 런타임을 제공하는 클라우드 네이티브 소프트웨어 플랫폼으로 보안, 안정성, 관리 용이성 등을 제공해 생성형 AI 도입을 간소화한다.
editor@itworld.co.kr
 Tags 엔비디아
Sponsored
IDG 설문조사

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.