AIㆍML / 보안

"AI 탐지 모델의 판단 근거 알려준다" 이글루코퍼레이션, 서비스 개발 완료

편집부 | ITWorld 2023.03.14
이글루코퍼레이션이 AI에 의해 판단된 공격 결과의 신뢰성과 이해도를 높이는 ‘이글루XAI(IGLOOXAI)’(가칭) 서비스를 개발 완료했다고 3월 14일 밝혔다. AI 모델 확대 적용 및 개선 과정을 거쳐, 4월 초 시범 서비스를 선보일 예정이다.
 

회사에 따르면 ‘이글루XAI’는 특정 보안 데이터에 대해 AI 모델이 판단한 근거를 알려주는 온라인 서비스다. ▲AI가 어떤 기준에 따라 특정 행위를 이상·정상으로 탐지했는지를 알려주는 ‘설명 가능한 AI(XAI, eXplainable AI)’ 기술, ▲기존 콘텐츠에 대한 학습을 토대로 새로운 콘텐츠를 만들어내는 ‘생성형 AI(Generative AI)’ 기술이 적용돼 있다. 사용자들은 AI 모델이 특정한 예측을 내린 기준 확인을 통해 AI 답변의 신뢰도를 평가하고, 자연어 형태의 설명을 토대로 AI 답변에 대한 이해도를 높일 수 있다.

보안 담당자들은 이글루XAI 활용을 통해 AI 탐지 모델의 판단 근거와 빅데이터 분석 결과, 자연어 형태의 답변을 비교 확인함으로써, 보안 조직의 분석 역량을 상향평준화할 수 있게 된다. 사용자가 공격 유무를 판단하고자 하는 페이로드(payload)를 입력하면, ▲AI 탐지 모델이 예측한 결과와 이 예측에 영향을 미친 공격 특징(feature)의 중요도 ▲빅데이터 기반 분석 결과가 제공된다. 챗GPT(ChatGPT)를 통한 대화형 분석 옵션도 선택할 수 있다고 업체 측은 설명했다. 
 

이글루코퍼레이션은 더 많은 보안 조직이 이글루XAI를 활용할 수 있도록, 서비스 모델을 다양화할 계획이다. 설치 및 개발 부담이 없는 온라인 웹페이지·API 형태로 서비스를 제공하고, 현재 적용된 보안 이벤트 분류 모델에 이어 엔드포인트 및 행위 기반 모델을 추가할 예정이다. 또한, 예측 결과에 대한 보안 전문가의 피드백 적용을 통해, 모델의 신뢰도를 지속적으로 높일 방침이다.

이글루코퍼레이션은 이번 서비스 출시를 계기로 기존 확보한 AI 기반 탐지 기술 및 XAI 기술에 생성형 AI 기능을 접목하며, AI 사업 포트폴리오를 확대할 계획이다. 챗GPT 모델에서 더 나아가 복수의 생성형 AI 모델 연계를 통해 고객의 선택 폭을 넓히고, 중장기적인 관점에서 보안에 최적화된 이글루코퍼레이션 고유의 생성형 AI 모델도 적용할 전략이다. 더불어, 정상적인 AI 서비스를 악용한 우회 및 적대적 공격에 맞서, 현재 진행 중인 AI 방어 기술 및 방법론 연구에 가속도를 붙인다.
 

이글루코퍼레이션 이득춘 대표는 “이글루코퍼레이션은 다년간 보안, 빅데이터, 데이터 마이닝, AI 등 여러 분야의 전문가로 구성된 AI 조직을 운영하며, AI 탐지 모델의 신뢰성과 정확성을 높이는 데 공을 들여왔다”라며, “검증된 고유의 AI 기술력에 생성형 AI 기술을 적용하며, 더 많은 조직들이 AI의 혜택을 누릴 수 있도록 지원하겠다”라고 밝혔다.
editor@itworld.co.kr
Sponsored
IDG 설문조사

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.