2016.04.22

인공지능 + 인간 = 강력한 사이버 보안

Katherine Noyes | IDG News Service
인간과 AI. 이 둘은 모두 사이버 보안 유지에 있어서 압도적인 성공률을 입증하지 못한 상황이다. 그런데 이 둘을 결합한다면 어떻게 될까? 이것이 MIT에서 진행한 새로운 프로젝트의 전제이며, 꽤 인상적인 결과를 내놓았다.


Credit: Kalyan Veeramachaneni/MIT CSAIL

MIT의 컴퓨터 과학 및 인공 지능 연구소(Computer Science and Artificial Intelligence Laboratory, CSAIL)와 기계 학습 스타트업 패턴엑스(PatternEx)의 연구원들은 공격의 85%를 감지할 수 있는 AI2라는 새로운 플랫폼을 개발했다. 또한 5가지 요소 가운데 하나로 위협이 아닌 것을 위협으로 식별하는 '긍정 오류(false positives)'의 수를 줄일 수 있었다고 연구원들이 말했다.

이 시스템은 3개월 동안 수백만 명의 사람들이 생성한 36억 개의 데이터를 대상으로 테스트했다. 연구원들은 이번 달 초 IEEE의 ICBDS(International Conference on Big Data Security)에서 해당 프로젝트를 요약한 논문을 발제했다.

패턴엑스의 수석 데이터 공학자이자 전 CSAIL 박사학위 취득자 이그나치 오 아날도와 함께 AI2를 개발한 연구원 캘리언 비어아마차네니는 "이 시스템을 가상의 분석가로 볼 수 있다"며, "수 시간 만에 개선할 수 있는 새 모델을 지속적으로 생성하기 때문에 감지율을 신속하게 대대적으로 향상시킬 수 있다"고 말했다.

심지어 인공지능의 잠재적인 인간 대체에 관한 두려움이 팽배한 가운데 AI와 인간의 통찰력을 결합하면 어느 한쪽이 낼 수 있는 결과보다 훨씬 나은 결과를 낼 수 있다는 사실이 점차 입증되고 있다.

예를 들어, 지난 주 스페어5(Spare5)는 기업들이 구조화되지 않은 데이터를 이해할 수 있도록 인간의 통찰력과 머신러닝을 조합하는 새로운 플랫폼을 공개했다.

사이버 보안 세계에서 인간 중심적인 기법은 일반적으로 살아있는 전문가들이 만든 규칙에 의존하고 있기 때문에 규칙에 부합하지 않은 공격은 놓치고 있다. 한편, 머신러닝 접근방식은 비정상적인 감지에 의존하기 때문에 시스템에 대한 불신을 유발하는 긍정 오류를 발생시키며 여전히 인간이 조사해야 하는 경향이 있다.

하지만 인간과 컴퓨터 기반 접근방식을 융합하는 사이버 보안 시스템 개발은 쉽지 않다. 알고리즘을 위한 사이버 보안 데이터에 수동으로 라벨링(Labeling)해야 하는 어려움 때문이다.

비어아마차네니는 "시각 인식 등의 여러 작업에 있어서 라벨링은 단순히 AMT(Amazon Mechanical Turk) 같은 크라우드소싱(Crowdsourcing) 규모에서 일부 인간 지원자들을 요청하는 문제지만, "DDOS"나 "탈출 공격(Exfiltration Attack)" 같은 라벨을 적용하기 위해 필요한 기술을 보유한 노동자는 많지 않다"며, "보안 전문가가 필요하다"고 말했다.




한편, 전문가들은 시간이 부족한 경우가 많다. 이런 제약을 인식하는 AI2는 우선 머신러닝을 이용해 가장 중요한 잠재적인 문제를 찾은 후에야 라벨링을 위해 분석가들에게 상위 이벤트를 보여준다.

MIT 측은 "교육 1일차에는 AI2가 자율 머신러닝을 이용해 200개의 '가장 비정상적인' 이벤트를 선택해 인간 전문가에게 전달한다"고 설명했다. 그리고 나서 분석가들은 어떤 이벤트가 실제 공격인지 확인하며 시스템은 일련의 다음 데이터를 위해 이 피드백을 모델에 통합한다.

시간이 지나면서 시스템이 개선되고 분석가들이 반드시 분석해야 하는 이벤트의 수가 극적으로 감소한다고 전했다. 비어아마차네니는 "시스템이 더 많은 공격을 감지하면 수신하는 분석가 피드백이 증가해 미래의 전망의 정확성이 증가하게 된다"며, "인간-기계 상호작용은 아름답고 폭포같은 효과를 만든다"고 평가했다. editor@itworld.co.kr


2016.04.22

인공지능 + 인간 = 강력한 사이버 보안

Katherine Noyes | IDG News Service
인간과 AI. 이 둘은 모두 사이버 보안 유지에 있어서 압도적인 성공률을 입증하지 못한 상황이다. 그런데 이 둘을 결합한다면 어떻게 될까? 이것이 MIT에서 진행한 새로운 프로젝트의 전제이며, 꽤 인상적인 결과를 내놓았다.


Credit: Kalyan Veeramachaneni/MIT CSAIL

MIT의 컴퓨터 과학 및 인공 지능 연구소(Computer Science and Artificial Intelligence Laboratory, CSAIL)와 기계 학습 스타트업 패턴엑스(PatternEx)의 연구원들은 공격의 85%를 감지할 수 있는 AI2라는 새로운 플랫폼을 개발했다. 또한 5가지 요소 가운데 하나로 위협이 아닌 것을 위협으로 식별하는 '긍정 오류(false positives)'의 수를 줄일 수 있었다고 연구원들이 말했다.

이 시스템은 3개월 동안 수백만 명의 사람들이 생성한 36억 개의 데이터를 대상으로 테스트했다. 연구원들은 이번 달 초 IEEE의 ICBDS(International Conference on Big Data Security)에서 해당 프로젝트를 요약한 논문을 발제했다.

패턴엑스의 수석 데이터 공학자이자 전 CSAIL 박사학위 취득자 이그나치 오 아날도와 함께 AI2를 개발한 연구원 캘리언 비어아마차네니는 "이 시스템을 가상의 분석가로 볼 수 있다"며, "수 시간 만에 개선할 수 있는 새 모델을 지속적으로 생성하기 때문에 감지율을 신속하게 대대적으로 향상시킬 수 있다"고 말했다.

심지어 인공지능의 잠재적인 인간 대체에 관한 두려움이 팽배한 가운데 AI와 인간의 통찰력을 결합하면 어느 한쪽이 낼 수 있는 결과보다 훨씬 나은 결과를 낼 수 있다는 사실이 점차 입증되고 있다.

예를 들어, 지난 주 스페어5(Spare5)는 기업들이 구조화되지 않은 데이터를 이해할 수 있도록 인간의 통찰력과 머신러닝을 조합하는 새로운 플랫폼을 공개했다.

사이버 보안 세계에서 인간 중심적인 기법은 일반적으로 살아있는 전문가들이 만든 규칙에 의존하고 있기 때문에 규칙에 부합하지 않은 공격은 놓치고 있다. 한편, 머신러닝 접근방식은 비정상적인 감지에 의존하기 때문에 시스템에 대한 불신을 유발하는 긍정 오류를 발생시키며 여전히 인간이 조사해야 하는 경향이 있다.

하지만 인간과 컴퓨터 기반 접근방식을 융합하는 사이버 보안 시스템 개발은 쉽지 않다. 알고리즘을 위한 사이버 보안 데이터에 수동으로 라벨링(Labeling)해야 하는 어려움 때문이다.

비어아마차네니는 "시각 인식 등의 여러 작업에 있어서 라벨링은 단순히 AMT(Amazon Mechanical Turk) 같은 크라우드소싱(Crowdsourcing) 규모에서 일부 인간 지원자들을 요청하는 문제지만, "DDOS"나 "탈출 공격(Exfiltration Attack)" 같은 라벨을 적용하기 위해 필요한 기술을 보유한 노동자는 많지 않다"며, "보안 전문가가 필요하다"고 말했다.




한편, 전문가들은 시간이 부족한 경우가 많다. 이런 제약을 인식하는 AI2는 우선 머신러닝을 이용해 가장 중요한 잠재적인 문제를 찾은 후에야 라벨링을 위해 분석가들에게 상위 이벤트를 보여준다.

MIT 측은 "교육 1일차에는 AI2가 자율 머신러닝을 이용해 200개의 '가장 비정상적인' 이벤트를 선택해 인간 전문가에게 전달한다"고 설명했다. 그리고 나서 분석가들은 어떤 이벤트가 실제 공격인지 확인하며 시스템은 일련의 다음 데이터를 위해 이 피드백을 모델에 통합한다.

시간이 지나면서 시스템이 개선되고 분석가들이 반드시 분석해야 하는 이벤트의 수가 극적으로 감소한다고 전했다. 비어아마차네니는 "시스템이 더 많은 공격을 감지하면 수신하는 분석가 피드백이 증가해 미래의 전망의 정확성이 증가하게 된다"며, "인간-기계 상호작용은 아름답고 폭포같은 효과를 만든다"고 평가했다. editor@itworld.co.kr


X