2018.03.27

글로벌 칼럼 | 보안 업체들이 말하는 AI가 정말 AI인가

Roger A. Grimes | CSO
새로운 기술은 새로운 유행어를 만든다. 클라우드, 패브릭(Fabric), 비트코인(Bitcoin), 블록체인(Blockchain), 컨테이너(Container), 마이크로서비스(Microservice) 등이 그렇다.

인공지능(Artificial Intelligence, AI)은 하나의 기술이자 용어로 수십 년 동안 사용됐지만 최근에야 유행하기 시작했다. 안타깝게도 일부 업체들은 실질적인 AI 없이 이 유행어에 자사의 제품을 연계시키고 있다. 아니면 좀 더 관대한 관점에서 보더라도 AI라고 할 수 있는 것의 한계를 늘리고 있다.

아마도 AI가 무엇인지 제대로 이해하지 못하거나 마케팅팀이 그렇게 하도록 꾀었을 것이다. 어쨌든 구매자는 AI가 있다고 주장하는 많은 제품에 AI가 없다는 사실을 인지해야 한다.

필자는 평상시보다 더 많은 개발업체들을 검토했으며 제품 설명에 AI라는 단어가 포함되어 있으면 제품이나 서비스를 더 많이 판매할 수 있다고 생각하는 사람이 많다. 필자가 AI를 어떻게 활용하고 있는지 질문했을 때는 말이 없어지거나 규칙 엔진(Rule Engine)에 더 가까운 설명을 하곤 한다.

아무런 근거없이 AI가 있다고 주장하는 개발업체들이 고객들을 혼란에 빠뜨리고 있다. 이 때문에 자사의 제품에 진정한 AI를 적용하기 위해 모든 노력을 기울인 모든 개발업체가 불만을 품고 있다. 이번 기사는 보안 제품의 소비자 또는 구매자라면 AI가 정말로 의미하는 바가 무엇인지 이해하는 데 도움을 주고자 한다.

AI와 규칙 기반 엔진의 차이점
이 주제는 최근 필자가 제너지(Zenedge) CEO인 유리 프레이만, 그리고 공동 설립자이자 최고제품경영자 로렌트 길을 인터뷰하면서 제기된 것이다. 필자는 인터뷰를 몇 주 정도 연기해야 했으며 우리는 만날 즈음에는 제너지가 오라클에 인수되었고 침묵 기간에 대한 인수 규칙 때문에 그들은 제너지 또는 자사의 제품에 대해 말할 수 없었다.

필자는 제너지가 진정한 AI가 있는 컴퓨터 보안 업체이기 때문에 실망했고 그들에게 솔직한 감정을 표현했다. 이런 솔직한 대화 덕분에 AI가 있다고 거짓말하는 기업에 대한 불만을 중심으로 30분간 정감 어린 대화가 오갔다.

필자는 로렌트와 유리에게 규칙 기반 엔진과 AI 사이에서 느껴지는 주된 차이점에 대해 질문했다. 왜냐하면 수백 개의 규칙이 있는 많은 개발업체들이 일종의 AI에 가까운 버전을 완성했다고 느끼기 때문이다.

이에 대해 로렌트는 "규칙 기반 엔진은 시그니처 기반 안티바이러스와 같다. 이미 결과를 예상하고 있다. 많은 연구원이 과거에 어떤 일이 있었는지 살펴보고 있으며 이에 기초해 그들은 알려진 악성코드(Malware)를 식별하는 일련의 IF-THEN 규칙을 작성한다. 규칙은 연구 그리고 파악된 해커 커뮤니티의 활동 수준으로 수립되기 마련이다. 해커는 미리 공유하지 않기 때문에 항상 뒤쳐지게 된다"고 대답했다.

로렌트는 "진정한 AI의 핵심은 미래다. AI는 '이것이 무엇인지 모르겠지만 유사한 것을 보았기 때문에 플래그(Flag) 처리해 두겠다' 또는 '본 적이 없는 것인데 비정상적이니 플래그 처리해 두겠다'고 이야기한다. 규칙 엔진과 AI의 주된 차이점은 초점 영역이다. 규칙은 과거의 데이터에 기초한 IF-THEN 결정이다. AI의 핵심은 단순히 새롭다는 이유로 변칙을 인식하는 것이다. 우리는 기계가 '모르겠다. 본 적이 없다'고 말할 때 흥미를 느낀다. 여기에서 AI가 가장 강력하고 유용하다"고 설명했다.

로렌트는 "AI와 규칙 기반 엔진 사이의 차이점은 규칙 기반 엔진이 누군가 규칙을 업데이트할 때까지 스스로 개선하는 것은 불가능하다는 점이다. AI는 더 많이 사용할수록 정확도가 개선된다. 더 많이 사용할수록 더 나아지는 것이다. 모델의 적응성 덕분에 AI가 작동한다"고 덧붙였다.

유리 프레이만도 강력하게 동의했다. "규칙은 기본적으로 과거로부터 생성된 것이다. AI는 미래를 예측할 수 있다."

필자는 유리에게 소비자가 개발업체가 진정한 AI를 사용하고 있는지 여부에 대해 솔직하게 이야기하는지 판단하는데 도움이 되는 질문이 무엇인지 물었다.

유리는 "제로데이(Zero Day) 공격 탐지 및 처리를 어떻게 하는지 질문할 것이다. 그들은 이력이 없다. 예상치 못한 것에 대해서는 규칙을 작성할 수 없다. 그들의 답변으로 그들의 제품이 규칙 기반인지 아니면, AI 기반인지 드러날 것이다"고 답했다.

AI 대 AI, 해킹과 보안의 미래
이후 유리와 로렌트가 한 이야기는 놀랍다 못해 오싹하기까지 했다. 유리는 "해킹, 그리고 보안의 미래는 머신과 머신의 싸움이다. 쥘 베른의 소설처럼 들리겠지만 공격자들은 AI를 활용해 우리를 공격하고 탐지 기능을 우회하고 있다. 이에 대항하려면 머신러닝(Machine Learning)과 AI가 필요할 것이다"고 말했다.

로렌트는 이에 덧붙였다. "봇(Bot)은 좋기도 하며 나쁘기도 하고 이미 AI를 활용해 인간처럼 활동하고 있다. 상황에 따라 행동을 바꾸어 보호 및 탐지를 우회하기 때문에 대항하려면 AI가 있어야 한다."

이런 말 때문에 놀라면서도 그들이 무슨 말을 하는지 모두 이해할 수 있었다. 그들이 옳았다. 앞으로는 머신 대 머신의 싸움이다. 아직 그 정도 수준에 도달하지 못했다면 머지않아 컴퓨터 세계의 선과 악 사이에서 그런 일이 벌어질 것이다.

머신 대 머신의 싸움에 대한 생각은 규칙 기반 세계에서도 오랫동안 회자되어왔다. 예를 들어, 보유한 파일의 해시(Hash)를 제출하면 수십 가지의 안티바이러스 소프트웨어 프로그램에서 악성으로 표시되어 있는지 여부를 확인할 수 있는 사이트인 바이러스토탈(VirusTotal)이 있다. 하나의 백신 프로그램으로는 무엇인가 놓칠 수 있지만 수십 개라면 그럴 일이 거의 없다.

그래서 필자는 바이러스토탈을 좋아한다. 하지만 안타깝게도 악성코드 작성자들도 마찬가지다. 그들은 오래 전부터 바이러스토탈에서 "정상"으로 스캔되는 악성코드 작성 프로세스를 자동화했다. 바이러스토탈에서 탐지되기 시작하면 악성코드가 스스로를 자동 업데이트해 탐지를 회피한다.

이것이 규칙 세계에서의 머신 대 머신 싸움이다. 같은 개념을 AI 기반 세계에 적용해 보자. 이미 이런 일이 벌어지고 있으며 곧 온라인 세상에서 악성코드와 악당들이 모두 그렇게 할 것이다.

필자는 스카이넷(Skynet)이 자기를 인식하고 여러 터미네이터가 인간을 몰살시키는 것에 대해서는 걱정하지 않는다. 하지만 우리는 온라인 세상에서 선과 악이 싸우는 새롭고 더욱 정교한 시대로 접어들고 있다. 이제 우리는 스스로를 보호하기 위해 개선되고 더 많은 AI가 필요할 것이다.

너무나 많은 업체가 규칙과 규칙 기반 엔진밖에 없으면서 AI가 있다고 주장하고 있다. AI가 등장하는 이유는 우리의 길을 가로막는 악성 AI에 대항하기 위해서다. 어떤 개발업체라도 정말 AI를 보유하고 있는지 솔직하게 이야기해야 한다. editor@itworld.co.kr
 

2018.03.27

글로벌 칼럼 | 보안 업체들이 말하는 AI가 정말 AI인가

Roger A. Grimes | CSO
새로운 기술은 새로운 유행어를 만든다. 클라우드, 패브릭(Fabric), 비트코인(Bitcoin), 블록체인(Blockchain), 컨테이너(Container), 마이크로서비스(Microservice) 등이 그렇다.

인공지능(Artificial Intelligence, AI)은 하나의 기술이자 용어로 수십 년 동안 사용됐지만 최근에야 유행하기 시작했다. 안타깝게도 일부 업체들은 실질적인 AI 없이 이 유행어에 자사의 제품을 연계시키고 있다. 아니면 좀 더 관대한 관점에서 보더라도 AI라고 할 수 있는 것의 한계를 늘리고 있다.

아마도 AI가 무엇인지 제대로 이해하지 못하거나 마케팅팀이 그렇게 하도록 꾀었을 것이다. 어쨌든 구매자는 AI가 있다고 주장하는 많은 제품에 AI가 없다는 사실을 인지해야 한다.

필자는 평상시보다 더 많은 개발업체들을 검토했으며 제품 설명에 AI라는 단어가 포함되어 있으면 제품이나 서비스를 더 많이 판매할 수 있다고 생각하는 사람이 많다. 필자가 AI를 어떻게 활용하고 있는지 질문했을 때는 말이 없어지거나 규칙 엔진(Rule Engine)에 더 가까운 설명을 하곤 한다.

아무런 근거없이 AI가 있다고 주장하는 개발업체들이 고객들을 혼란에 빠뜨리고 있다. 이 때문에 자사의 제품에 진정한 AI를 적용하기 위해 모든 노력을 기울인 모든 개발업체가 불만을 품고 있다. 이번 기사는 보안 제품의 소비자 또는 구매자라면 AI가 정말로 의미하는 바가 무엇인지 이해하는 데 도움을 주고자 한다.

AI와 규칙 기반 엔진의 차이점
이 주제는 최근 필자가 제너지(Zenedge) CEO인 유리 프레이만, 그리고 공동 설립자이자 최고제품경영자 로렌트 길을 인터뷰하면서 제기된 것이다. 필자는 인터뷰를 몇 주 정도 연기해야 했으며 우리는 만날 즈음에는 제너지가 오라클에 인수되었고 침묵 기간에 대한 인수 규칙 때문에 그들은 제너지 또는 자사의 제품에 대해 말할 수 없었다.

필자는 제너지가 진정한 AI가 있는 컴퓨터 보안 업체이기 때문에 실망했고 그들에게 솔직한 감정을 표현했다. 이런 솔직한 대화 덕분에 AI가 있다고 거짓말하는 기업에 대한 불만을 중심으로 30분간 정감 어린 대화가 오갔다.

필자는 로렌트와 유리에게 규칙 기반 엔진과 AI 사이에서 느껴지는 주된 차이점에 대해 질문했다. 왜냐하면 수백 개의 규칙이 있는 많은 개발업체들이 일종의 AI에 가까운 버전을 완성했다고 느끼기 때문이다.

이에 대해 로렌트는 "규칙 기반 엔진은 시그니처 기반 안티바이러스와 같다. 이미 결과를 예상하고 있다. 많은 연구원이 과거에 어떤 일이 있었는지 살펴보고 있으며 이에 기초해 그들은 알려진 악성코드(Malware)를 식별하는 일련의 IF-THEN 규칙을 작성한다. 규칙은 연구 그리고 파악된 해커 커뮤니티의 활동 수준으로 수립되기 마련이다. 해커는 미리 공유하지 않기 때문에 항상 뒤쳐지게 된다"고 대답했다.

로렌트는 "진정한 AI의 핵심은 미래다. AI는 '이것이 무엇인지 모르겠지만 유사한 것을 보았기 때문에 플래그(Flag) 처리해 두겠다' 또는 '본 적이 없는 것인데 비정상적이니 플래그 처리해 두겠다'고 이야기한다. 규칙 엔진과 AI의 주된 차이점은 초점 영역이다. 규칙은 과거의 데이터에 기초한 IF-THEN 결정이다. AI의 핵심은 단순히 새롭다는 이유로 변칙을 인식하는 것이다. 우리는 기계가 '모르겠다. 본 적이 없다'고 말할 때 흥미를 느낀다. 여기에서 AI가 가장 강력하고 유용하다"고 설명했다.

로렌트는 "AI와 규칙 기반 엔진 사이의 차이점은 규칙 기반 엔진이 누군가 규칙을 업데이트할 때까지 스스로 개선하는 것은 불가능하다는 점이다. AI는 더 많이 사용할수록 정확도가 개선된다. 더 많이 사용할수록 더 나아지는 것이다. 모델의 적응성 덕분에 AI가 작동한다"고 덧붙였다.

유리 프레이만도 강력하게 동의했다. "규칙은 기본적으로 과거로부터 생성된 것이다. AI는 미래를 예측할 수 있다."

필자는 유리에게 소비자가 개발업체가 진정한 AI를 사용하고 있는지 여부에 대해 솔직하게 이야기하는지 판단하는데 도움이 되는 질문이 무엇인지 물었다.

유리는 "제로데이(Zero Day) 공격 탐지 및 처리를 어떻게 하는지 질문할 것이다. 그들은 이력이 없다. 예상치 못한 것에 대해서는 규칙을 작성할 수 없다. 그들의 답변으로 그들의 제품이 규칙 기반인지 아니면, AI 기반인지 드러날 것이다"고 답했다.

AI 대 AI, 해킹과 보안의 미래
이후 유리와 로렌트가 한 이야기는 놀랍다 못해 오싹하기까지 했다. 유리는 "해킹, 그리고 보안의 미래는 머신과 머신의 싸움이다. 쥘 베른의 소설처럼 들리겠지만 공격자들은 AI를 활용해 우리를 공격하고 탐지 기능을 우회하고 있다. 이에 대항하려면 머신러닝(Machine Learning)과 AI가 필요할 것이다"고 말했다.

로렌트는 이에 덧붙였다. "봇(Bot)은 좋기도 하며 나쁘기도 하고 이미 AI를 활용해 인간처럼 활동하고 있다. 상황에 따라 행동을 바꾸어 보호 및 탐지를 우회하기 때문에 대항하려면 AI가 있어야 한다."

이런 말 때문에 놀라면서도 그들이 무슨 말을 하는지 모두 이해할 수 있었다. 그들이 옳았다. 앞으로는 머신 대 머신의 싸움이다. 아직 그 정도 수준에 도달하지 못했다면 머지않아 컴퓨터 세계의 선과 악 사이에서 그런 일이 벌어질 것이다.

머신 대 머신의 싸움에 대한 생각은 규칙 기반 세계에서도 오랫동안 회자되어왔다. 예를 들어, 보유한 파일의 해시(Hash)를 제출하면 수십 가지의 안티바이러스 소프트웨어 프로그램에서 악성으로 표시되어 있는지 여부를 확인할 수 있는 사이트인 바이러스토탈(VirusTotal)이 있다. 하나의 백신 프로그램으로는 무엇인가 놓칠 수 있지만 수십 개라면 그럴 일이 거의 없다.

그래서 필자는 바이러스토탈을 좋아한다. 하지만 안타깝게도 악성코드 작성자들도 마찬가지다. 그들은 오래 전부터 바이러스토탈에서 "정상"으로 스캔되는 악성코드 작성 프로세스를 자동화했다. 바이러스토탈에서 탐지되기 시작하면 악성코드가 스스로를 자동 업데이트해 탐지를 회피한다.

이것이 규칙 세계에서의 머신 대 머신 싸움이다. 같은 개념을 AI 기반 세계에 적용해 보자. 이미 이런 일이 벌어지고 있으며 곧 온라인 세상에서 악성코드와 악당들이 모두 그렇게 할 것이다.

필자는 스카이넷(Skynet)이 자기를 인식하고 여러 터미네이터가 인간을 몰살시키는 것에 대해서는 걱정하지 않는다. 하지만 우리는 온라인 세상에서 선과 악이 싸우는 새롭고 더욱 정교한 시대로 접어들고 있다. 이제 우리는 스스로를 보호하기 위해 개선되고 더 많은 AI가 필요할 것이다.

너무나 많은 업체가 규칙과 규칙 기반 엔진밖에 없으면서 AI가 있다고 주장하고 있다. AI가 등장하는 이유는 우리의 길을 가로막는 악성 AI에 대항하기 위해서다. 어떤 개발업체라도 정말 AI를 보유하고 있는지 솔직하게 이야기해야 한다. editor@itworld.co.kr
 

X