2018.11.05

AI를 활용한 사이버 위협, 보안의 다음 과제

Scot Finnie | CSO
정보보안과 IT 팀의 인공지능(Artificial Intelligence, AI)과 보안에 관한 회의는 뿌리깊다. 따지고 보면 AI의 등장에 대한 이야기는 1980년대부터 들어왔다. 대부분의 공급업체가 마케팅에 AI와 머신러닝(ML)이라는 용어를 집어넣고 있는데, 그 내용을 보면 예전과 달라진 부분은 거의 없다. 여전히 현재가 아닌 미래를 이야기한다.


Credit: Getty Images Bank 

그 안에 일말의 진실이 있을지도 모르겠다. 어쨌든 이 기사를 작성하는 과정에서 만난 대부분의 전문가는 한결같이 AI가 곧 정보 보안에 크나큰 영향을 미칠 것이라고 확신했다. 의견이 일치하지 않은 부분은 시점이다. AI로 무장한 사이버 범죄자가 아직 등장하지 않은 것이 의아하다고 생각하는 전문가도 있고, 3~5년 이후에나 일어날 일이라고 생각하는 전문가도 있다. AI가 보안의 다음 큰 과제라는 데는 한 명을 제외한 모든 전문가가 동의했다.

델파이 그룹(Delphi Group)의 회장이자 와사비 테크놀로지(Wasabi Technologies)의 고문인 톰 쿨로폴루스는 "3년 후면 행동 데이터와 온라인 상호작용 패턴의 조합을 사용해 개인을 정밀 타격하는 고도의 개인 맞춤형 공격을 자동화하는 AI가 사용되기 시작할 것"이라고 말했다.

지금의 피싱 이메일을 보고, 몇 년 후의 피싱 이메일은 어떤 양상일지 생각해 보라. 쿨로폴루스는 "아는 사람과의 실제 대화를 바탕으로 만들어진 피싱 공격을 상상해 보자"면서, "예를 들어 '어제 스타벅스에서 만나서 반가웠습니다! 지난 여름 크레타 섬 여행 이후 지중해 지역 여행에 더 관심이 생겼다고 하셨지요. 제가 우연히 발견한 흥미로운 제안이 있는데…'와 같은, AI로 강화된 피싱 공격 메시지가 등장할 수 있다"고 설명했다.

이 메시지가 무섭다고 느껴지는가, 쿨로폴루스는 "AI가 우리 행동의 디지털 패턴, 그리고 급격하게 증가하는 사물인터넷(IoT)에 연결된 디바이스와 앱을 사용해 생성되는 상호작용 데이터에서 끌어낼 수 있는 위협 측면에서 이 정도는 빙산의 일각에 불과하다"고 경고했다.

공격 자동화와 탐지 회피로 무장 
아비드 시큐어(AVID Secure)의 공동 창업자이며 야후, 아틀라시안과 같은 기업에서 정보보안 임원을 지내기도 한 가네시 크리슈난은 다른 예로 "더 지능적인 공격은 주변 환경을 학습하고 횡적으로 이동하는 방법을 찾고 탐지를 회피하고 정상적인 동작과 구분하기 어려운 방식으로 데이터를 빼내는 악성코드를 통한 공격"이라고 말했다. 이런 악성코드는 탐지 및 모니터링 툴을 무력화한다.

제약 업체 아메리소스버겐의 최고 데이터 보호 책임자인 우메시 예램은 이런 의견에 동의하며 "AI 기술이 폭넓게 확산되면 사이버 범죄자들은 기존의 보안 탐지 및 모니터링 툴을 대부분 회피할 수 있는 새로운 정밀 공격을 대거 개시할 수 있게 될 것"이라고 말했다.

규모의 문제도 있다. 현재 발생하는 복잡한 보안 침해 사건을 보면 일반적으로 자동화된 공격이 아니며, 침해 및 데이터 유출을 위해 공격자 측에서 많은 노력과 정교한 기술이 필요하다. 그러나 사람은 밥도 먹고 잠도 자야 한다. 24시간 일을 할 수는 없다.

도모(Domo)의 CISO이자 신뢰 및 보안 담당 수석 부사장인 나이얼 브라운은 "AI 시대의 지능적인 기계 대 기계 공격은 24x7x365 운영이 가능하다"면서, "사이버 범죄자가 사용하는 AI 시스템은 데이터 침해를 위한 최선의 방법을 찾기 위해 초당 수백만 번의 직관적인 의사 결정을 내리게 된다"고 말했다. 브라운은 미래의 불법 AI 시스템이 "한 기업이 아니라 수백, 수천 개 조직을 동시에 공격할 수 있음을 알아야 한다"고 덧붙였다.

인터뷰한 전문가 대부분은 AI의 영향력이 강해지더라도 공격 목표가 바뀔 것으로 생각하지는 않는다. 그러나 브라운은 사이버 공격의 초점이 "단순히 데이터를 훔치고 시스템 가동을 멈추게 하는 데서 정보 조작을 포함한 더 복잡한 목표로 이동할 것"으로 내다봤다. 즉, 시스템이나 사람, 기업이 보는 데이터를 조작해서 특정 방법으로 이들의 행동을 유도한다는 것이다. 브라운은 "주가를 조작하고 통화의 등락을 유발하고 원자로 시험 결과를 변조하거나 선거 결과에 영향을 미치는 데 사용될 수 있다"고 말했다.

라드웨어(Radware)의 EMEA 보안 전문가인 파스칼 지넨스는 "3년 이후에는 더 조직화된, 또는 국가규모의 사이버 범죄 조직이 AI를 사용해 새로운 공격 벡터를 조합하고 만들게 될 것"이라고 말했다. 지넨스는 AI 분야 전체가 이용될 것이라면서 "이전에는 머신러닝이 공격 자동화를 위해 주로 사용됐지만 앞으로는 유전자 알고리즘, 강화 학습과 같은 AI 시스템을 사용해 새로운 공격 벡터를 생성하고 클라우드, IoT, 산업용 IoT/SCADA 등 모든 종류의 시스템에 체계적으로 침투하게 될 것이다. 사이버 범죄자가 AI와 자동화를 함께 사용하게 되면 우리는 스스로 해킹과 크랙을 하고 지속적으로 개선되는, 규모와 내구성에 아무런 제약이 없는 완전히 자동화된 위협 생태계와 직면하게 된다"고 말했다. 즉, 지속적으로 진화하는 공격 시스템이 등장한다는 의미다.

지넨스는 사이버 범죄자들의 역할이 실제 공격 감행에서 앞으로는 자동화된 AI 해킹 시스템의 유지 관리자 또는 개발자로 바뀔 것으로 내다봤다. 기계가 해킹을 하고, 사람은 그 기계의 효율성을 개선하는 역할이다.

AI 위협에 대한 CSO와 CISO를 위한 조언
보안 전문가들은 정보보안 팀이 불로 불에 맞서야 한다고 생각한다. 이는 AI 기반의 공격을 방어하는 데 있어 마찬가지로 AI가 중요한 역할을 하게 된다는 것을 의미한다. 그러나 AI를 이와 같은 방법으로 사용하는 사례는 극히 드물다. 또한 일부 기업은 이와 관련된 내용을 외부로 밝히기를 극히 꺼린다. 쿨로폴루스는 "이들에게 사례 연구를 위한 대화를 요청하는 것은 교황청에 성배가 있는 곳을 알려 달라고 묻는 것과 같다"고 말했다.

보안 리더는 이런 상황을 대비하려면 무엇을 해야 할까. 아메리소스버겐의 예램은 "CSO와 CISO는 AI 기반 기술을 신속히 도입해야 한다. AI 기반의 위협이 현실화되는 시점은 멀지 않았다. CSO와 CISO가 기업을 보호하기 위해 AI 기반의 보안 컨트롤 발전을 이끌어야 하는 시기는 바로 지금이다"고 말했다.

지넨스는 "갈수록 복잡해지고 끊임없이 환경에 적응하는 위협을 탐지하는 과정을 자동화하는 것이 핵심이다. 멈추게 하려면 일단 탐지를 해야 한다"고 말했다. 2년 이내에 AI로 강화된 위협이 부상할 것으로 예상되는 만큼 초기의 초점은 AI를 사용해 AI 기반 위협을 탐지하는 데 맞춰야 한다. 이런 시스템을 구매 또는 개발하는 것을 최우선 순위로 둬야 한다.

조만간 기업은 AI 기반 위협에 대응하기 위해 AI 기술에 투자할 수밖에 없다. AI를 사용하는 것은 블랙박스 스위치를 켜는 것과는 다르므로 모든 상황이 명확해질 때까지 기다리지 말고 먼저 시작하는 것이 좋다. AI를 연구하고 노하우를 얻기 위해서는 시간과 비용이 들기 때문이다. 예램은 사이버 보안 전문가는 기술을 강화하고 AI를 공부해야 한다고 강조했다.

지넨스는 "자동화된 AI 기반 공격에 취약하고 주 목표물이 될 가능성이 높은 유형의 환경은 현재 디지털 변환을 진행 중인 환경"이라고 지적했다.

전 세계 기업에서 AI는 사이버보안 전문가의 부족과 사이버보안 기술의 공백, 두 가지 문제에 대처하는데 중대한 역할을 하게 된다. AI 기반 기술과 로봇 프로세스 자동화 기술을 통해 저수준 보안 위협(랜섬웨어, 악성코드, 크립토 마이닝 등)에 대처하는 정보 보안 팀 역량이 강화되면 사이버보안 전문가가 새로운 형태의 정밀 위협에 집중할 수 있다.

소스코드 취약점을 주시하되 계약 중인 클라우드 공급업체도 똑같이 소스코드 취약점을 잘 살피도록 해야 한다. 지넨스는 딥 러닝(머신러닝의 하위 집합)을 사용한 새로운 코드 취약점 식별과 관련해, "오픈소스 소프트웨어를 실행하는 클라우드 플랫폼이 취약점 스캐닝의 주 목표물이 되겠지만 클로즈드 소스 소프트웨어 역시 자동화된 공격에 취약하기는 마찬가지"라고 말했다.

쿨로폴루스는 "인간을 위한 범용 정체성 메커니즘을 만들어야 한다. AI의 부상에서 가장 큰 위험 요소 가운데 하나는 AI와 인간을 구분하지 못하는 것이다. 확실한 정체성 확인 수단이 없으면 AI 기반 사이버 범죄에 대한 취약점을 피할 수 없다"고 말했다.

AI 보안을 바라보는 관점의 차이
확실한 진실은 누구도 미래를 예측할 수 없다는 것이다. AI 기반 위협에 대한 극명하게 대조되는 반응은 다음의 두 가지 관점을 통해 잘 볼 수 있다.

IDC 전 세계 보안 제품 연구 책임자인 크리스 키셀은 "방어하는 쪽에는 더 많은 직원, 더 우수한 컴퓨팅 성능, 네트워킹과 하드웨어에 대한 더 탄탄한 이해, 그리고 콘텐츠 전송 네트워크 및 클라우드 호스트와의 관계를 갖고 있다. 그러나 이 '스파이 대 스파이' 게임은 영원히 바뀌지 않는다. 교전의 수단이 바뀔 뿐이다"고 설명했다.

나이얼 브라운은 "지금은 인간 상호작용의 많은 부분이 기술에 의존한다. AI의 지능은 인간에 비해 기하급수적으로 높아진다. AI에는 수면이 필요없으며, 선천적으로 자기 보호에 철저하다. 무엇보다 무서운 점은 윤리가 없다는 것이다. AI는 윤리 기준 없이 엄청난 능력을 갖게 된다. 사람이 개발한 기술을 사람을 공격하는 데 사용해 현대인의 일상을 붕괴시킬 수 있다"고 말했다.

결국 요점은 지금까지 읽은 모든 예측을 믿는지 여부보다 더 중요한 것은, 바로 전반적인 정서를 잘 살펴보는 것이다. 이런 다양한 관점의 전체적인 취지를 한 마디로 요약하면 "지금은 심각한 상황"이다. 무시하거나 덮어두면 안 된다. editor@itworld.co.kr  

2018.11.05

AI를 활용한 사이버 위협, 보안의 다음 과제

Scot Finnie | CSO
정보보안과 IT 팀의 인공지능(Artificial Intelligence, AI)과 보안에 관한 회의는 뿌리깊다. 따지고 보면 AI의 등장에 대한 이야기는 1980년대부터 들어왔다. 대부분의 공급업체가 마케팅에 AI와 머신러닝(ML)이라는 용어를 집어넣고 있는데, 그 내용을 보면 예전과 달라진 부분은 거의 없다. 여전히 현재가 아닌 미래를 이야기한다.


Credit: Getty Images Bank 

그 안에 일말의 진실이 있을지도 모르겠다. 어쨌든 이 기사를 작성하는 과정에서 만난 대부분의 전문가는 한결같이 AI가 곧 정보 보안에 크나큰 영향을 미칠 것이라고 확신했다. 의견이 일치하지 않은 부분은 시점이다. AI로 무장한 사이버 범죄자가 아직 등장하지 않은 것이 의아하다고 생각하는 전문가도 있고, 3~5년 이후에나 일어날 일이라고 생각하는 전문가도 있다. AI가 보안의 다음 큰 과제라는 데는 한 명을 제외한 모든 전문가가 동의했다.

델파이 그룹(Delphi Group)의 회장이자 와사비 테크놀로지(Wasabi Technologies)의 고문인 톰 쿨로폴루스는 "3년 후면 행동 데이터와 온라인 상호작용 패턴의 조합을 사용해 개인을 정밀 타격하는 고도의 개인 맞춤형 공격을 자동화하는 AI가 사용되기 시작할 것"이라고 말했다.

지금의 피싱 이메일을 보고, 몇 년 후의 피싱 이메일은 어떤 양상일지 생각해 보라. 쿨로폴루스는 "아는 사람과의 실제 대화를 바탕으로 만들어진 피싱 공격을 상상해 보자"면서, "예를 들어 '어제 스타벅스에서 만나서 반가웠습니다! 지난 여름 크레타 섬 여행 이후 지중해 지역 여행에 더 관심이 생겼다고 하셨지요. 제가 우연히 발견한 흥미로운 제안이 있는데…'와 같은, AI로 강화된 피싱 공격 메시지가 등장할 수 있다"고 설명했다.

이 메시지가 무섭다고 느껴지는가, 쿨로폴루스는 "AI가 우리 행동의 디지털 패턴, 그리고 급격하게 증가하는 사물인터넷(IoT)에 연결된 디바이스와 앱을 사용해 생성되는 상호작용 데이터에서 끌어낼 수 있는 위협 측면에서 이 정도는 빙산의 일각에 불과하다"고 경고했다.

공격 자동화와 탐지 회피로 무장 
아비드 시큐어(AVID Secure)의 공동 창업자이며 야후, 아틀라시안과 같은 기업에서 정보보안 임원을 지내기도 한 가네시 크리슈난은 다른 예로 "더 지능적인 공격은 주변 환경을 학습하고 횡적으로 이동하는 방법을 찾고 탐지를 회피하고 정상적인 동작과 구분하기 어려운 방식으로 데이터를 빼내는 악성코드를 통한 공격"이라고 말했다. 이런 악성코드는 탐지 및 모니터링 툴을 무력화한다.

제약 업체 아메리소스버겐의 최고 데이터 보호 책임자인 우메시 예램은 이런 의견에 동의하며 "AI 기술이 폭넓게 확산되면 사이버 범죄자들은 기존의 보안 탐지 및 모니터링 툴을 대부분 회피할 수 있는 새로운 정밀 공격을 대거 개시할 수 있게 될 것"이라고 말했다.

규모의 문제도 있다. 현재 발생하는 복잡한 보안 침해 사건을 보면 일반적으로 자동화된 공격이 아니며, 침해 및 데이터 유출을 위해 공격자 측에서 많은 노력과 정교한 기술이 필요하다. 그러나 사람은 밥도 먹고 잠도 자야 한다. 24시간 일을 할 수는 없다.

도모(Domo)의 CISO이자 신뢰 및 보안 담당 수석 부사장인 나이얼 브라운은 "AI 시대의 지능적인 기계 대 기계 공격은 24x7x365 운영이 가능하다"면서, "사이버 범죄자가 사용하는 AI 시스템은 데이터 침해를 위한 최선의 방법을 찾기 위해 초당 수백만 번의 직관적인 의사 결정을 내리게 된다"고 말했다. 브라운은 미래의 불법 AI 시스템이 "한 기업이 아니라 수백, 수천 개 조직을 동시에 공격할 수 있음을 알아야 한다"고 덧붙였다.

인터뷰한 전문가 대부분은 AI의 영향력이 강해지더라도 공격 목표가 바뀔 것으로 생각하지는 않는다. 그러나 브라운은 사이버 공격의 초점이 "단순히 데이터를 훔치고 시스템 가동을 멈추게 하는 데서 정보 조작을 포함한 더 복잡한 목표로 이동할 것"으로 내다봤다. 즉, 시스템이나 사람, 기업이 보는 데이터를 조작해서 특정 방법으로 이들의 행동을 유도한다는 것이다. 브라운은 "주가를 조작하고 통화의 등락을 유발하고 원자로 시험 결과를 변조하거나 선거 결과에 영향을 미치는 데 사용될 수 있다"고 말했다.

라드웨어(Radware)의 EMEA 보안 전문가인 파스칼 지넨스는 "3년 이후에는 더 조직화된, 또는 국가규모의 사이버 범죄 조직이 AI를 사용해 새로운 공격 벡터를 조합하고 만들게 될 것"이라고 말했다. 지넨스는 AI 분야 전체가 이용될 것이라면서 "이전에는 머신러닝이 공격 자동화를 위해 주로 사용됐지만 앞으로는 유전자 알고리즘, 강화 학습과 같은 AI 시스템을 사용해 새로운 공격 벡터를 생성하고 클라우드, IoT, 산업용 IoT/SCADA 등 모든 종류의 시스템에 체계적으로 침투하게 될 것이다. 사이버 범죄자가 AI와 자동화를 함께 사용하게 되면 우리는 스스로 해킹과 크랙을 하고 지속적으로 개선되는, 규모와 내구성에 아무런 제약이 없는 완전히 자동화된 위협 생태계와 직면하게 된다"고 말했다. 즉, 지속적으로 진화하는 공격 시스템이 등장한다는 의미다.

지넨스는 사이버 범죄자들의 역할이 실제 공격 감행에서 앞으로는 자동화된 AI 해킹 시스템의 유지 관리자 또는 개발자로 바뀔 것으로 내다봤다. 기계가 해킹을 하고, 사람은 그 기계의 효율성을 개선하는 역할이다.

AI 위협에 대한 CSO와 CISO를 위한 조언
보안 전문가들은 정보보안 팀이 불로 불에 맞서야 한다고 생각한다. 이는 AI 기반의 공격을 방어하는 데 있어 마찬가지로 AI가 중요한 역할을 하게 된다는 것을 의미한다. 그러나 AI를 이와 같은 방법으로 사용하는 사례는 극히 드물다. 또한 일부 기업은 이와 관련된 내용을 외부로 밝히기를 극히 꺼린다. 쿨로폴루스는 "이들에게 사례 연구를 위한 대화를 요청하는 것은 교황청에 성배가 있는 곳을 알려 달라고 묻는 것과 같다"고 말했다.

보안 리더는 이런 상황을 대비하려면 무엇을 해야 할까. 아메리소스버겐의 예램은 "CSO와 CISO는 AI 기반 기술을 신속히 도입해야 한다. AI 기반의 위협이 현실화되는 시점은 멀지 않았다. CSO와 CISO가 기업을 보호하기 위해 AI 기반의 보안 컨트롤 발전을 이끌어야 하는 시기는 바로 지금이다"고 말했다.

지넨스는 "갈수록 복잡해지고 끊임없이 환경에 적응하는 위협을 탐지하는 과정을 자동화하는 것이 핵심이다. 멈추게 하려면 일단 탐지를 해야 한다"고 말했다. 2년 이내에 AI로 강화된 위협이 부상할 것으로 예상되는 만큼 초기의 초점은 AI를 사용해 AI 기반 위협을 탐지하는 데 맞춰야 한다. 이런 시스템을 구매 또는 개발하는 것을 최우선 순위로 둬야 한다.

조만간 기업은 AI 기반 위협에 대응하기 위해 AI 기술에 투자할 수밖에 없다. AI를 사용하는 것은 블랙박스 스위치를 켜는 것과는 다르므로 모든 상황이 명확해질 때까지 기다리지 말고 먼저 시작하는 것이 좋다. AI를 연구하고 노하우를 얻기 위해서는 시간과 비용이 들기 때문이다. 예램은 사이버 보안 전문가는 기술을 강화하고 AI를 공부해야 한다고 강조했다.

지넨스는 "자동화된 AI 기반 공격에 취약하고 주 목표물이 될 가능성이 높은 유형의 환경은 현재 디지털 변환을 진행 중인 환경"이라고 지적했다.

전 세계 기업에서 AI는 사이버보안 전문가의 부족과 사이버보안 기술의 공백, 두 가지 문제에 대처하는데 중대한 역할을 하게 된다. AI 기반 기술과 로봇 프로세스 자동화 기술을 통해 저수준 보안 위협(랜섬웨어, 악성코드, 크립토 마이닝 등)에 대처하는 정보 보안 팀 역량이 강화되면 사이버보안 전문가가 새로운 형태의 정밀 위협에 집중할 수 있다.

소스코드 취약점을 주시하되 계약 중인 클라우드 공급업체도 똑같이 소스코드 취약점을 잘 살피도록 해야 한다. 지넨스는 딥 러닝(머신러닝의 하위 집합)을 사용한 새로운 코드 취약점 식별과 관련해, "오픈소스 소프트웨어를 실행하는 클라우드 플랫폼이 취약점 스캐닝의 주 목표물이 되겠지만 클로즈드 소스 소프트웨어 역시 자동화된 공격에 취약하기는 마찬가지"라고 말했다.

쿨로폴루스는 "인간을 위한 범용 정체성 메커니즘을 만들어야 한다. AI의 부상에서 가장 큰 위험 요소 가운데 하나는 AI와 인간을 구분하지 못하는 것이다. 확실한 정체성 확인 수단이 없으면 AI 기반 사이버 범죄에 대한 취약점을 피할 수 없다"고 말했다.

AI 보안을 바라보는 관점의 차이
확실한 진실은 누구도 미래를 예측할 수 없다는 것이다. AI 기반 위협에 대한 극명하게 대조되는 반응은 다음의 두 가지 관점을 통해 잘 볼 수 있다.

IDC 전 세계 보안 제품 연구 책임자인 크리스 키셀은 "방어하는 쪽에는 더 많은 직원, 더 우수한 컴퓨팅 성능, 네트워킹과 하드웨어에 대한 더 탄탄한 이해, 그리고 콘텐츠 전송 네트워크 및 클라우드 호스트와의 관계를 갖고 있다. 그러나 이 '스파이 대 스파이' 게임은 영원히 바뀌지 않는다. 교전의 수단이 바뀔 뿐이다"고 설명했다.

나이얼 브라운은 "지금은 인간 상호작용의 많은 부분이 기술에 의존한다. AI의 지능은 인간에 비해 기하급수적으로 높아진다. AI에는 수면이 필요없으며, 선천적으로 자기 보호에 철저하다. 무엇보다 무서운 점은 윤리가 없다는 것이다. AI는 윤리 기준 없이 엄청난 능력을 갖게 된다. 사람이 개발한 기술을 사람을 공격하는 데 사용해 현대인의 일상을 붕괴시킬 수 있다"고 말했다.

결국 요점은 지금까지 읽은 모든 예측을 믿는지 여부보다 더 중요한 것은, 바로 전반적인 정서를 잘 살펴보는 것이다. 이런 다양한 관점의 전체적인 취지를 한 마디로 요약하면 "지금은 심각한 상황"이다. 무시하거나 덮어두면 안 된다. editor@itworld.co.kr  

X