2018.08.13

AI와 안면 인식 기술, 해킹의 무기가 되다…소셜 매퍼와 딥로커 등장

Ms. Smith | CSO
수많은 소셜 네트워크에 표적을 검색하는 안면 인식도구인 소셜 매퍼(Social Mapper)와 대단히 고도로 표적화된 AI 기반 악성코드인 딥로커(DeepLocker)가 등장했다.

오픈소스 소셜 매퍼, 안면 인식 도구
오픈소스 인텔리전스 수집도구인 소셜 매퍼는 안면 인식 기술을 사용해 8개의 소셜 미디어 사이트에서 자동으로 대상을 검색한다. 검색하는 사이트는 페이스북, 트위터, 링크드인, 인스타그램, 구글+, 러시아 소셜 네트워킹 서비스 브콘탁테(VKontakte), 중국 소셜 네트워킹 사이트 웨이보(Weibo), 두오반(Douban) 등이다.

소셜 매퍼는 소셜엔지니어링 공격으로 침투 테스터나 레드 팀원을 돕기 위해
트러스트웨이브(Trustwave)의 제이콥 윌킨스가 개발했는데, 윌킨스는 "소셜미디어 사이트에서 이름과 그림을 수동으로 검색하는 것을 대신해 수백 또는 수천 명의 사람들을 대량으로 스캔할 수 있다"고 주장했다.

소셜 매퍼에는 3단계가 있다. 두번째 단계는 자동으로 대상의 온라인 소셜미디어 사이트를 검색한다. 윌킨스는 "1,000명을 대상으로 한 검색은 하룻밤 사이에 실행되는데, 15시간 이상 걸릴 수 있으며, 더 많은 대역폭을 사용할 수 있다"고 말했다.

검색 후에는 대상의 프로필 페이지에 대한 링크가 있는 스프레드 시트나 사진이 포함된 HTML 보고서와 같은 것이 나온다.

거기에는 자신의 공격은 자신의 상상력에 의해서만 제한된다. 그러나 윌킨스는
친구 표적에게 가짜 소셜미디어 프로필을 작성하거나 피싱, 비싱(vishing), 스미싱(smishing)으로 피벗하기 위해 바우처로 전화번호, 이메일 주소를 공개하도록 속임수를 쓰는 등의 몇 가지 방법을 제시했다. 소셜 매퍼는 깃허브에서 구할 수 있다.

AI 기반 딥로커 악성코드 공격
평상시 악성코드가 충분히 공격적이지 않다고 생각된다면, 무기화된 AI에 대해 생각하고 고도로 표적화된 공격을 위해 AI가 제공하는 새로운 공격도구인 딥로커를 접해보자.

AI는 악성코드를 자동으로 탐지하고 싸우는 데에도 사용되지만, IBM 연구소는 이를 뒤집어 버리는 게임 체인저 역할을 하는 악의적인 의도가 숨어있는 특정 유형의 악성코드를 발견했다. 이 연구소는 "딥로커가 AI 모델이 안면 인식, 지도 및 음성 인식과 같은 지표를 통해 목표를 식별함과 동시에 악의적인 행동을 진행한다"고 설명했다.

- 전통적인 악성코드의 스프레이 앤 프레이(spray-and-pray) 접근 방식과 달리, 저격 공격과 유사하게 생각할 수 있다. 딥로커는 아주 은밀히 설계되어 탐지망 아래로 날아들어 특정 표적을 인식하는 순간까지 탐지를 회피한다. 이 AI 기반의 악성코드는 국가 주도의 악성코드와 마찬가지로 탐지되지 않고, 수백 만 개의 시스템을 감염시킬 수 있기 때문에 특히 위험하다. 그러나 국가주도의 악성코드와 달리 민간 및 상업 영역에서 실현 가능하다.

딥로커의 기능을 보여주기 위해 이 연구원은 화상화의 앱에서 워너크라이(WannaCry) 랜섬웨어로 위장했다. 딥로커는 보안 도구를 탐지되지 않고 목표물의 얼굴을 인식할 때까지 랜섬웨어를 잠금해제 또는 실행하지 않았다.

이 연구원은 "이 화상회의 애플리케이션이 수백만 명의 사람들에 의해 배포되고 다운로드됐다고 가정해보자. 요즘 많은 퍼블릭 플랫폼에서 그럴 듯한 시나리오다. 한번 시작되면 애플리케이션은 카메라 스냅샷을 내장된 AI 모델에 무의식적으로 제공하지만, 그렇지 않은 경우, 의도한 대상을 제외한 모든 사용자에게 정상적으로 작동한다. 피해자가 컴퓨터 앞에 앉아 애플리케이션을 사용하면 카메라가 해당 얼굴을 애플리케이션에 넘겨주고 피해자 얼굴을 통해 악성 페이로드가 비밀리에 실행된다"고 설명했다.

이 연구원은 AI 기반 공격에 대비해야 한다고 말하면서 블랙햇 USA에서 PoC를 실제 구현할 계획이다. editor@itworld.co.kr  


2018.08.13

AI와 안면 인식 기술, 해킹의 무기가 되다…소셜 매퍼와 딥로커 등장

Ms. Smith | CSO
수많은 소셜 네트워크에 표적을 검색하는 안면 인식도구인 소셜 매퍼(Social Mapper)와 대단히 고도로 표적화된 AI 기반 악성코드인 딥로커(DeepLocker)가 등장했다.

오픈소스 소셜 매퍼, 안면 인식 도구
오픈소스 인텔리전스 수집도구인 소셜 매퍼는 안면 인식 기술을 사용해 8개의 소셜 미디어 사이트에서 자동으로 대상을 검색한다. 검색하는 사이트는 페이스북, 트위터, 링크드인, 인스타그램, 구글+, 러시아 소셜 네트워킹 서비스 브콘탁테(VKontakte), 중국 소셜 네트워킹 사이트 웨이보(Weibo), 두오반(Douban) 등이다.

소셜 매퍼는 소셜엔지니어링 공격으로 침투 테스터나 레드 팀원을 돕기 위해
트러스트웨이브(Trustwave)의 제이콥 윌킨스가 개발했는데, 윌킨스는 "소셜미디어 사이트에서 이름과 그림을 수동으로 검색하는 것을 대신해 수백 또는 수천 명의 사람들을 대량으로 스캔할 수 있다"고 주장했다.

소셜 매퍼에는 3단계가 있다. 두번째 단계는 자동으로 대상의 온라인 소셜미디어 사이트를 검색한다. 윌킨스는 "1,000명을 대상으로 한 검색은 하룻밤 사이에 실행되는데, 15시간 이상 걸릴 수 있으며, 더 많은 대역폭을 사용할 수 있다"고 말했다.

검색 후에는 대상의 프로필 페이지에 대한 링크가 있는 스프레드 시트나 사진이 포함된 HTML 보고서와 같은 것이 나온다.

거기에는 자신의 공격은 자신의 상상력에 의해서만 제한된다. 그러나 윌킨스는
친구 표적에게 가짜 소셜미디어 프로필을 작성하거나 피싱, 비싱(vishing), 스미싱(smishing)으로 피벗하기 위해 바우처로 전화번호, 이메일 주소를 공개하도록 속임수를 쓰는 등의 몇 가지 방법을 제시했다. 소셜 매퍼는 깃허브에서 구할 수 있다.

AI 기반 딥로커 악성코드 공격
평상시 악성코드가 충분히 공격적이지 않다고 생각된다면, 무기화된 AI에 대해 생각하고 고도로 표적화된 공격을 위해 AI가 제공하는 새로운 공격도구인 딥로커를 접해보자.

AI는 악성코드를 자동으로 탐지하고 싸우는 데에도 사용되지만, IBM 연구소는 이를 뒤집어 버리는 게임 체인저 역할을 하는 악의적인 의도가 숨어있는 특정 유형의 악성코드를 발견했다. 이 연구소는 "딥로커가 AI 모델이 안면 인식, 지도 및 음성 인식과 같은 지표를 통해 목표를 식별함과 동시에 악의적인 행동을 진행한다"고 설명했다.

- 전통적인 악성코드의 스프레이 앤 프레이(spray-and-pray) 접근 방식과 달리, 저격 공격과 유사하게 생각할 수 있다. 딥로커는 아주 은밀히 설계되어 탐지망 아래로 날아들어 특정 표적을 인식하는 순간까지 탐지를 회피한다. 이 AI 기반의 악성코드는 국가 주도의 악성코드와 마찬가지로 탐지되지 않고, 수백 만 개의 시스템을 감염시킬 수 있기 때문에 특히 위험하다. 그러나 국가주도의 악성코드와 달리 민간 및 상업 영역에서 실현 가능하다.

딥로커의 기능을 보여주기 위해 이 연구원은 화상화의 앱에서 워너크라이(WannaCry) 랜섬웨어로 위장했다. 딥로커는 보안 도구를 탐지되지 않고 목표물의 얼굴을 인식할 때까지 랜섬웨어를 잠금해제 또는 실행하지 않았다.

이 연구원은 "이 화상회의 애플리케이션이 수백만 명의 사람들에 의해 배포되고 다운로드됐다고 가정해보자. 요즘 많은 퍼블릭 플랫폼에서 그럴 듯한 시나리오다. 한번 시작되면 애플리케이션은 카메라 스냅샷을 내장된 AI 모델에 무의식적으로 제공하지만, 그렇지 않은 경우, 의도한 대상을 제외한 모든 사용자에게 정상적으로 작동한다. 피해자가 컴퓨터 앞에 앉아 애플리케이션을 사용하면 카메라가 해당 얼굴을 애플리케이션에 넘겨주고 피해자 얼굴을 통해 악성 페이로드가 비밀리에 실행된다"고 설명했다.

이 연구원은 AI 기반 공격에 대비해야 한다고 말하면서 블랙햇 USA에서 PoC를 실제 구현할 계획이다. editor@itworld.co.kr  


X