2018.07.23

“짝퉁과의 전쟁” AI가 무기이자 구세주

Mike Elgan | Computerworld
군비 경쟁이 시작됐다. 짝퉁업자는 그럴싸한 모조품을 만들기 위해 AI를 사용할 것이다. 똑똑한 기업은 역공에 AI를 사용할 것이다.

5,000억 달러.

지난 해 가짜 상품 판매로 모조품 업자들이 벌어들인 대략적인 수익이다. 모든 무역 거래의 약 2.5%가 가짜 상품이다. 미국은 모조품의 해악을 가장 크게 입었는데, 2013년 전세계 지적재산권 침해 중 20%가 미국 브랜드였다.

대부분 사람은 모조품이라고 하면 길가에서 파는 복제 루이뷔통 핸드백을 생각한다. 하지만 가짜 제품에는 일상적인 소비재뿐만 아니라 기업용 제품도 포함된다.

그리고 모조품은 사람을 죽일 수도 있다. 가짜 의약품과 가짜 술은 매년 수천 명을 죽인다. 세계보건기구는 중간 소득 이하 국가에서 판매되는 모든 의약품의 10%가 가짜이거나 기준 이하의 제품일 것으로 추정한다.

그리고 문제는 점점 더 커질 것이다. 국제상표권협회와 국제상공회의소는 2022년이면 모조품이 대체하는 가치가 2조 3,000억 달러에 이를 것이라고 말한다.

Entrupy

멋지게 발전하는 짝퉁 기술
모조품의 가장 크고 위험한 동향은 더 나은 가짜를 만드는 데 인공 지능을 적용한다는 것이다. 가짜 상품뿐 아니라 위조지폐, 가짜 콘텐츠, 가짜 광고, 가짜 웹사이트, 가짜 뉴스 등등.

AI 기반 사기의 가장 대표적인 예는 비디오에 있다. 딥페이크(DeepFake), 즉 누군가의 얼굴을 다른 사람의 몸에 감쪽같이 붙여넣은 비디오는 딥러닝을 사용하고 신경망과 대규모 데이터 세트를 시뮬레이션해 그럴듯한 가짜 비디오를 만든다. 지난 1월 페이크앱(FakeApp)이란 앱이 출시되었는데, 이 앱은 누구라도 쉽게 얼굴을 바꾼 동영상을 만들 수 있도록 해준다.

비슷한 기술이 사치품을 만드는 데 점점 더 많이 적용될 것이다. 간단하게 말하면, 짝퉁업자는 정식 제품의 특성을 AI 시스템에 공급하고, AI 시스템은 좀 더 그럴 듯한 결과물이 나오도록 재표를 선택하고 제조 공정을 지도한다.

구원투수로 등판하는 AI
모조품이 점점 더 그럴싸해지면, 언젠가는 일종의 특이점에 도달하게 된다. 즉 아무리 전문가라도 사람은 진짜와 가짜의 차이를 구별하기 어려운 수준에 이를 것이다. 이미 여러 업체가 기업과 브랜드에 정교한 해법을 제공하고 있다.

엔트러피(Entrupy), 레드 포인트(Red Points), 사이핌(Cypheme) 등은 모조품의 저비용 다량 판별 작업이 전문이다. 이들 업체는 재료와 색상, 포장, 기타 특성을 분석해 가짜를 찾아내는 기술을 제공한다.

IBM 리서치는 CAV(Crypto Anchor Verifier)라는 AI 기반 모조품 탐지 프로그램을 개발했는데, 블록체인을 사용하고 스마트폰에서 동작한다. 사용법도 간단한데, 어떤 제품의 사진을 찍으면, 앱이 블록체인 원장의 데이터베이스에 대해 이미지 비교를 실행해 진품 여부를 판별한다. 데이터베이스에는 진품 업체가 제공하는 진품 사진이 가득 들어 있을 것이다.

이 프로그램은 모든 객체, 즉 모든 상품은 특유의 광학 패턴이 있어서 AI가 알아볼 수 있다는 아이디어를 기반으로 한다. 이들 패턴은 텍스처나 색상, 재료의 패턴 등에서 나타난다. IBM은 이 기술을 다이아몬드부터 현금, 와인, 의약품까지 모든 것에 사용할 수 있다고 밝혔다.

사실 모조품은 어디에나 있다. 심지어 아마존 같은 신뢰할 만한 곳에서도 엄청난 양의 모조품이 판매되고 있다. 온라인 상거래의 전반적인 모델도 모조품 판매에 일조하고 있다. 제품 페이지와 상세정보는 공개되어 있어 복제하기 쉬우며, 거래 규모 때문에 모든 제품을 확인하는 것은 거의 불가능하다.

주요 브랜드와 공조해 가짜 제품을 색출하는 활동을 하는 TCR(The Counterfeit Report)은 2016년 5월부터 아마존에서 약 5만 8,000개의 모조품을 찾아냈다고 주장한다. 이중 약 3만 5,000개의 상품이 삭제됐다. TCR이 대변하는 브랜드의 모조품만 찾는다는 점에서 아마존에 이보다 훨씬 많은 수의 모조품이 있다는 것을 쉽게 추정할 수 있다.

아마존은 자사의 브랜드 레지스트리(Brad Registry) 프로그램에 소프트웨어 엔지니어, 연구 과학자. 프로그램 관리자, 수사관과 함께 머신러닝을 사용한다. 아마존은 이 프로그램으로 브랜드 침해를 99% 줄였다고 주장하지만, 많은 브랜드가 아직 이 프로그램에 가입하지 않았다.

중국 대형 전자상거래 업체인 알리바바는 20여 곳의 국제적인 브랜드와 함께 ‘빅데이터 반모조품 연합’이란 것을 결성했다. 이 연합 구상은 AI를 사용해 제품 목록이나 고객 평가에서 결함을 드러내는 징조를 찾아낸다. 심지어 중국 정보는 중국 내 모조품 문제를 해결하기 위해 모조품 감정 센터를 지원하기도 했다. 베이징의 한 업체도 스마트 디텍티브(Smart Detective)란 앱을 개발했는데, AI를 이용해 고가품을 감정한다. 이 앱은 현재 손가방과 지갑에 중점을 두고 있지만, 보석까지 감정할 수 있도록 역량을 개발하고 있다.

이들 시스템이 동작하는 핵심에 있는 것은 기밀성이다. 특정 영역이 모조품을 색출하는 데 사용되면, 이를 엄격하게 비밀로 해야 한다. 그리고 지속적으로 변경해 모조품의 변화에 대응할 수 있어야 한다.

가짜 뉴스에 AI가 통하지 않는 이유
앞서 언급한 것처럼 모조품의 종류는 많고도 많다. 제품부터 포장, 콘텐츠, 서명, 현금까지. 구글은 자사의 최근 개발자 컨퍼런스에서 듀플렉스(Duplex)란 새로운 이니셔티브를 시연했는데, AI가 그럴싸한 전화 통화를 만들어냈다. AI가 생성한 가짜 비디오는 특히 충격적이다. 가짜 뉴스의 세계를 비디오로 가져와 가짜 이야기와 프로파간다, 허위 정보를 더욱 강력하게 만들어 준다.

허위 정보 대부분은 정치적인 목적이 있다. 하지만 최근에는 허위 정보가 기업에서 많이 사용되고 있다.

이처럼 가짜 비디오를 만드는 똑 같은 AI 기술로 이들을 적발해 낼 수도 있다. 미군은 AI가 만든 딥페이크 비디오와 다른 가짜 콘텐츠를 찾아내는 방법을 연구하는 미디어 포렌식 프로그램에 자금을 지원하고 있다. DARPA는 전 세계 전문가들을 모아 누가 가장 그럴싸한 가짜 비디오를 만들어 내고, 또 누가 이를 찾아내는 최고의 AI 툴을 만들 수 있는지 대회를 열고 있다.

미 국방부만이 아니다. 독일 뮌헨 기술 대학 연구팀은 딥페이크 형식 비디오를 자동으로 찾아내는 딥러닝 시스템을 구축했다. 이외에도 많은 조직이 비슷한 연구를 진행하고 있다.

하지만 안타깝게도 가짜 비디오를 찾아내는 것은 여론의 심판을 받을 때는 그리 중요하지 않다. 기술이 문제가 아니라 사람이 문제이기 때문이다.

예를 들어 러시아 정부가 가짜 비디오를 만들어 이것이 사실이라고 주장한다고 하자. 미국 정부는 AI를 적용해 해당 비디오가 가짜라고 판별할 것이다. 모든 가짜 뉴스와 정치선전이 그렇듯이 지식이 있는 시청자는 누구를 믿어야 할지 결정할 것이다. 하지만 지식이 없는 시청자는 원본에 대한 고민없이 그저 가짜 비디오의 영향을 받기 쉽다. 더 나쁜 것은 가해자 측에 의해 진짜 비디오가 가짜로 불릴 수도 있다는 것이다.

결국 대중은 아무것도 믿을 수 없다고 결론 내릴 것이고, 결국 적절한 기술을 동원해도 허위 정보는 목적을 달성하고 만다.

따라서 미국 국방부의 기술이 미국 스파이나 정치가, 정부 관리가 가짜와 진짜를 구별하는 데는 도움을 주겠지만, 가짜 뉴스와 프로파간다에 효과적으로 대응하지는 못할 것이다.

AI 기반 반짝퉁 기술의 전성기가 온다
모조품을 둘러싼 전쟁은 끝나지 않겠지만, 기업이나 브랜드 우세한 위치에 서는 것은 가능하다. 반모조품 시스템을 대중화하고 자동화하면, 큰 규모로 가짜를 방지하는 것이 가능해진다. 물론 여기에는 진품 제조업체의 협조와 참여가 필수적이다.

어떤 회사라도 베낄 수 있는 제품이나 콘텐츠, 브랜드, 기타 자산을 가지고 있다면, 모조품에 대응하기 위해 AI를 가장 잘 사용하는 방법을 찾을 필요가 있다. 범죄자들은 이미 기업의 지적재산권을 훔치기 위해 AI를 사용하고 있기 때문에 이를 막는 데 AI를 사용해야만 할 것이다.  editor@itworld.co.kr


2018.07.23

“짝퉁과의 전쟁” AI가 무기이자 구세주

Mike Elgan | Computerworld
군비 경쟁이 시작됐다. 짝퉁업자는 그럴싸한 모조품을 만들기 위해 AI를 사용할 것이다. 똑똑한 기업은 역공에 AI를 사용할 것이다.

5,000억 달러.

지난 해 가짜 상품 판매로 모조품 업자들이 벌어들인 대략적인 수익이다. 모든 무역 거래의 약 2.5%가 가짜 상품이다. 미국은 모조품의 해악을 가장 크게 입었는데, 2013년 전세계 지적재산권 침해 중 20%가 미국 브랜드였다.

대부분 사람은 모조품이라고 하면 길가에서 파는 복제 루이뷔통 핸드백을 생각한다. 하지만 가짜 제품에는 일상적인 소비재뿐만 아니라 기업용 제품도 포함된다.

그리고 모조품은 사람을 죽일 수도 있다. 가짜 의약품과 가짜 술은 매년 수천 명을 죽인다. 세계보건기구는 중간 소득 이하 국가에서 판매되는 모든 의약품의 10%가 가짜이거나 기준 이하의 제품일 것으로 추정한다.

그리고 문제는 점점 더 커질 것이다. 국제상표권협회와 국제상공회의소는 2022년이면 모조품이 대체하는 가치가 2조 3,000억 달러에 이를 것이라고 말한다.

Entrupy

멋지게 발전하는 짝퉁 기술
모조품의 가장 크고 위험한 동향은 더 나은 가짜를 만드는 데 인공 지능을 적용한다는 것이다. 가짜 상품뿐 아니라 위조지폐, 가짜 콘텐츠, 가짜 광고, 가짜 웹사이트, 가짜 뉴스 등등.

AI 기반 사기의 가장 대표적인 예는 비디오에 있다. 딥페이크(DeepFake), 즉 누군가의 얼굴을 다른 사람의 몸에 감쪽같이 붙여넣은 비디오는 딥러닝을 사용하고 신경망과 대규모 데이터 세트를 시뮬레이션해 그럴듯한 가짜 비디오를 만든다. 지난 1월 페이크앱(FakeApp)이란 앱이 출시되었는데, 이 앱은 누구라도 쉽게 얼굴을 바꾼 동영상을 만들 수 있도록 해준다.

비슷한 기술이 사치품을 만드는 데 점점 더 많이 적용될 것이다. 간단하게 말하면, 짝퉁업자는 정식 제품의 특성을 AI 시스템에 공급하고, AI 시스템은 좀 더 그럴 듯한 결과물이 나오도록 재표를 선택하고 제조 공정을 지도한다.

구원투수로 등판하는 AI
모조품이 점점 더 그럴싸해지면, 언젠가는 일종의 특이점에 도달하게 된다. 즉 아무리 전문가라도 사람은 진짜와 가짜의 차이를 구별하기 어려운 수준에 이를 것이다. 이미 여러 업체가 기업과 브랜드에 정교한 해법을 제공하고 있다.

엔트러피(Entrupy), 레드 포인트(Red Points), 사이핌(Cypheme) 등은 모조품의 저비용 다량 판별 작업이 전문이다. 이들 업체는 재료와 색상, 포장, 기타 특성을 분석해 가짜를 찾아내는 기술을 제공한다.

IBM 리서치는 CAV(Crypto Anchor Verifier)라는 AI 기반 모조품 탐지 프로그램을 개발했는데, 블록체인을 사용하고 스마트폰에서 동작한다. 사용법도 간단한데, 어떤 제품의 사진을 찍으면, 앱이 블록체인 원장의 데이터베이스에 대해 이미지 비교를 실행해 진품 여부를 판별한다. 데이터베이스에는 진품 업체가 제공하는 진품 사진이 가득 들어 있을 것이다.

이 프로그램은 모든 객체, 즉 모든 상품은 특유의 광학 패턴이 있어서 AI가 알아볼 수 있다는 아이디어를 기반으로 한다. 이들 패턴은 텍스처나 색상, 재료의 패턴 등에서 나타난다. IBM은 이 기술을 다이아몬드부터 현금, 와인, 의약품까지 모든 것에 사용할 수 있다고 밝혔다.

사실 모조품은 어디에나 있다. 심지어 아마존 같은 신뢰할 만한 곳에서도 엄청난 양의 모조품이 판매되고 있다. 온라인 상거래의 전반적인 모델도 모조품 판매에 일조하고 있다. 제품 페이지와 상세정보는 공개되어 있어 복제하기 쉬우며, 거래 규모 때문에 모든 제품을 확인하는 것은 거의 불가능하다.

주요 브랜드와 공조해 가짜 제품을 색출하는 활동을 하는 TCR(The Counterfeit Report)은 2016년 5월부터 아마존에서 약 5만 8,000개의 모조품을 찾아냈다고 주장한다. 이중 약 3만 5,000개의 상품이 삭제됐다. TCR이 대변하는 브랜드의 모조품만 찾는다는 점에서 아마존에 이보다 훨씬 많은 수의 모조품이 있다는 것을 쉽게 추정할 수 있다.

아마존은 자사의 브랜드 레지스트리(Brad Registry) 프로그램에 소프트웨어 엔지니어, 연구 과학자. 프로그램 관리자, 수사관과 함께 머신러닝을 사용한다. 아마존은 이 프로그램으로 브랜드 침해를 99% 줄였다고 주장하지만, 많은 브랜드가 아직 이 프로그램에 가입하지 않았다.

중국 대형 전자상거래 업체인 알리바바는 20여 곳의 국제적인 브랜드와 함께 ‘빅데이터 반모조품 연합’이란 것을 결성했다. 이 연합 구상은 AI를 사용해 제품 목록이나 고객 평가에서 결함을 드러내는 징조를 찾아낸다. 심지어 중국 정보는 중국 내 모조품 문제를 해결하기 위해 모조품 감정 센터를 지원하기도 했다. 베이징의 한 업체도 스마트 디텍티브(Smart Detective)란 앱을 개발했는데, AI를 이용해 고가품을 감정한다. 이 앱은 현재 손가방과 지갑에 중점을 두고 있지만, 보석까지 감정할 수 있도록 역량을 개발하고 있다.

이들 시스템이 동작하는 핵심에 있는 것은 기밀성이다. 특정 영역이 모조품을 색출하는 데 사용되면, 이를 엄격하게 비밀로 해야 한다. 그리고 지속적으로 변경해 모조품의 변화에 대응할 수 있어야 한다.

가짜 뉴스에 AI가 통하지 않는 이유
앞서 언급한 것처럼 모조품의 종류는 많고도 많다. 제품부터 포장, 콘텐츠, 서명, 현금까지. 구글은 자사의 최근 개발자 컨퍼런스에서 듀플렉스(Duplex)란 새로운 이니셔티브를 시연했는데, AI가 그럴싸한 전화 통화를 만들어냈다. AI가 생성한 가짜 비디오는 특히 충격적이다. 가짜 뉴스의 세계를 비디오로 가져와 가짜 이야기와 프로파간다, 허위 정보를 더욱 강력하게 만들어 준다.

허위 정보 대부분은 정치적인 목적이 있다. 하지만 최근에는 허위 정보가 기업에서 많이 사용되고 있다.

이처럼 가짜 비디오를 만드는 똑 같은 AI 기술로 이들을 적발해 낼 수도 있다. 미군은 AI가 만든 딥페이크 비디오와 다른 가짜 콘텐츠를 찾아내는 방법을 연구하는 미디어 포렌식 프로그램에 자금을 지원하고 있다. DARPA는 전 세계 전문가들을 모아 누가 가장 그럴싸한 가짜 비디오를 만들어 내고, 또 누가 이를 찾아내는 최고의 AI 툴을 만들 수 있는지 대회를 열고 있다.

미 국방부만이 아니다. 독일 뮌헨 기술 대학 연구팀은 딥페이크 형식 비디오를 자동으로 찾아내는 딥러닝 시스템을 구축했다. 이외에도 많은 조직이 비슷한 연구를 진행하고 있다.

하지만 안타깝게도 가짜 비디오를 찾아내는 것은 여론의 심판을 받을 때는 그리 중요하지 않다. 기술이 문제가 아니라 사람이 문제이기 때문이다.

예를 들어 러시아 정부가 가짜 비디오를 만들어 이것이 사실이라고 주장한다고 하자. 미국 정부는 AI를 적용해 해당 비디오가 가짜라고 판별할 것이다. 모든 가짜 뉴스와 정치선전이 그렇듯이 지식이 있는 시청자는 누구를 믿어야 할지 결정할 것이다. 하지만 지식이 없는 시청자는 원본에 대한 고민없이 그저 가짜 비디오의 영향을 받기 쉽다. 더 나쁜 것은 가해자 측에 의해 진짜 비디오가 가짜로 불릴 수도 있다는 것이다.

결국 대중은 아무것도 믿을 수 없다고 결론 내릴 것이고, 결국 적절한 기술을 동원해도 허위 정보는 목적을 달성하고 만다.

따라서 미국 국방부의 기술이 미국 스파이나 정치가, 정부 관리가 가짜와 진짜를 구별하는 데는 도움을 주겠지만, 가짜 뉴스와 프로파간다에 효과적으로 대응하지는 못할 것이다.

AI 기반 반짝퉁 기술의 전성기가 온다
모조품을 둘러싼 전쟁은 끝나지 않겠지만, 기업이나 브랜드 우세한 위치에 서는 것은 가능하다. 반모조품 시스템을 대중화하고 자동화하면, 큰 규모로 가짜를 방지하는 것이 가능해진다. 물론 여기에는 진품 제조업체의 협조와 참여가 필수적이다.

어떤 회사라도 베낄 수 있는 제품이나 콘텐츠, 브랜드, 기타 자산을 가지고 있다면, 모조품에 대응하기 위해 AI를 가장 잘 사용하는 방법을 찾을 필요가 있다. 범죄자들은 이미 기업의 지적재산권을 훔치기 위해 AI를 사용하고 있기 때문에 이를 막는 데 AI를 사용해야만 할 것이다.  editor@itworld.co.kr


X