2018.07.31

"진짜 봇인지 파악 어렵다" 챗봇의 안전 논란

Terena Bell | CSO
버라이즌(Verizon) 디지털 부사장 아쇼크 쿠마는 가까운 장래에 챗봇(Chatbot)이 웹사이트 대신 선호되는 사용자 인터페이스(UI)가 될 것이라고 주장한다. 근거 있는 주장이다.

2017년 그랜드 뷰 리서치 보고서(Grand View Research)에 따르면, 약 45%의 소비자가 봇이 고객 서비스 문제를 처리해주는 것을 선호한다. 또한 오라클은 2020년에는 봇을 사용하는 영업 및 마케팅 부서의 비율이 80%에 도달할 것으로 내다보고 있다.

UI가 나쁘면 사이트 탐색이 어려워질 수 있다. 그러나 챗은 본질적으로 직관적이다. 쿠마는 "누구나 언어를 알고, 말을 할 줄 안다"고 강조했다.

그러나 챗봇 혁명이 실현됐을 때, 챗봇의 생태계는 충분히 안전할까?
웹사이트처럼, 여러 방식으로 챗봇을 안전하게 만들어야 한다. 봇 개발자는 데이터를 안전하게 저장해야 하고, 해킹으로부터 시스템을 보호하고, 핵심 메시징 플랫폼(슬랙이나 페이스북 메신저 등) 연결을 안전하게 만들어야 한다.

챗봇 투자자인 앤드류 롤린스는 "웹사이트에는 SSL 인증서가 있다"고 말했다. SSL(Secure Sockets Layer)은 웹사이트와 사용자 브라우저 간 암호화를 확인하는 프로토콜이다. 롤린스는 "인증서를 승인하는 인증기관들이 있다. 웹 서버에는 프라이빗 키가 설치되어 있다"고 설명했다.

롤린스는 "이런 도구들은 개발자는 물론 사용자에게 도움을 준다"며, "맨 위 주소창의 ULR에 붉은색이 아닌 녹색(안전한 웹사이트를 의미하는 녹색의 안전 표시)이라면, 자주 방문했던 진짜 아마존 사이트라고 가정할 수 있다"고 말했다.

그러나 챗봇에는 아무 것도 없다. 뭔가 있어야 한다. 롤린스는 "트위터나 페이스북, SMS 등에서 무엇을 입력해 대화한다고 가정하자. 상대방이 자신이 생각하는 그 상대방인지 알 수 있는 방법이 있는가?"라고 반문했다. 봇용 SSL이 없는 경우, 해커가 인증을 받은 챗봇을 가장해도 알 방법이 없다.

신뢰 문제를 해결하라
현재 공개 베타인 챗봇용 ID 및 감사 장부인 봇체인(BotChain)의 제품 매니저 아쇼크 피차마니는 "슬랙에서는 ID 파악이 더 용이하다"고 말했다. 피차마니는 "슬랙의 경우 쉽게 봇을 신뢰할 수 있다. 임베디드 방식이기 때문이다. 그러나 트위터나 페이스북의 경우에는 적법한 진짜 봇인지 파악하기가 아주 어렵다. 특히 트위터가 그렇다"고 설명했다.

피차마니에 따르면, 봇체인이 이에 대한 해답이 될 수 있다. 피차마니는 "기본적으로 여러 사람이 와서 AI나 봇이 진짜인지 증명할 수 있는 레지스트리다"고 말했다. 피차마니는 "이 블록체인 기반의 플랫폼이 봇 보안의 전부가 되기 원하는 것은 아니다"면서, "모든 봇 공급업체가 프레임워크를 제공할 수 있는 출발점이다. 봇을 등록하고, 봇을 재확인할 수 있는 엔터티를 구현할 수 있는 그런 프레임워크다. 또한 공급업체는 다른 업체와 보안을 비교할 수도 있다"고 설명했다.

사용자는 채팅을 하는 동안 봇을 클릭한다. 피차마니는 "사용자는 HTTPS 인증서와 SSL 인증서처럼 봇 인증서도 확인할 수 있어야 한다. 백엔드의 봇에 기반을 두게 될 인증서다"고 말했다. 이렇게 하면, 소비자가 쉽게 봇이 진짜인지 가짜인지 확인할 수 있는 시스템이 구축된다.

봇체인은 아직 베타이지만, 이 회사는 현재 15만 개가 넘는 챗봇이 매달 40억 건에 달하는 대화를 실행시키고 있다고 밝혔다. 7월 17일에 출시된 플랫폼이라는 점을 감안하면 과장된 통계로 들릴 수도 있다. 이와 관련, 매달 페이스북 메신저에서 실행되는 대화가 20억 건에 불과하다. 그러나 메신저에서만 챗봇이 사용되는 것이 아니다. 슬랙, 스카이프, 마이크로소프트 팀스를 비롯한 다양한 커뮤니케이션 플랫폼, 웹사이트와 텍스트 등에서 사용된다.

시드 볼트(Seed Vault) CEO 네이든 쉐드로프는 "봇이 다음 세대의 패러다임 전환에 해당하는 변화를 가져올 것이다. 웹과 유사한, 명령줄 인터페이스가 GUI(Graphic User Interfaces)로 변했을 때와 유사한 패러다임 전환이다"고 강조했다. 쉐드로프는 이런 근본적 변화가 발생했을 때 '인증'이 문제가 될 것이라고 말했다. '신뢰'가 진짜 큰 문제가 될 것이라고 강조했다.

시드 볼트는 봇체인의 '대안'으로 개발자들에게 블록체인 기반의 오픈소스 커뮤니티를 제공할 계획이다. 쉐드로프는 "현재 기준을 만들고, 신뢰를 생성하고, 생태계가 잘 성장할 수 있는 플랫폼을 구현할 수 있는 인프라 구축에 집중하고 있다"고 말했다. 쉐드로프는 개발자들이 코드와 보안 베스트 프랙티스를 공유하기 희망한다는 의미라고 설명했다. 현재 시드 볼트 깃허브(GitHub)에서 초기 기준들을 입수해 사용할 수 있다. 개발자 환경은 내년 2분기에 완성, 발표될 예정이다.

챗봇 보안을 위한 플랫폼, 절실하다
공동체가 봇체인 등록 방식을 수용하든, 시드 볼트의 덜 직접적인 방식을 따르든 지금 당장 행동해야 한다. 챗봇 생태계가 아직 발전하고 있는 상태이기 때문이다. 롤린스는 "록인, 그리고 그 위에 구현할 것에 대해 많이 생각해야 한다. 그런 후 체인의 불변성을 고려해야 한다. 모든 것이 구현된 후, 무엇을 되돌려 구성하기란 아주 어렵기 때문이다"고 말했다.

그러나 피차마니는 ID가 완성되면, 다른 챗봇 보안 요소는 저절로 구현이 될 것이라고 주장했다. 피차마니는 "ID를 철저히 구현하면 나머지는 저절로 발생할 것으로 생각한다. 예를 들어, 평판과 관련된 요소가 구현될 수 있다. 누군가 기업 사용사례를 대상으로 감사 및 컴플라이언스(준수) 서비스를 구현할 것이다. 다른 것들과 마찬가지로 봇에도 일종의 기준이 필요하다. 또 첫 걸음을 내딛으면, 생태계는 기준을 따라올 것이다"고 덧붙였다. editor@itworld.co.kr  


2018.07.31

"진짜 봇인지 파악 어렵다" 챗봇의 안전 논란

Terena Bell | CSO
버라이즌(Verizon) 디지털 부사장 아쇼크 쿠마는 가까운 장래에 챗봇(Chatbot)이 웹사이트 대신 선호되는 사용자 인터페이스(UI)가 될 것이라고 주장한다. 근거 있는 주장이다.

2017년 그랜드 뷰 리서치 보고서(Grand View Research)에 따르면, 약 45%의 소비자가 봇이 고객 서비스 문제를 처리해주는 것을 선호한다. 또한 오라클은 2020년에는 봇을 사용하는 영업 및 마케팅 부서의 비율이 80%에 도달할 것으로 내다보고 있다.

UI가 나쁘면 사이트 탐색이 어려워질 수 있다. 그러나 챗은 본질적으로 직관적이다. 쿠마는 "누구나 언어를 알고, 말을 할 줄 안다"고 강조했다.

그러나 챗봇 혁명이 실현됐을 때, 챗봇의 생태계는 충분히 안전할까?
웹사이트처럼, 여러 방식으로 챗봇을 안전하게 만들어야 한다. 봇 개발자는 데이터를 안전하게 저장해야 하고, 해킹으로부터 시스템을 보호하고, 핵심 메시징 플랫폼(슬랙이나 페이스북 메신저 등) 연결을 안전하게 만들어야 한다.

챗봇 투자자인 앤드류 롤린스는 "웹사이트에는 SSL 인증서가 있다"고 말했다. SSL(Secure Sockets Layer)은 웹사이트와 사용자 브라우저 간 암호화를 확인하는 프로토콜이다. 롤린스는 "인증서를 승인하는 인증기관들이 있다. 웹 서버에는 프라이빗 키가 설치되어 있다"고 설명했다.

롤린스는 "이런 도구들은 개발자는 물론 사용자에게 도움을 준다"며, "맨 위 주소창의 ULR에 붉은색이 아닌 녹색(안전한 웹사이트를 의미하는 녹색의 안전 표시)이라면, 자주 방문했던 진짜 아마존 사이트라고 가정할 수 있다"고 말했다.

그러나 챗봇에는 아무 것도 없다. 뭔가 있어야 한다. 롤린스는 "트위터나 페이스북, SMS 등에서 무엇을 입력해 대화한다고 가정하자. 상대방이 자신이 생각하는 그 상대방인지 알 수 있는 방법이 있는가?"라고 반문했다. 봇용 SSL이 없는 경우, 해커가 인증을 받은 챗봇을 가장해도 알 방법이 없다.

신뢰 문제를 해결하라
현재 공개 베타인 챗봇용 ID 및 감사 장부인 봇체인(BotChain)의 제품 매니저 아쇼크 피차마니는 "슬랙에서는 ID 파악이 더 용이하다"고 말했다. 피차마니는 "슬랙의 경우 쉽게 봇을 신뢰할 수 있다. 임베디드 방식이기 때문이다. 그러나 트위터나 페이스북의 경우에는 적법한 진짜 봇인지 파악하기가 아주 어렵다. 특히 트위터가 그렇다"고 설명했다.

피차마니에 따르면, 봇체인이 이에 대한 해답이 될 수 있다. 피차마니는 "기본적으로 여러 사람이 와서 AI나 봇이 진짜인지 증명할 수 있는 레지스트리다"고 말했다. 피차마니는 "이 블록체인 기반의 플랫폼이 봇 보안의 전부가 되기 원하는 것은 아니다"면서, "모든 봇 공급업체가 프레임워크를 제공할 수 있는 출발점이다. 봇을 등록하고, 봇을 재확인할 수 있는 엔터티를 구현할 수 있는 그런 프레임워크다. 또한 공급업체는 다른 업체와 보안을 비교할 수도 있다"고 설명했다.

사용자는 채팅을 하는 동안 봇을 클릭한다. 피차마니는 "사용자는 HTTPS 인증서와 SSL 인증서처럼 봇 인증서도 확인할 수 있어야 한다. 백엔드의 봇에 기반을 두게 될 인증서다"고 말했다. 이렇게 하면, 소비자가 쉽게 봇이 진짜인지 가짜인지 확인할 수 있는 시스템이 구축된다.

봇체인은 아직 베타이지만, 이 회사는 현재 15만 개가 넘는 챗봇이 매달 40억 건에 달하는 대화를 실행시키고 있다고 밝혔다. 7월 17일에 출시된 플랫폼이라는 점을 감안하면 과장된 통계로 들릴 수도 있다. 이와 관련, 매달 페이스북 메신저에서 실행되는 대화가 20억 건에 불과하다. 그러나 메신저에서만 챗봇이 사용되는 것이 아니다. 슬랙, 스카이프, 마이크로소프트 팀스를 비롯한 다양한 커뮤니케이션 플랫폼, 웹사이트와 텍스트 등에서 사용된다.

시드 볼트(Seed Vault) CEO 네이든 쉐드로프는 "봇이 다음 세대의 패러다임 전환에 해당하는 변화를 가져올 것이다. 웹과 유사한, 명령줄 인터페이스가 GUI(Graphic User Interfaces)로 변했을 때와 유사한 패러다임 전환이다"고 강조했다. 쉐드로프는 이런 근본적 변화가 발생했을 때 '인증'이 문제가 될 것이라고 말했다. '신뢰'가 진짜 큰 문제가 될 것이라고 강조했다.

시드 볼트는 봇체인의 '대안'으로 개발자들에게 블록체인 기반의 오픈소스 커뮤니티를 제공할 계획이다. 쉐드로프는 "현재 기준을 만들고, 신뢰를 생성하고, 생태계가 잘 성장할 수 있는 플랫폼을 구현할 수 있는 인프라 구축에 집중하고 있다"고 말했다. 쉐드로프는 개발자들이 코드와 보안 베스트 프랙티스를 공유하기 희망한다는 의미라고 설명했다. 현재 시드 볼트 깃허브(GitHub)에서 초기 기준들을 입수해 사용할 수 있다. 개발자 환경은 내년 2분기에 완성, 발표될 예정이다.

챗봇 보안을 위한 플랫폼, 절실하다
공동체가 봇체인 등록 방식을 수용하든, 시드 볼트의 덜 직접적인 방식을 따르든 지금 당장 행동해야 한다. 챗봇 생태계가 아직 발전하고 있는 상태이기 때문이다. 롤린스는 "록인, 그리고 그 위에 구현할 것에 대해 많이 생각해야 한다. 그런 후 체인의 불변성을 고려해야 한다. 모든 것이 구현된 후, 무엇을 되돌려 구성하기란 아주 어렵기 때문이다"고 말했다.

그러나 피차마니는 ID가 완성되면, 다른 챗봇 보안 요소는 저절로 구현이 될 것이라고 주장했다. 피차마니는 "ID를 철저히 구현하면 나머지는 저절로 발생할 것으로 생각한다. 예를 들어, 평판과 관련된 요소가 구현될 수 있다. 누군가 기업 사용사례를 대상으로 감사 및 컴플라이언스(준수) 서비스를 구현할 것이다. 다른 것들과 마찬가지로 봇에도 일종의 기준이 필요하다. 또 첫 걸음을 내딛으면, 생태계는 기준을 따라올 것이다"고 덧붙였다. editor@itworld.co.kr  


X