2019.04.23

글로벌 칼럼 | 페이스북 가상 비서를 믿을 수 있나?

Mike Elgan | Computerworld
페이스북이 세 번째 가상 비서를 개발 중이다.

페이스북이 음성 기반의 인공 지능 인터페이스를 추구한다는 것을 두고 새로운 소식이라고 하기는 어렵다. 시가총액 기준 세계 최대 8개 기업 목록에는 가상 비서 시장의 7대 주요 기업인 마이크로소프트, 애플, 아마존, 알파벳(구글), 페이스북, 알리바바, 텐센트가 모두 들어가 있다. 유일하게 빠진 기업은 버크셔 해서웨이다.

이렇게 보면 세계 최대의 기술 기업 목록에 포함되려면 AI 비서 인터페이스가 필수 요소인 듯하다. 앞으로는 거의 모든 컴퓨팅에서 음성 기반 가상 비서가 주 사용자 인터페이스가 될 것임을 예측하기란 어렵지 않다.

또한 페이스북은 세계 최대 규모의 AI 연구소 중 하나도 소유하고 있다. 현재 페이스북이 연구개발에 쏟아 붓는 비용은 연간 80억 달러에 달한다.

결국 페이스북은 강력한 AI 가상 비서를 보유하게 될 것이다. 이미 오래 전부터 개발하고 있는 페이스북의 AI 가상 비서는 필연적으로 기업 환경으로, 그리고 직원들의 집으로 진출하게 된다.

하지만 그게 바람직한 일일까?
 
ⓒ Getty Images Bank
 

M 실험

약 1년 전, 페이스북은 2,000여 명의 캘리포니아 주민을 대상으로 2년 반 동안 페이스북 메신저 플랫폼에서 제공했던 페이스북 M이라는 실험을 종료한다고 발표했다.

페이스북 M은 AI 기반의 가상 비서였는데 AI가 아직 처리할 수 없는 부분에 대해서는 이를 보조하는 사람들로 구성된 팀이 답변하고 조치를 취했다. M의 기능 중 하나는 채팅 대화를 엿보다가 대화에 끼어들어 제안을 하는 것이다. 예를 들어 볼 만한 영화를 추천하거나, 화상 채팅 또는 전화를 할 사람을 제안했다.

M의 설계 목적은 만남 상기다. 시간과 장소를 정해 만남을 생성하고, 더 나아가 그 장소로 이동하기 위한 우버 또는 리프트 예약을 제안하는 기능도 있었다. 채팅에서 누군가가 “너 지금 어디에 있어?”라고 물으면 M이 끼어들어 “위치 보내기” 버튼을 표시했다.

M 아이디어는 메신저에서 오가는 모든 대화를 지속적으로 감시한다는 개념에 기초했다. M 종료 후 페이스북의 AI 비서의 연구 방향은 사람들이 입력하는 모든 단어를 감시하는 방식에서 사람들이 입으로 말하는 모든 단어를 듣는 방식으로 전환됐다.

현재 페이스북은 페이스북 포털(Facebook Portal)이라는 스마트 디스플레이를 판매한다. 이 제품은 아마존 알렉사, 그리고 페이스북의 두 번째 가상 비서 제품인 포털(디스플레이 제품 자체와 이름이 동일함), 두 개의 가상 비서를 사용한다. 비서 포털은 하드웨어 포털에서 전화를 걸거나 기타 소소한 작업을 하는 데 사용할 수 있다.

CNBC는 이번 주 페이스북이 세 번째 비서를 개발 중이라는 소식을 전했다.

페이스북은 아마존 알렉사나 구글 어시스턴트와 같이 모든 곳에 존재하는 다목적 크로스 플랫폼 에이전트보다는 포털, 오큘러스 VR 플랫폼, 그리고 앞으로 출시할 가능성이 있는 기업용 스마트 스피커와 스마트 디스플레이 등의 페이스북 자체 하드웨어에서 실행되는 비서를 설계 중일 가능성이 높다.

그런데, 페이스북의 야심이 좁은 범위에 국한된다고 보고 안심한다면 오산이다. 페이스북이 널리 도움이 될지 여부는 관건이 아니다. 페이스북이 제어하는 마이크가 방 안에 존재한다는 사실 자체에 위험이 도사리고 있다.
 

페이스북을 믿을 수 있는가?

매월 하나씩은 큼직한 페이스북 스캔들이 터지는 것 같고, 그럴 때마다 페이스북에 대한 대중의 신뢰도 약화된다. 이번 달의 스캔들도 파장이 크다. 페이스북은 가입하는 신규 사용자에게 이메일 비밀번호를 요청하고, 사용자 허락 없이 이 비밀번호를 사용해서 해당 이메일 계정과 연결된 이메일 연락처를 복사하고 전송하다가 발각됐다.

페이스북은 사람들의 주소록이 “의도치 않게 업로드됐다”고 주장하면서 비밀번호를 보존하지 않으며 데이터도 삭제했다고 밝혔다. 그러나 누가 봐도 연락처 정보를 훔친 목적은 사용자의 소셜 연결망에 대한 정보인데, 정작 이 정보의 보존 여부에 대해서는 아무런 언급도 하지 않았다.

또한 페이스북은 피해를 입은 사람들의 수가 150만 명 정도로 적다는 점을 들어 사건의 파장을 최소화하고자 노력했다. 그러나 도난된 정보는 150만 사용자의 정보가 아니라 그보다 훨씬 더 많은, 사용자들의 연락처에 있는 사람들의 정보다. 평균적인 사용자의 연락처 수가 100개이고 150만 명의 사용자 연락처 중 서로 중복되는 연락처가 없다고 가정하면 피해자의 수는 1억 5,000만 명에 근접한다.

페이스북은 얼마나 많은 사람들이 실질적인 영향을 받았는지는 공개하지 않았다.

페이스북의 의도는 알 수 없다. 그러나 악의적인 행동이든 무능함의 결과이든, 페이스북을 믿을 수 없다는 결론은 마찬가지다.

그 중에서도 가장 비판적인 결론은 전자 프런티어 재단(EFF)의 결론이다. EFF는 페이스북의 행동은 조직을 해킹하는 범죄자와 같다면서 이번 사고에 대한 공식 성명을 통해 “의도와 목적에 따라 분류하면 전형적인 피싱 공격”이라고 비판했다.

관대하게 해석한다 해도, 페이스북이 이메일 비밀번호를 요청한 것은 데이터 보호를 위한 최소한의 기준을 무시한 행동이다.

EFF가 성명에서 말했듯이 이메일 비밀번호는 피싱 공격의 목표물이 되는 경우가 많다. 이메일에는 그 사람과 그 사람이 아는 모든 사람의 모든 온라인 활동을 들여다볼 수 있는 열쇠가 포함되기 때문이다. 그래서 아무리 무책임한 기업이라도 사용자에게 이메일 비밀번호를 묻는 경우는 결코 없다.

이게 끝이 아니다.

페이스북의 변명 중 하나는 이메일 비밀번호 공유는 선택 사항이었으므로 사용자가 원한다면 사용자 확인 수단으로 이메일 또는 전화번호를 사용할 수도 있었다는 것이다. 그러나 이 방법을 택하려면 “도움이 필요한가요(Need help)?” 버튼을 눌러야만 한다. 사용자를 속이는 다크 패턴 디자인의 전형적인 사례다.

전화를 사용한 옵션도 지저분하긴 마찬가지다. 페이스북은 작년 표면적으로는 사용자 확인을 위해 수집한 전화 번호를 사용자 허락 없이 광고에 사용하다가 발각된 전적이 있다.

페이스북 스캔들의 공통적인 테마는 신중하지 못한 개인 데이터 취급이다.

지난 달 페이스북은 페이스북 사용자 수억 명과 인스타그램 사용자 수천 명의 비밀번호를 수많은 페이스북 직원이 접근할 수 있는 페이스북 서버에 손쉽게 읽을 수 있는 형식으로 몇 년 동안 저장해왔다고 밝혔다. 이번 주에는 해당 사건에 대한 게시물에서 영향을 받은 인스타그램 사용자의 수 항목을 기존의 수천 명에서 수백만 명으로 슬그머니 수정했다. 그러면서 정확히 몇 백만 명인지도 밝히지 않았다.

또 다른 보도에서는 서드파티 페이스북 앱 개발사 두 곳이 “방대한” 페이스북 사용자 데이터를 아마존 클라우드 서버에 공개적으로 다운로드 가능한 형식으로 저장했음을 폭로했다. 이 데이터에는 페이스북 사용자 비밀번호 및 활동이 포함된다.
 

페이스북은 부정직한가?

최근 한 보도에서는 페이스북 CEO 마크 저커버그가 페이스북 사용자의 데이터를 사용해서 친구에게는 보상을, 적에게는 불이익을 줬으며 저커버그를 비롯한 고위 임원들이 사용자 데이터 판매 계획을 수년 동안 논의해왔다고 폭로했다. 이 보도는 페이스북의 사용자 개인정보에 대한 공개 성명과 배후에서 벌어지는 실제 행동이 다르다는 사실도 드러냈다.

또한 이번 달에는 페이스북이 사용자가 계정을 비활성화한 후에도 사용자를 계속 추적한다는 사실이 드러났다. 이 관행 역시 페이스북 데이터 정책에는 언급이 되지 않았다.

이전의 여러 보도를 통해 페이스북이 사용자가 제공하지 않은 정보를 보유하고 있으며(섀도우 프로필), 페이스북에서 로그아웃한 사용자를 추적한다는 사실은 이미 알려졌다. 게다가 페이스북은 애초에 계정에 가입하지 않은 사람들까지 추적한다.

작년 한 해 동안의 페이스북 위반 사건만 봐도 페이스북의 부정직 관행이 이 칼럼에 다 언급할 수 없을 만큼 많음을 충분히 짐작할 수 있다.
 

가상 비서에 신뢰가 필요한 이유

스마트 스피커와 스마트 디스플레이에 내장된 가상 비서 세계에서 신뢰가 하는 역할을 명확히 짚고 넘어가는 것이 중요하다.

스마트폰에도 마이크가 있다는 것은 사실이지만 이러한 마이크의 사용은 모바일 운영체제 업체의 엄격한 통제에 따라 이뤄지며, 허가 없이 사용할 경우 회사 내부 팀 또는 이러한 악용을 찾는 데 헌신하는 보안 연구자들에 의해 대부분 적발되어 중지된다. 

아마존, 구글, 페이스북이 직접 판매하는 스마트 기기는 일종의 “블랙 박스”이며 센서 악용을 차단하기 위한 중간 기구가 없다.

이러한 디바이스에 설치된 마이크가 언제, 어떤 상황에서 활성화되는지, 녹음 데이터가 어떻게 가공되거나 사용되는지를 알기는 거의 불가능하다.

문제는 지금의 기술이 아니라 미래의 기술이다. 향후 10년 동안 페이스북과 같은 기업이 매일 수백만 개의 마이크에서 오디오를 녹음하고 이 데이터로 구성된 유의미한, 개인정보를 침해하는 초대형 데이터베이스를 만들 가능성은 얼마든지 있다.

AI 개인 비서 사용자 인터페이스 혁명은 시시각각 다가오고 있다. 이 혁명이 일어나면 앞으로는 모든 곳에 마이크가 존재하게 된다.

우리 모두가 이 혁명에서 페이스북의 참여를 거부해야 하는 이유가 여기에 있다. 특히 페이스북은 반복적으로 사용자 개인정보보호를 침해해왔다. 그 중에는 무능함으로 인한 침해도 있지만 악의적이거나 심지어 범죄에 해당하는 경우도 있다.

간단히 말해서, 페이스북은 신뢰할 수 없는 기업이다. editor@itworld.co.kr


2019.04.23

글로벌 칼럼 | 페이스북 가상 비서를 믿을 수 있나?

Mike Elgan | Computerworld
페이스북이 세 번째 가상 비서를 개발 중이다.

페이스북이 음성 기반의 인공 지능 인터페이스를 추구한다는 것을 두고 새로운 소식이라고 하기는 어렵다. 시가총액 기준 세계 최대 8개 기업 목록에는 가상 비서 시장의 7대 주요 기업인 마이크로소프트, 애플, 아마존, 알파벳(구글), 페이스북, 알리바바, 텐센트가 모두 들어가 있다. 유일하게 빠진 기업은 버크셔 해서웨이다.

이렇게 보면 세계 최대의 기술 기업 목록에 포함되려면 AI 비서 인터페이스가 필수 요소인 듯하다. 앞으로는 거의 모든 컴퓨팅에서 음성 기반 가상 비서가 주 사용자 인터페이스가 될 것임을 예측하기란 어렵지 않다.

또한 페이스북은 세계 최대 규모의 AI 연구소 중 하나도 소유하고 있다. 현재 페이스북이 연구개발에 쏟아 붓는 비용은 연간 80억 달러에 달한다.

결국 페이스북은 강력한 AI 가상 비서를 보유하게 될 것이다. 이미 오래 전부터 개발하고 있는 페이스북의 AI 가상 비서는 필연적으로 기업 환경으로, 그리고 직원들의 집으로 진출하게 된다.

하지만 그게 바람직한 일일까?
 
ⓒ Getty Images Bank
 

M 실험

약 1년 전, 페이스북은 2,000여 명의 캘리포니아 주민을 대상으로 2년 반 동안 페이스북 메신저 플랫폼에서 제공했던 페이스북 M이라는 실험을 종료한다고 발표했다.

페이스북 M은 AI 기반의 가상 비서였는데 AI가 아직 처리할 수 없는 부분에 대해서는 이를 보조하는 사람들로 구성된 팀이 답변하고 조치를 취했다. M의 기능 중 하나는 채팅 대화를 엿보다가 대화에 끼어들어 제안을 하는 것이다. 예를 들어 볼 만한 영화를 추천하거나, 화상 채팅 또는 전화를 할 사람을 제안했다.

M의 설계 목적은 만남 상기다. 시간과 장소를 정해 만남을 생성하고, 더 나아가 그 장소로 이동하기 위한 우버 또는 리프트 예약을 제안하는 기능도 있었다. 채팅에서 누군가가 “너 지금 어디에 있어?”라고 물으면 M이 끼어들어 “위치 보내기” 버튼을 표시했다.

M 아이디어는 메신저에서 오가는 모든 대화를 지속적으로 감시한다는 개념에 기초했다. M 종료 후 페이스북의 AI 비서의 연구 방향은 사람들이 입력하는 모든 단어를 감시하는 방식에서 사람들이 입으로 말하는 모든 단어를 듣는 방식으로 전환됐다.

현재 페이스북은 페이스북 포털(Facebook Portal)이라는 스마트 디스플레이를 판매한다. 이 제품은 아마존 알렉사, 그리고 페이스북의 두 번째 가상 비서 제품인 포털(디스플레이 제품 자체와 이름이 동일함), 두 개의 가상 비서를 사용한다. 비서 포털은 하드웨어 포털에서 전화를 걸거나 기타 소소한 작업을 하는 데 사용할 수 있다.

CNBC는 이번 주 페이스북이 세 번째 비서를 개발 중이라는 소식을 전했다.

페이스북은 아마존 알렉사나 구글 어시스턴트와 같이 모든 곳에 존재하는 다목적 크로스 플랫폼 에이전트보다는 포털, 오큘러스 VR 플랫폼, 그리고 앞으로 출시할 가능성이 있는 기업용 스마트 스피커와 스마트 디스플레이 등의 페이스북 자체 하드웨어에서 실행되는 비서를 설계 중일 가능성이 높다.

그런데, 페이스북의 야심이 좁은 범위에 국한된다고 보고 안심한다면 오산이다. 페이스북이 널리 도움이 될지 여부는 관건이 아니다. 페이스북이 제어하는 마이크가 방 안에 존재한다는 사실 자체에 위험이 도사리고 있다.
 

페이스북을 믿을 수 있는가?

매월 하나씩은 큼직한 페이스북 스캔들이 터지는 것 같고, 그럴 때마다 페이스북에 대한 대중의 신뢰도 약화된다. 이번 달의 스캔들도 파장이 크다. 페이스북은 가입하는 신규 사용자에게 이메일 비밀번호를 요청하고, 사용자 허락 없이 이 비밀번호를 사용해서 해당 이메일 계정과 연결된 이메일 연락처를 복사하고 전송하다가 발각됐다.

페이스북은 사람들의 주소록이 “의도치 않게 업로드됐다”고 주장하면서 비밀번호를 보존하지 않으며 데이터도 삭제했다고 밝혔다. 그러나 누가 봐도 연락처 정보를 훔친 목적은 사용자의 소셜 연결망에 대한 정보인데, 정작 이 정보의 보존 여부에 대해서는 아무런 언급도 하지 않았다.

또한 페이스북은 피해를 입은 사람들의 수가 150만 명 정도로 적다는 점을 들어 사건의 파장을 최소화하고자 노력했다. 그러나 도난된 정보는 150만 사용자의 정보가 아니라 그보다 훨씬 더 많은, 사용자들의 연락처에 있는 사람들의 정보다. 평균적인 사용자의 연락처 수가 100개이고 150만 명의 사용자 연락처 중 서로 중복되는 연락처가 없다고 가정하면 피해자의 수는 1억 5,000만 명에 근접한다.

페이스북은 얼마나 많은 사람들이 실질적인 영향을 받았는지는 공개하지 않았다.

페이스북의 의도는 알 수 없다. 그러나 악의적인 행동이든 무능함의 결과이든, 페이스북을 믿을 수 없다는 결론은 마찬가지다.

그 중에서도 가장 비판적인 결론은 전자 프런티어 재단(EFF)의 결론이다. EFF는 페이스북의 행동은 조직을 해킹하는 범죄자와 같다면서 이번 사고에 대한 공식 성명을 통해 “의도와 목적에 따라 분류하면 전형적인 피싱 공격”이라고 비판했다.

관대하게 해석한다 해도, 페이스북이 이메일 비밀번호를 요청한 것은 데이터 보호를 위한 최소한의 기준을 무시한 행동이다.

EFF가 성명에서 말했듯이 이메일 비밀번호는 피싱 공격의 목표물이 되는 경우가 많다. 이메일에는 그 사람과 그 사람이 아는 모든 사람의 모든 온라인 활동을 들여다볼 수 있는 열쇠가 포함되기 때문이다. 그래서 아무리 무책임한 기업이라도 사용자에게 이메일 비밀번호를 묻는 경우는 결코 없다.

이게 끝이 아니다.

페이스북의 변명 중 하나는 이메일 비밀번호 공유는 선택 사항이었으므로 사용자가 원한다면 사용자 확인 수단으로 이메일 또는 전화번호를 사용할 수도 있었다는 것이다. 그러나 이 방법을 택하려면 “도움이 필요한가요(Need help)?” 버튼을 눌러야만 한다. 사용자를 속이는 다크 패턴 디자인의 전형적인 사례다.

전화를 사용한 옵션도 지저분하긴 마찬가지다. 페이스북은 작년 표면적으로는 사용자 확인을 위해 수집한 전화 번호를 사용자 허락 없이 광고에 사용하다가 발각된 전적이 있다.

페이스북 스캔들의 공통적인 테마는 신중하지 못한 개인 데이터 취급이다.

지난 달 페이스북은 페이스북 사용자 수억 명과 인스타그램 사용자 수천 명의 비밀번호를 수많은 페이스북 직원이 접근할 수 있는 페이스북 서버에 손쉽게 읽을 수 있는 형식으로 몇 년 동안 저장해왔다고 밝혔다. 이번 주에는 해당 사건에 대한 게시물에서 영향을 받은 인스타그램 사용자의 수 항목을 기존의 수천 명에서 수백만 명으로 슬그머니 수정했다. 그러면서 정확히 몇 백만 명인지도 밝히지 않았다.

또 다른 보도에서는 서드파티 페이스북 앱 개발사 두 곳이 “방대한” 페이스북 사용자 데이터를 아마존 클라우드 서버에 공개적으로 다운로드 가능한 형식으로 저장했음을 폭로했다. 이 데이터에는 페이스북 사용자 비밀번호 및 활동이 포함된다.
 

페이스북은 부정직한가?

최근 한 보도에서는 페이스북 CEO 마크 저커버그가 페이스북 사용자의 데이터를 사용해서 친구에게는 보상을, 적에게는 불이익을 줬으며 저커버그를 비롯한 고위 임원들이 사용자 데이터 판매 계획을 수년 동안 논의해왔다고 폭로했다. 이 보도는 페이스북의 사용자 개인정보에 대한 공개 성명과 배후에서 벌어지는 실제 행동이 다르다는 사실도 드러냈다.

또한 이번 달에는 페이스북이 사용자가 계정을 비활성화한 후에도 사용자를 계속 추적한다는 사실이 드러났다. 이 관행 역시 페이스북 데이터 정책에는 언급이 되지 않았다.

이전의 여러 보도를 통해 페이스북이 사용자가 제공하지 않은 정보를 보유하고 있으며(섀도우 프로필), 페이스북에서 로그아웃한 사용자를 추적한다는 사실은 이미 알려졌다. 게다가 페이스북은 애초에 계정에 가입하지 않은 사람들까지 추적한다.

작년 한 해 동안의 페이스북 위반 사건만 봐도 페이스북의 부정직 관행이 이 칼럼에 다 언급할 수 없을 만큼 많음을 충분히 짐작할 수 있다.
 

가상 비서에 신뢰가 필요한 이유

스마트 스피커와 스마트 디스플레이에 내장된 가상 비서 세계에서 신뢰가 하는 역할을 명확히 짚고 넘어가는 것이 중요하다.

스마트폰에도 마이크가 있다는 것은 사실이지만 이러한 마이크의 사용은 모바일 운영체제 업체의 엄격한 통제에 따라 이뤄지며, 허가 없이 사용할 경우 회사 내부 팀 또는 이러한 악용을 찾는 데 헌신하는 보안 연구자들에 의해 대부분 적발되어 중지된다. 

아마존, 구글, 페이스북이 직접 판매하는 스마트 기기는 일종의 “블랙 박스”이며 센서 악용을 차단하기 위한 중간 기구가 없다.

이러한 디바이스에 설치된 마이크가 언제, 어떤 상황에서 활성화되는지, 녹음 데이터가 어떻게 가공되거나 사용되는지를 알기는 거의 불가능하다.

문제는 지금의 기술이 아니라 미래의 기술이다. 향후 10년 동안 페이스북과 같은 기업이 매일 수백만 개의 마이크에서 오디오를 녹음하고 이 데이터로 구성된 유의미한, 개인정보를 침해하는 초대형 데이터베이스를 만들 가능성은 얼마든지 있다.

AI 개인 비서 사용자 인터페이스 혁명은 시시각각 다가오고 있다. 이 혁명이 일어나면 앞으로는 모든 곳에 마이크가 존재하게 된다.

우리 모두가 이 혁명에서 페이스북의 참여를 거부해야 하는 이유가 여기에 있다. 특히 페이스북은 반복적으로 사용자 개인정보보호를 침해해왔다. 그 중에는 무능함으로 인한 침해도 있지만 악의적이거나 심지어 범죄에 해당하는 경우도 있다.

간단히 말해서, 페이스북은 신뢰할 수 없는 기업이다. editor@itworld.co.kr


X