페이스북이 음성 기반의 인공 지능 인터페이스를 추구한다는 것을 두고 새로운 소식이라고 하기는 어렵다. 시가총액 기준 세계 최대 8개 기업 목록에는 가상 비서 시장의 7대 주요 기업인 마이크로소프트, 애플, 아마존, 알파벳(구글), 페이스북, 알리바바, 텐센트가 모두 들어가 있다. 유일하게 빠진 기업은 버크셔 해서웨이다.
이렇게 보면 세계 최대의 기술 기업 목록에 포함되려면 AI 비서 인터페이스가 필수 요소인 듯하다. 앞으로는 거의 모든 컴퓨팅에서 음성 기반 가상 비서가 주 사용자 인터페이스가 될 것임을 예측하기란 어렵지 않다.
또한 페이스북은 세계 최대 규모의 AI 연구소 중 하나도 소유하고 있다. 현재 페이스북이 연구개발에 쏟아 붓는 비용은 연간 80억 달러에 달한다.
결국 페이스북은 강력한 AI 가상 비서를 보유하게 될 것이다. 이미 오래 전부터 개발하고 있는 페이스북의 AI 가상 비서는 필연적으로 기업 환경으로, 그리고 직원들의 집으로 진출하게 된다.
하지만 그게 바람직한 일일까?
M 실험
약 1년 전, 페이스북은 2,000여 명의 캘리포니아 주민을 대상으로 2년 반 동안 페이스북 메신저 플랫폼에서 제공했던 페이스북 M이라는 실험을 종료한다고 발표했다.페이스북 M은 AI 기반의 가상 비서였는데 AI가 아직 처리할 수 없는 부분에 대해서는 이를 보조하는 사람들로 구성된 팀이 답변하고 조치를 취했다. M의 기능 중 하나는 채팅 대화를 엿보다가 대화에 끼어들어 제안을 하는 것이다. 예를 들어 볼 만한 영화를 추천하거나, 화상 채팅 또는 전화를 할 사람을 제안했다.
M의 설계 목적은 만남 상기다. 시간과 장소를 정해 만남을 생성하고, 더 나아가 그 장소로 이동하기 위한 우버 또는 리프트 예약을 제안하는 기능도 있었다. 채팅에서 누군가가 “너 지금 어디에 있어?”라고 물으면 M이 끼어들어 “위치 보내기” 버튼을 표시했다.
M 아이디어는 메신저에서 오가는 모든 대화를 지속적으로 감시한다는 개념에 기초했다. M 종료 후 페이스북의 AI 비서의 연구 방향은 사람들이 입력하는 모든 단어를 감시하는 방식에서 사람들이 입으로 말하는 모든 단어를 듣는 방식으로 전환됐다.
현재 페이스북은 페이스북 포털(Facebook Portal)이라는 스마트 디스플레이를 판매한다. 이 제품은 아마존 알렉사, 그리고 페이스북의 두 번째 가상 비서 제품인 포털(디스플레이 제품 자체와 이름이 동일함), 두 개의 가상 비서를 사용한다. 비서 포털은 하드웨어 포털에서 전화를 걸거나 기타 소소한 작업을 하는 데 사용할 수 있다.
CNBC는 이번 주 페이스북이 세 번째 비서를 개발 중이라는 소식을 전했다.
페이스북은 아마존 알렉사나 구글 어시스턴트와 같이 모든 곳에 존재하는 다목적 크로스 플랫폼 에이전트보다는 포털, 오큘러스 VR 플랫폼, 그리고 앞으로 출시할 가능성이 있는 기업용 스마트 스피커와 스마트 디스플레이 등의 페이스북 자체 하드웨어에서 실행되는 비서를 설계 중일 가능성이 높다.
그런데, 페이스북의 야심이 좁은 범위에 국한된다고 보고 안심한다면 오산이다. 페이스북이 널리 도움이 될지 여부는 관건이 아니다. 페이스북이 제어하는 마이크가 방 안에 존재한다는 사실 자체에 위험이 도사리고 있다.
페이스북을 믿을 수 있는가?
매월 하나씩은 큼직한 페이스북 스캔들이 터지는 것 같고, 그럴 때마다 페이스북에 대한 대중의 신뢰도 약화된다. 이번 달의 스캔들도 파장이 크다. 페이스북은 가입하는 신규 사용자에게 이메일 비밀번호를 요청하고, 사용자 허락 없이 이 비밀번호를 사용해서 해당 이메일 계정과 연결된 이메일 연락처를 복사하고 전송하다가 발각됐다.페이스북은 사람들의 주소록이 “의도치 않게 업로드됐다”고 주장하면서 비밀번호를 보존하지 않으며 데이터도 삭제했다고 밝혔다. 그러나 누가 봐도 연락처 정보를 훔친 목적은 사용자의 소셜 연결망에 대한 정보인데, 정작 이 정보의 보존 여부에 대해서는 아무런 언급도 하지 않았다.
또한 페이스북은 피해를 입은 사람들의 수가 150만 명 정도로 적다는 점을 들어 사건의 파장을 최소화하고자 노력했다. 그러나 도난된 정보는 150만 사용자의 정보가 아니라 그보다 훨씬 더 많은, 사용자들의 연락처에 있는 사람들의 정보다. 평균적인 사용자의 연락처 수가 100개이고 150만 명의 사용자 연락처 중 서로 중복되는 연락처가 없다고 가정하면 피해자의 수는 1억 5,000만 명에 근접한다.
페이스북은 얼마나 많은 사람들이 실질적인 영향을 받았는지는 공개하지 않았다.
페이스북의 의도는 알 수 없다. 그러나 악의적인 행동이든 무능함의 결과이든, 페이스북을 믿을 수 없다는 결론은 마찬가지다.
그 중에서도 가장 비판적인 결론은 전자 프런티어 재단(EFF)의 결론이다. EFF는 페이스북의 행동은 조직을 해킹하는 범죄자와 같다면서 이번 사고에 대한 공식 성명을 통해 “의도와 목적에 따라 분류하면 전형적인 피싱 공격”이라고 비판했다.
관대하게 해석한다 해도, 페이스북이 이메일 비밀번호를 요청한 것은 데이터 보호를 위한 최소한의 기준을 무시한 행동이다.
EFF가 성명에서 말했듯이 이메일 비밀번호는 피싱 공격의 목표물이 되는 경우가 많다. 이메일에는 그 사람과 그 사람이 아는 모든 사람의 모든 온라인 활동을 들여다볼 수 있는 열쇠가 포함되기 때문이다. 그래서 아무리 무책임한 기업이라도 사용자에게 이메일 비밀번호를 묻는 경우는 결코 없다.
이게 끝이 아니다.
페이스북의 변명 중 하나는 이메일 비밀번호 공유는 선택 사항이었으므로 사용자가 원한다면 사용자 확인 수단으로 이메일 또는 전화번호를 사용할 수도 있었다는 것이다. 그러나 이 방법을 택하려면 “도움이 필요한가요(Need help)?” 버튼을 눌러야만 한다. 사용자를 속이는 다크 패턴 디자인의 전형적인 사례다.
전화를 사용한 옵션도 지저분하긴 마찬가지다. 페이스북은 작년 표면적으로는 사용자 확인을 위해 수집한 전화 번호를 사용자 허락 없이 광고에 사용하다가 발각된 전적이 있다.
페이스북 스캔들의 공통적인 테마는 신중하지 못한 개인 데이터 취급이다.
지난 달 페이스북은 페이스북 사용자 수억 명과 인스타그램 사용자 수천 명의 비밀번호를 수많은 페이스북 직원이 접근할 수 있는 페이스북 서버에 손쉽게 읽을 수 있는 형식으로 몇 년 동안 저장해왔다고 밝혔다. 이번 주에는 해당 사건에 대한 게시물에서 영향을 받은 인스타그램 사용자의 수 항목을 기존의 수천 명에서 수백만 명으로 슬그머니 수정했다. 그러면서 정확히 몇 백만 명인지도 밝히지 않았다.
또 다른 보도에서는 서드파티 페이스북 앱 개발사 두 곳이 “방대한” 페이스북 사용자 데이터를 아마존 클라우드 서버에 공개적으로 다운로드 가능한 형식으로 저장했음을 폭로했다. 이 데이터에는 페이스북 사용자 비밀번호 및 활동이 포함된다.
페이스북은 부정직한가?
최근 한 보도에서는 페이스북 CEO 마크 저커버그가 페이스북 사용자의 데이터를 사용해서 친구에게는 보상을, 적에게는 불이익을 줬으며 저커버그를 비롯한 고위 임원들이 사용자 데이터 판매 계획을 수년 동안 논의해왔다고 폭로했다. 이 보도는 페이스북의 사용자 개인정보에 대한 공개 성명과 배후에서 벌어지는 실제 행동이 다르다는 사실도 드러냈다.또한 이번 달에는 페이스북이 사용자가 계정을 비활성화한 후에도 사용자를 계속 추적한다는 사실이 드러났다. 이 관행 역시 페이스북 데이터 정책에는 언급이 되지 않았다.
이전의 여러 보도를 통해 페이스북이 사용자가 제공하지 않은 정보를 보유하고 있으며(섀도우 프로필), 페이스북에서 로그아웃한 사용자를 추적한다는 사실은 이미 알려졌다. 게다가 페이스북은 애초에 계정에 가입하지 않은 사람들까지 추적한다.
작년 한 해 동안의 페이스북 위반 사건만 봐도 페이스북의 부정직 관행이 이 칼럼에 다 언급할 수 없을 만큼 많음을 충분히 짐작할 수 있다.
가상 비서에 신뢰가 필요한 이유
스마트 스피커와 스마트 디스플레이에 내장된 가상 비서 세계에서 신뢰가 하는 역할을 명확히 짚고 넘어가는 것이 중요하다.스마트폰에도 마이크가 있다는 것은 사실이지만 이러한 마이크의 사용은 모바일 운영체제 업체의 엄격한 통제에 따라 이뤄지며, 허가 없이 사용할 경우 회사 내부 팀 또는 이러한 악용을 찾는 데 헌신하는 보안 연구자들에 의해 대부분 적발되어 중지된다.
아마존, 구글, 페이스북이 직접 판매하는 스마트 기기는 일종의 “블랙 박스”이며 센서 악용을 차단하기 위한 중간 기구가 없다.
이러한 디바이스에 설치된 마이크가 언제, 어떤 상황에서 활성화되는지, 녹음 데이터가 어떻게 가공되거나 사용되는지를 알기는 거의 불가능하다.
문제는 지금의 기술이 아니라 미래의 기술이다. 향후 10년 동안 페이스북과 같은 기업이 매일 수백만 개의 마이크에서 오디오를 녹음하고 이 데이터로 구성된 유의미한, 개인정보를 침해하는 초대형 데이터베이스를 만들 가능성은 얼마든지 있다.
AI 개인 비서 사용자 인터페이스 혁명은 시시각각 다가오고 있다. 이 혁명이 일어나면 앞으로는 모든 곳에 마이크가 존재하게 된다.
우리 모두가 이 혁명에서 페이스북의 참여를 거부해야 하는 이유가 여기에 있다. 특히 페이스북은 반복적으로 사용자 개인정보보호를 침해해왔다. 그 중에는 무능함으로 인한 침해도 있지만 악의적이거나 심지어 범죄에 해당하는 경우도 있다.
간단히 말해서, 페이스북은 신뢰할 수 없는 기업이다. editor@itworld.co.kr
함께 보면 좋은 콘텐츠
Sponsored
Surfshark
“유료 VPN, 분명한 가치 있다” VPN 선택 가이드
ⓒ Surfshark VPN(가상 사설 네트워크, Virtual Private Network)은 인터넷 사용자에게 개인 정보 보호와 보안을 제공하는 중요한 도구로 널리 인정받고 있다. VPN은 공공 와이파이 환경에서도 데이터를 안전하게 전송할 수 있고, 개인 정보를 보호하는 데 도움을 준다. VPN 서비스의 수요가 증가하는 것도 같은 이유에서다. 동시에 유료와 무료 중 어떤 VPN을 선택해야 할지 많은 관심을 가지고 살펴보는 사용자가 많다. 가장 먼저 사용자의 관심을 끄는 것은 별도의 예산 부담이 없는 무료 VPN이지만, 그만큼의 한계도 있다. 무료 VPN, 정말 괜찮을까? 무료 VPN 서비스는 편리하고 경제적 부담도 없지만 고려할 점이 아예 없는 것은 아니다. 보안 우려 대부분의 무료 VPN 서비스는 유료 서비스에 비해 보안 수준이 낮을 수 있다. 일부 무료 VPN은 사용자 데이터를 수집해 광고주나 서드파티 업체에 판매하는 경우도 있다. 이러한 상황에서 개인 정보가 유출될 우려가 있다. 속도와 대역폭 제한 무료 VPN 서비스는 종종 속도와 대역폭에 제한을 생긴다. 따라서 사용자는 느린 인터넷 속도를 경험할 수 있으며, 높은 대역폭이 필요한 작업을 수행하는 데 제약을 받을 수 있다. 서비스 제한 무료 VPN 서비스는 종종 서버 위치가 적거나 특정 서비스 또는 웹사이트에 액세스하지 못하는 경우가 생긴다. 또한 사용자 수가 늘어나 서버 부하가 증가하면 서비스의 안정성이 저하될 수 있다. 광고 및 추적 위험 일부 무료 VPN은 광고를 삽입하거나 사용자의 온라인 활동을 추적하여 광고주에게 판매할 수 있다. 이 경우 사용자가 광고를 보아야 하거나 개인 정보를 노출해야 할 수도 있다. 제한된 기능 무료 VPN은 유료 버전에 비해 기능이 제한될 수 있다. 예를 들어, 특정 프로토콜이나 고급 보안 기능을 지원하지 않는 경우가 그렇다. 유료 VPN의 필요성 최근 유행하는 로맨스 스캠은 인터넷 사기의 일종으로, 온라인 데이트나 소셜 미디어를 통해 가짜 프로필을 만들어 상대를 속이는 행위다. 이러한 상황에서 VPN은 사용자가 안전한 연결을 유지하고 사기 행위를 방지하는 데 도움이 된다. VPN을 통해 사용자는 상대방의 신원을 확인하고 의심스러운 활동을 감지할 수 있다. 서프샤크 VPN은 구독 요금제 가입 후 7일간의 무료 체험을 제공하고 있다. ⓒ Surfshark 그 외에도 유료 VPN만의 강점을 적극 이용해야 하는 이유는 다음 3가지로 요약할 수 있다. 보안 강화 해외 여행객이 증가함에 따라 공공 와이파이를 사용하는 경우가 늘어나고 있다. 그러나 공공 와이파이는 보안이 취약해 개인 정보를 노출할 위험이 있다. 따라서 VPN을 사용하여 데이터를 암호화하고 개인 정보를 보호하는 것이 중요하다. 서프샤크 VPN은 사용자의 개인 정보를 안전하게 유지하고 해킹을 방지하는 데 유용하다. 개인정보 보호 인터넷 사용자의 검색 기록과 콘텐츠 소비 패턴은 플랫폼에 의해 추적될 수 있다. VPN을 사용하면 사용자의 IP 주소와 로그를 숨길 수 있으며, 개인 정보를 보호할 수 있다. 또한 VPN은 사용자의 위치를 숨기고 인터넷 활동을 익명으로 유지하는 데 도움이 된다. 지역 제한 해제 해외 여행 중에도 한국에서 송금이 필요한 경우가 생길 수 있다. 그러나 IP가 해외 주소이므로 은행 앱에 접근하는 것이 제한될 수 있다. VPN을 사용하면 지역 제한을 해제해 해외에서도 한국 인터넷 서비스를 이용할 수 있다. 따라서 해외에서도 안전하고 편리하게 인터넷을 이용할 수 있다. 빠르고 안전한 유료 VPN, 서프샤크 VPN ⓒ Surfshark 뛰어난 보안 서프샤크 VPN은 강력한 암호화 기술을 사용하여 사용자의 인터넷 연결을 안전하게 보호한다. 이는 사용자의 개인 정보와 데이터를 보호하고 외부 공격으로부터 사용자를 보호하는 데 도움이 된다. 다양한 서버 위치 서프샤크 VPN은 전 세계 곳곳에 여러 서버가 위치하고 있어, 사용자가 지역 제한된 콘텐츠에 액세스할 수 있다. 해외에서도 로컬 콘텐츠에 손쉽게 접근할 수 있음은 물론이다. 속도와 대역폭 서프샤크 VPN은 빠른 속도와 무제한 대역폭을 제공하여 사용자가 원활한 인터넷 경험을 누릴 수 있도록 지원한다. 온라인 게임, 스트리밍, 다운로드 등 대역폭이 필요한 활동에 이상적이다. 다양한 플랫폼 지원 서프샤크 VPN은 다양한 플랫폼 및 디바이스에서 사용할 수 있다. 윈도우, 맥OS, iOS, 안드로이드 등 다양한 운영체제 및 디바이스에서 호환되어 사용자가 어디서나 안전한 인터넷을 즐길 수 있다. 디바이스 무제한 연결 서프샤크 VPN은 무제한 연결을 제공하여 사용자가 필요할 때 언제든지 디바이스의 갯수에 상관없이 VPN을 사용할 수 있다.