2016.11.10

글로벌 칼럼 | 충격적인 미국 대선 결과, 왜 데이터가 실패한 것일까?

Sharon Machlis | Computerworld
필자는 불과 나흘 전인 지난 일요일, 모든 데이터가 뚜렷이 힐러리 클린턴 민주당 대선 후보의 낙승을 가리키고 있다고 자신만만하게 말했다. 블로그에도 썼다. 필자뿐 아니었다. 대다수 여론 조사도 비슷한 결과를 냈다. 정치 데이터 전문 분석과 관련 모델도 같은 결론을 발표했다.

무엇이 문제였을까?

물론 정치적인 면에서 패인을 찾을 수는 있다. 그러나 데이터 과학적 관점에서는 이런 기록적인 데이터 기반 분석의 대실패에서 어떤 교훈을 얻는 것에 더 관심이 있다. 핵심은 대선 전망이라는 불확실성의 성격을 완전히 이해하지 못한 데에 있다고 본다. 데이터를 분석해 예측을 하려는 모든 사람에게 적용되는 교훈이라 할 수 있다.

일반 대중의 온도를 측정할 경우에는 상대적으로 간단하다. 인구 중 무작위 샘플을 취하고, 이 샘플이 일반인을 대표하도록 정확을 기한 후, 한쪽에 치우치지 않은 중립적 질문을 던지고 답변을 모아 통계적 계산을 하면 된다.

그러나 대통령 선거를 전망할 때는 이것만으로는 안 된다. ‘대중 전체’의 여론을 측정하는 것과 ‘실제로 투표장에 갈 사람들’의 여론을 측정하는 것은 완전히 다르기 때문이다.

그러니 하나도 아닌 두 가지의 복잡성이 존재하는 셈이다. 추출한 샘플이 평균 대중의 의사를 적절하게 반영할 뿐 아니라 실제로 투표장에 나와 표를 던질 사람들이 누군지도 정확히 가려내야 하는 것이다. 투표할 것이라고 말하면서도 실제로는 하지 않는 사람도 많다.

쉽게 간과하는 요소가 또 있다. 미국 내 투표권이 사실상 평등한 권리가 아니라는 점이다. 한 연구는 소수자 유권자들이 투표하기 위해서 백인 유권자보다 6배나 더 오래 기다려야 한다는 연구 결과도 발표됐다. 투표장에 갈 생각이 있어도 막상 너무 오래 기다려야 하기 때문에 실제 행동에 제약을 받는 것이다. 이런 요인도 투표장에 가려는 유권자와 실제 투표 결과의 괴리를 설명하는 한 가지 원인이다. 그러나 이번 미국 대통령 선거인단 투표에서 이들 요인이 얼마나 영향을 미쳤는지는 정확히 말하기 어렵다. 분명히 0은 아니겠지만, 전적인 요인이라고도 할 수 없다.

영국의 EU 탈퇴를 묻는 브렉시트 여론 조사가 실제 결과 예측에 실패했을 때, 필자는 단 한 번의 거대 투표에서 유권자의 투표 수를 모델링하는 작업의 어려움을 깨닫고 소름이 끼쳤다. 이런 경우 참고할 만한 과거의 유사한 투표 결과도 없다. 사실 모델링 난도가 최고임을 감안할 때 여론 조사는 오차 범위를 엄청나게 벗어나지는 않았다.

그러나 최근 전 세계적으로 일어나는 여론 조사 데이터 분석의 실패 사례는 하나 둘이 아니다. 브렉시트 투표는 물론이고 지난해 이스라엘 총선, 영국 하원의원 선거도 예측을 빗나갔다.

분명히 무언가가 벌어지고 있는 것이다.

통계학자 네이트 실버는 이번 대선 결과에 대한 3가지 예측을 발표해 혹독한 비난을 받았다. 실버가 내놓은 예상 시나리오 3가지는 “클린턴이 압승을 거둔다, 클린턴이 낙승한다, 트럼프가 가까스로 이긴다”는 예측인데, 이건 마치 “결과가 어떻게 나와도 여기서 벗어날 수는 없지”같은 뻔한 소리로 받아들여졌다. 이에 반해 다른 전문가들은 좀 더 진지한 분석을 내놨다. 그러나 대선 결과를 정확한 수치로 말하는 예언자를 고대한 사람들에게 실버는 불확실성이 생각보다 너무 컸다는 점을 지적했다.

이번 선거가 단지 유권자들의 지지 성향을 종잡을 수 없는 돌연변이 같은 존재였던 것일까? 아니면 시스템의 문제였을까?

흔히 여론 조사의 난점으로 지적되는 집 전화 없이 모바일 전화만 소유한 가구의 존재도 샘플링 구성을 복잡하게 하는 원인이다. 그러나 원인은 또 있다. 필자는 개인적으로 자신이 지지하는 후보를 여론조사 상담원에게 정확히 밝히지 않는 사람들의 존재가 갈수록 커질 것이며, 이 때문에 정확한 샘플 구축이 더욱 어려워질 것이라고 생각한다.

물론 정치적인 이유에서건 프라이버시를 중시하기 때문이건, 혹은 귀찮음 때문이건 간에 기본적으로 여론조사 자체를 싫어하는 사람들이 있을 수 있다. 여론조사 응답을 거부한 사람들이 나머지 사람들의 성향과 크게 다르지 않다면야 큰 영향은 미치지 않는다. 그러나 과연 그럴까? 즐거운 저녁 시간을 방해받기 싫어하는 것은 만국 공통의 특질이다. 그러나 우파 채널인 폭스 뉴스를 즐겨 보고, 주류 미디어를 싫어하는 트럼프 지지자라면 아마도 MSNBC 계열의 민주당 지지자보다 여론조사 방문원과의 잡담을 더 꺼릴 수 있다. 둘 다 35살의 교외 거주 대졸자 중산층 백인 여성이라고 해도 말이다. 인종, 젠더, 출신 배경, 연령만 가지고서는 이 문제에 대한 해답을 낼 수 없다.

많은 관심을 받은 여론조사 실패는 어쩌면 우연이었을지도 모르지만, 유사한 사례가 줄이어 일어난다는 점에서 관련 데이터를 선거 예측에 활용할 때 더욱 불안감이 커진다. 단순히 “데이터가 엉망이라 결과도 엉망”이라는 이야기를 하려는 것이 아니다. 데이터를 다루는 사람이 그 데이터로 무엇을 할 수 있고 어떤 것을 알아낼 수 없는지를 이해하지 못한다면 이것은 더 이상 데이터의 잘못이 아니다. 단순히 모델이 정확해야 데이터도 정확하다는 원칙을 천명하면 되는 단계를 넘어섰다는 의미다. editor@itworld.co.kr 


2016.11.10

글로벌 칼럼 | 충격적인 미국 대선 결과, 왜 데이터가 실패한 것일까?

Sharon Machlis | Computerworld
필자는 불과 나흘 전인 지난 일요일, 모든 데이터가 뚜렷이 힐러리 클린턴 민주당 대선 후보의 낙승을 가리키고 있다고 자신만만하게 말했다. 블로그에도 썼다. 필자뿐 아니었다. 대다수 여론 조사도 비슷한 결과를 냈다. 정치 데이터 전문 분석과 관련 모델도 같은 결론을 발표했다.

무엇이 문제였을까?

물론 정치적인 면에서 패인을 찾을 수는 있다. 그러나 데이터 과학적 관점에서는 이런 기록적인 데이터 기반 분석의 대실패에서 어떤 교훈을 얻는 것에 더 관심이 있다. 핵심은 대선 전망이라는 불확실성의 성격을 완전히 이해하지 못한 데에 있다고 본다. 데이터를 분석해 예측을 하려는 모든 사람에게 적용되는 교훈이라 할 수 있다.

일반 대중의 온도를 측정할 경우에는 상대적으로 간단하다. 인구 중 무작위 샘플을 취하고, 이 샘플이 일반인을 대표하도록 정확을 기한 후, 한쪽에 치우치지 않은 중립적 질문을 던지고 답변을 모아 통계적 계산을 하면 된다.

그러나 대통령 선거를 전망할 때는 이것만으로는 안 된다. ‘대중 전체’의 여론을 측정하는 것과 ‘실제로 투표장에 갈 사람들’의 여론을 측정하는 것은 완전히 다르기 때문이다.

그러니 하나도 아닌 두 가지의 복잡성이 존재하는 셈이다. 추출한 샘플이 평균 대중의 의사를 적절하게 반영할 뿐 아니라 실제로 투표장에 나와 표를 던질 사람들이 누군지도 정확히 가려내야 하는 것이다. 투표할 것이라고 말하면서도 실제로는 하지 않는 사람도 많다.

쉽게 간과하는 요소가 또 있다. 미국 내 투표권이 사실상 평등한 권리가 아니라는 점이다. 한 연구는 소수자 유권자들이 투표하기 위해서 백인 유권자보다 6배나 더 오래 기다려야 한다는 연구 결과도 발표됐다. 투표장에 갈 생각이 있어도 막상 너무 오래 기다려야 하기 때문에 실제 행동에 제약을 받는 것이다. 이런 요인도 투표장에 가려는 유권자와 실제 투표 결과의 괴리를 설명하는 한 가지 원인이다. 그러나 이번 미국 대통령 선거인단 투표에서 이들 요인이 얼마나 영향을 미쳤는지는 정확히 말하기 어렵다. 분명히 0은 아니겠지만, 전적인 요인이라고도 할 수 없다.

영국의 EU 탈퇴를 묻는 브렉시트 여론 조사가 실제 결과 예측에 실패했을 때, 필자는 단 한 번의 거대 투표에서 유권자의 투표 수를 모델링하는 작업의 어려움을 깨닫고 소름이 끼쳤다. 이런 경우 참고할 만한 과거의 유사한 투표 결과도 없다. 사실 모델링 난도가 최고임을 감안할 때 여론 조사는 오차 범위를 엄청나게 벗어나지는 않았다.

그러나 최근 전 세계적으로 일어나는 여론 조사 데이터 분석의 실패 사례는 하나 둘이 아니다. 브렉시트 투표는 물론이고 지난해 이스라엘 총선, 영국 하원의원 선거도 예측을 빗나갔다.

분명히 무언가가 벌어지고 있는 것이다.

통계학자 네이트 실버는 이번 대선 결과에 대한 3가지 예측을 발표해 혹독한 비난을 받았다. 실버가 내놓은 예상 시나리오 3가지는 “클린턴이 압승을 거둔다, 클린턴이 낙승한다, 트럼프가 가까스로 이긴다”는 예측인데, 이건 마치 “결과가 어떻게 나와도 여기서 벗어날 수는 없지”같은 뻔한 소리로 받아들여졌다. 이에 반해 다른 전문가들은 좀 더 진지한 분석을 내놨다. 그러나 대선 결과를 정확한 수치로 말하는 예언자를 고대한 사람들에게 실버는 불확실성이 생각보다 너무 컸다는 점을 지적했다.

이번 선거가 단지 유권자들의 지지 성향을 종잡을 수 없는 돌연변이 같은 존재였던 것일까? 아니면 시스템의 문제였을까?

흔히 여론 조사의 난점으로 지적되는 집 전화 없이 모바일 전화만 소유한 가구의 존재도 샘플링 구성을 복잡하게 하는 원인이다. 그러나 원인은 또 있다. 필자는 개인적으로 자신이 지지하는 후보를 여론조사 상담원에게 정확히 밝히지 않는 사람들의 존재가 갈수록 커질 것이며, 이 때문에 정확한 샘플 구축이 더욱 어려워질 것이라고 생각한다.

물론 정치적인 이유에서건 프라이버시를 중시하기 때문이건, 혹은 귀찮음 때문이건 간에 기본적으로 여론조사 자체를 싫어하는 사람들이 있을 수 있다. 여론조사 응답을 거부한 사람들이 나머지 사람들의 성향과 크게 다르지 않다면야 큰 영향은 미치지 않는다. 그러나 과연 그럴까? 즐거운 저녁 시간을 방해받기 싫어하는 것은 만국 공통의 특질이다. 그러나 우파 채널인 폭스 뉴스를 즐겨 보고, 주류 미디어를 싫어하는 트럼프 지지자라면 아마도 MSNBC 계열의 민주당 지지자보다 여론조사 방문원과의 잡담을 더 꺼릴 수 있다. 둘 다 35살의 교외 거주 대졸자 중산층 백인 여성이라고 해도 말이다. 인종, 젠더, 출신 배경, 연령만 가지고서는 이 문제에 대한 해답을 낼 수 없다.

많은 관심을 받은 여론조사 실패는 어쩌면 우연이었을지도 모르지만, 유사한 사례가 줄이어 일어난다는 점에서 관련 데이터를 선거 예측에 활용할 때 더욱 불안감이 커진다. 단순히 “데이터가 엉망이라 결과도 엉망”이라는 이야기를 하려는 것이 아니다. 데이터를 다루는 사람이 그 데이터로 무엇을 할 수 있고 어떤 것을 알아낼 수 없는지를 이해하지 못한다면 이것은 더 이상 데이터의 잘못이 아니다. 단순히 모델이 정확해야 데이터도 정확하다는 원칙을 천명하면 되는 단계를 넘어섰다는 의미다. editor@itworld.co.kr 


X