글로벌 칼럼 | 트위터의 시도, 왜 실패할 수밖에 없나

구글은 세계 최고의 알고리즘과 인공 지능 시스템을 개발한 기업이다. 이런 구글마저 소프트웨어를 이용한 콘텐츠 관리에 실패한 전례가 있다. 지난 수년 간 구글은 구글 플러스 내 ‘저품질’ 답글을 포착하는 알고리즘을 개발해왔다. 실제로 저품질로 분류된 답글을 자동으로 숨겨주고 사용자가 ‘모든 답글 보기’ 메뉴를 선택할 때에만 모두 표시하는 기능이 적용되고 있지만, 대다수 사용자에게 이 알고리즘의 존재는 잘 알려지지 않은 상태다.

필자의 추측에 따르면 고품질 답글 가운데 10%가량은 ‘저품질’로 분류돼 사용자의 시야에서 사라지고 있으며, 마찬가지로 동일한 수준의 ‘저품질’ 답글이 ‘고품질’로 분류돼 다른 답글들과 함께 상단에 노출되고 있다. 소프트웨어 필터링 기법은 이렇게 정확도 면에서 한계를 지니는 것이 현실이다.

일례로, 최근 필자는 구글 플러스에 ‘미스터리 사진’을 포스팅한 적이 있다. 테크놀로지 관련 사진을 포스팅해 놓고 팔로워들을 초청해 사진 속에 무엇이 보이는지 맞춰보라고 했다.

그중 한 사람이 “오피스용 의자 바퀴나 콩 껍질 같다”고 답글을 달았다. 정확히 내가 의도한 대로였지만, 구글 소프트웨어는 이 답글을 스팸으로 인식해 아무도 볼 수 없게 숨겨버렸다.

그 밑에 다른 사람은 아무런 말도 없이 붙임표(-)만 하나 적어 놓았는데, 우리의 관점에서는 매우 ‘성의 없는’ 답글이지만 구글 소프트웨어는 이를 제대로 된 답변으로 인식해 그대로 두었다.

소프트웨어를 통한 언어 판단은 여전히 한계를 지닌다.

답글의 품질을 자동으로 판단해 ‘저품질’ 콘텐츠를 시야에서 숨긴다는 구글의 구상은 실패로 돌아갔고, 그 결과 구글 플러스는 본래의 가치를 온전히 발휘하지 못하고 있다. 나쁜 답글이 표시되고 좋은 답글이 묻히는 이러한 상황은 트위터에서도 유사하게 전개되고 있다.

차이점이라면 구글 플러스의 경우 사용자가 자체적으로 소프트웨어 알고리즘의 오류를 교정하는 것이 가능하다는 점이다. 반면, 트위터에서는 시스템이 악성 멘션을 감지하지 못할 때 사용자가 취할 수 있는 조치가 전무하다.

마찬가지로 트위터의 시스템이 숨긴 좋은 답글들을 보려면, 링크를 다시 또 클릭하는 단계를 거쳐야 한다. 이마저도 포스팅 게시자 본인 외 다른 이들은 접근 자체가 불가능한 경로다. 반대로 잘못 노출된 저품질 답글의 경우, 트위터 상의 모두에게 그대로 노출된다.

그리고 트롤들이 이 알고리즘을 이해하게 된다면, 그들은 시스템에 의해 차단되지 않는 악성 멘션들을 쏟아낼 수 있다.

아무리 훌륭한 시스템이나 소프트웨어를 개발한다 해도, 해킹하려고, 혹은 스팸이나 악성 멘션을 남기려고 작정하고 달려드는 사람 앞에서는 얼마 못 가 무너지고 만다. 트위터가 아무리 열심히 악성 멘션을 숨기는 소프트웨어를 만든다고 해도 악성 사용자들은 머지않아 시스템을 우회해 악성 멘션을 남길 방법을 생각해 내고야 말 것이다.

업계 표준인 사용자 관리 시스템을 외면한 것 말고도, 트위터는 익명성에 대해서도 단호한 태도를 굽힐 생각이 없어 보인다. 다른 사용자에게뿐만 아니라 트위터 관리자조차도 글을 게재한 것이 누구인지 전혀 알 수 없다. 현재 트위터는 완전한 익명성을 보장하고 있다. 그래서 실제 글을 쓰는 사용자가 봇일수도 있고, 러시아 정부에 고용된 악성 사용자이거나 계정을 100개쯤 가지고 있는 사람일 수도 있지만 알 방법은 없다.

(지난달 한 연구 결과에 따르면, 트위터상에는 자동화 봇이 관리하는 약 35만 개의 가짜 계정이 존재하며 이들 중 대다수가 수년 동안 활동하면서도 한 번도 차단 시스템 필터에 걸리지 않았다고 한다.)

사용자들에게 익명성이 보장되는 트위터의 환경 속에서 ‘영구 차단 조치된 사용자의 신규 계정 생성 시도를 제한하는’ 것이 어떤 원리로 가능한지 개인적으로는 이해되지 않는다. 어떻게 누군지도 모르는 사람을 ‘확인’하는 것이 가능할까? 또 그런 조치 과정에서 무고한 사람이 계정 생성을 제한받는 부작용에는 어떻게 대처할 수 있을까?

더 우려되는 부분은 트위터의 새로운 안전 조치가 역으로 악용될 수 있다는 점이다.

트위터는 차단된 계정이 포스팅한 트윗을 검색 결과에 노출하지 않는 조치를 발표했는데, 거꾸로 악성 사용자에게 최고의 환경을 만들 수도 있는 일이다.

트롤들의 조직적인 행동을 통해, 혹은 한 사람이 생성한 다수의 계정을 이용해 악성 멘션 피해자의 계정이 차단되도록 하고 그 트윗들이 검색 결과에서 사라지게 한다면, 피해자들은 자신이 고립됐다는 사실도 모른 채 계속 피해의 대상으로 남아있는 것이다.

이 안전조치가 시행될 경우(향후 수 주 내 적용이 예정돼 있다) 자동 시스템에 의해 고립되는 선량한 피해자의 증가가 우려된다.


예를 들어, 한 여성이 비디오 게임 속에 반영된 성차별적 문화에 대한 글을 트위터에 올려왔다고 해보자. 그리고 이러한 태도로 인해 수많은 여성 혐오자들의 공격 대상이 되었고 지난 2년간 이들에 맞서 논쟁을 벌여왔다고 치자. 아마도 수십, 수백 명의 트위터 사용자가 이미 이 여성을 차단했을 것이다. 트위터의 새 규칙이 도입되면, 이제 이 여성이 과거에 올렸던 트윗은 물론, 현재, 그리고 미래에 올릴 트윗들까지도 검색 결과에서 제거될 것이다.

트위터가 악성 사용자들이 하지 못했던 일까지 나서서 마무리해주는 격이 될 것이다.

SNS상의 악성 멘션 문제에 대처할 방법은 3가지뿐이다. 답글의 사용자 관리 시스템 적용과 사용자 랭킹별 멘션 제도, 그리고 어느 정도의 실명제다.

이 모든 방법을 다 거부하는 트위터가 악성 멘션의 온상이 된 것은 당연한 순서일 뿐이다.

반대로 이 세3가지 방법을 받아들인다면 트위터는 손에 꼽게 청정한 SNS로 거듭날 수 있다.

그런데도 트위터는 대화의 질을 떨어뜨리고 건전한 사용자들을 외면하게 하는 비효율적 시스템과 소프트웨어 관리 방식을 고집하고 있다. 악성 사용자들은 머지않아 이런 시스템을 우회하는 방법을 찾아낼 것이고, 결국 트위터라는 SNS는 한 단계 더 낮은 평가를 받게 될 것이다.

트위터가 직면한 문제는 절대로 가볍지 않다. 성장세는 멈추다시피 했고, 성공이나 이윤과도 거리가 멀어지고 있다.

세계인의 온라인 광장이 되어 인터넷상의 담론을 이끌고 공유해야 할 트위터, 전 세계적으로 유례없는 성공을 거두었던 한 SNS가 너무나도 안타까운 실패를 겪고 있다.

악성 멘션과 혐오, 독설이 오가는 장이라는 이미지를 벗지 못하는 이상 이러한 추락을 되돌리기란 어려워 보인다. 충분히 피할 수 있는 실패인데도 그렇지 못해 더욱 안타깝다.

거의 아무런 비용도 들이지 않고 이러한 문제를 일거에 해결할 수 있는 사용자 관리라는 제도가 있음에도 이를 활용하지 않는 것은 비즈니스적인 측면에서 보아도 도무지 이해하기 힘든 처사이며 수백만 사용자의 신뢰를 배반하는 행위이기까지 하다.

앞으로도 무궁한 성장 가능성을 지닌 트위터라는 SNS가 고위 의사결정자의 잘못된 판단으로 망가지지 않기를 바란다. editor@itworld.co.kr