'트롤'과 싸우는 트위터, 뮤트 기능 확장하고 머신러닝 도입한다

Computerworld
트위터가 온라인상에서 벌어지는 논쟁과 인종차별 공격 등을 일삼는 악성 사용자, 일명 ‘트롤’과의 전투에 사활을 걸었다. 트위터는 연이어 악성 사용자를 차단하고 일반 사용자들의 온라인 노출을 막는 조처를 단행한다.

트위터 엔지니어링 담당 부사장 에드 호는 블로그를 통해 “트위터를 더욱 안전하고 그 어느 때보다 더 빠른 속도로 움직이는 작업을 진행하고 있다”며, “이번주 악성 콘텐츠를 줄이고, 사용자 경험을 제어하는 도구를 제공해 더욱 명확한 커뮤니케이션을 가능하게 하는 업데이트를 도입할 계획”이라고 밝혔다.

관련 도구 개발과 함께, 사용자가 신고하기 전에도 악성 콘텐츠를 감지하는 기능을 추가했다.

무어 I&S 애널리스트 패트릭 무어헤드는 “트위터에 잔존하는 악성 공격을 줄일 수 있을 것”이라고 전망하면서 “사용자들이 악성 트윗에 표시를 붙이거나 신고하기 전에 먼저 욕설이나 공격 등 폭력성 콘텐츠를 찾아내는 머신러닝 기술을 활용하는 것으로 보인다. 공격적 멘션이 상대에게 가 닿기도 전에 공격자를 포착할 수 있을 것”이라고 평가했다.

상습적 악성 사용자를 미리 감지하면 도달 범위를 제한할 수 있다.

에드 호는 “악성 사용자의 경우 일시적으로 팔로워만 트윗을 볼 수 있는 등의 조처를 취할 것”이라고 밝혔다. 예를 들어 계정이 반복적으로 팔로워가 아닌 사람에게 트윗을 하거나 트위터 약관에 위반되는 공격적 행동에 참여할 경우 악성 트윗은 팔로워가 아닌 사람에게 공개되지 않는다. 호는 “트위터는 모든 관점을 공유할 자유를 지원한다. 그러나 계정이 반복적으로 트위터 규칙을 위반할 경우 추가 조치를 고려하고 있다”고 말했다.

호는 트위터 알고리즘이 악성으로 확인된 계정에만 집중 적용된다는 점을 강조했다.


또, 프로필 사진이 있거나 확인된 이메일, 전화번호를 등록한 사용자만 볼 수 있는 알림 필터링 도구를 제공하기도 한다.

호는 “지난해 11월에 했던 작업을 토대로 뮤트 기능을 확장해 특정 단어, 문구, 또는 전체 대화를 뮤트할 수 있다”고 밝혔다. 일부 서드파티 앱에서만 제공됐던 기본 타임라인 뮤트 기능이 이제 공식적으로 지원된다. 호는 “콘텐츠를 뮤트하는 기간(예 : 1시간, 1주, 1개월, 무기한 등)을 설정할 수 있다. 사용자들이 가장 많이 요청한 이 기능의 공개가 기다려진다”고 덧붙였다.

악성 콘텐츠를 신고하는 일반 사용자와의 소통을 늘리는 것도 과제였다.

예를 들어 사용자가 트위터에 악용 사례 신고를 접수하면, 이후 신고된 계정에 적합한 조처가 내려질 경우 이를 통보받을 수 있다. 메시지는 사용자 알림 탭에 표시된다.

호는 “트위터를 안전하게 만드는 작업에서 많은 것을 배우고 있다. 트위터의 변경 사항에서는 물론이고, 잘못 저지르는 실수와 사용자가 공유하는 피드백에서 여러 가지를 알 수 있었다”며, “향후 최대 수 주 안에 트위터가 지원하는 모든 언어 버전에서 새로운 기능을 선보일 예정”이라고 밝혔다.

무어헤드에 따르면, 공격자를 소외시키고 적극 대응하는 방법은 트위터 사용자층에서 자라나던 문제점을 해결할 전략이다. 무어헤드는 “트위터가 공격적인 맞대응을 펼치는 점이 마음에 든다”며, “트위터는 많은 장점을 지닌 플랫폼이다. 그러나 트위터의 성장을 저해하는 부정적인 면을 꼽으라면 단연 온라인 공격이며, 이 때문에 많은 사용자들이 떠나가기도 했다”고 지적했다.


ZK 리서치 애널리스트 지우스 케라발라도 “유명인 한 명이 온라인 공격 때문에 트위터에서 탈퇴하면, 많은 팬들이 함께 트위터를 떠나간다”며 동의했다. 케라발라는 “악성 사용자는 분명 신규 사용자가 트위터에 가입해 플랫폼을 즐기는 것을 방해하는 요소다. 온라인 공격과 악성 트윗 문제가 악화될 가능성이 크기 때문에 트위터가 더 적극적으로 나서는 것은 좋은 변화”라고 설명했다. editor@itworld.co.kr