페이스북과 구글이 “테러”에 대처하는 자세

페이스북과 유튜브 같은 소셜 미디어 대기업들이 미 정부 및 기타 국제 파트너들과 함께 온라인에서 관심을 얻은 테러리스트 선동과 기타 과격주의자들의 메시지에 대응하는데 있어서 더욱 능동적인 역할을 하는 방법을 모색하고 있다.

인기 소셜 네트워크이자 유튜브의 모기업 구글의 관계자들은 최근의 한 기술 정책 컨퍼런스에서 단순히 과격주의자 콘텐츠를 제거하는 수준을 넘어, 실제로 반박 메시지 프로그램을 통해 ISIS 같은 그룹의 주장에 대한 대안 서술을 제시하고 있다고 말했다.

구글의 표현의 자유 및 인권 변호사 알렌산드리아 월든은 “우리는 이런 메시지에 대응하기 위해 유튜브의 강점을 십분 활용하고 있다. 우리는 우리의 플랫폼의 힘에 관해 잘 알고 있기 때문에 증오와 폭력에 대한 메시지에 대응하는 최선의 방법은 전 세계적인 증오와 과격주의 및 외국인 혐오에 반대하는 메시지를 촉진하는 것이라고 생각한다”라고 말했다.

이어 “기술과 동영상이 좋은 일에 사용될 수 있다고 믿는다”고 덧붙였다.

마찬가지로 전 법무부 보좌관이자 페이스북에서 글로벌 정책 관리를 주도하고 있는 모니카 비커트는 해당 기업이 자사 사이트의 테러 유도 자료를 없애고 반대 급부 메시지를 효과적으로 제공하는 방법을 연구하며 해당 콘텐츠를 증폭하기 위해 전 세계 그룹들과 협력관계를 구성하기 위해 구축한 대형 인프라에 관해 설명했다.

예를 들어, 페이스북은 해당 기업 자체의 노력을 고지하여 사이트의 치안을 유지하면서 대체 메시지를 촉진한 후 유사한 목적을 가진 전 세계의 조직들과 협력하는 테러 전문가들을 고용하고 있다.

반테러 메시지 확산을 위한 협력관계 구축
페이스북은 대학들과 협력하여 반테러 캠페인을 수립하는 학생팀들을 위한 대회를 마련했다. 아프가니스탄의 학생들이 지난 학기에 수립한 “이슬람은 과격주의를 반대한다(Islam says no to extremism)” 캠페인은 단독으로 온라인상에서 500만 명에게 노출되었다고 비커트가 말했다.

비커트는 “수 천만 명의 사람들이 이 캠페인을 봤다. 캠페인 중 일부는 엄청나게 많은 수의 사람들에게 제공되고 있다”고 덧붙였다.

구글은 이런 단체의 모집 대상이 될 수 있는 사용자에게 맞춤형 광고를 제공하는 것을 포함하여 온라인 과격주의자 선동에 대응하기 위한 여러 노력을 지원하고 있다. 지난 9월, 구글은 “변화를 위한 크리에이터들(Creators for change)” 캠페인을 실시했으며, 이를 통해 잠재적인 영향력을 가진 유튜브 사용자를 파악하고 “그들에게 자원을 제공하며 전 세계의 밀레니엄 세대들에게 증오와 과격주의 및 폭력과 외국인 혐오에 반대하는 메시지를 전달할 수 있도록 도왔다”고 월든이 말했다.

새 행정부 또한 기술이 과격주의자 메시지에 대응하는데 기여할 수 있는 역할을 이해하고 있다. 지난 토요일, 트럼프 대통령은 국가안보팀이 ISIS를 무찌르기 위한 청사진을 개발하도록 지시하는 메모를 발송했으며 국방부와 기타 기관이 30일 이내에 계획서를 제출하도록 요청했다. 그 계획에는 “ISIS를 고립시키고 권위를 실추시키는 대여론 외교, 정보 운영, 사이버 전략” 부문의 반 테러 노력이 포함되어야 한다.

또한, ISIS의 선동 노력이 힘을 잃고 있다는 긍정적인 조짐도 보이고 있다. CTCWP(Combating Terrorism Center at West Point)의 2016년 10월 연구에 따르면 최고조에 이른 2015년 8월 ISIS가 매월 700건 이상의 전언을 전한 것으로 나타났다. 1년 후, 물리적인 전쟁터에서 크게 후퇴하면서 그 수치가 월간 200건 미만으로 감소했다.

탄탄한 콘텐츠 필터링
대응 메시지 노력 외에 페이스북과 구글은 사용 조건을 위반하는 과격주의자 콘텐츠를 찾아 없애는 탄탄한 메커니즘을 시행한다. 페이스북의 경우 해당 사이트의 조건을 위반하는 과격주의자 콘텐츠를 찾도록 훈련된 광범위한 팀이 있다. 이런 훈련은 현지 언어를 구사하며 특정 자료를 선전과 선동 또는 합법적인 용도로 사용할 때를 구별할 수 있는 평가자가 필요하기 때문에 쉽지 않다.

비커트는 “테러 콘텐츠의 경우 맥락이 매우 중요하다. ISIS 깃발 사진 등을 이용할 수 있으며 BBC가 그런 ISIS의 행위를 보도할 수도 있고 ISIS의 영상 등에서 정지 이미지가 등장할 수도 있다. 이는 정책 위반이 아니다.사람들은 이런 ISIS 관련 사건에 대해서 이야기할 순 있지만, 누군가 ‘나는 이 집단을 좋아한다’ 또는 ‘우리는 이 단체에 가입해야 한다’라는 메시지가 담긴 ISIS 깃발 이미지를 사용하거나, ISIS 동영상을 올리면서 이를 비난하지 않는다면, 이것은 정책 위반이기 때문에 삭제한다”라고 설명했다.

구글의 월든은 대부분의 사용자들이 해당 기업의 서비스를 사악한 목적으로 사용하지 않는다고 강조하면서, 구글의 ‘커뮤니티 치안 시스템’이 과격주의자 콘텐츠 및 기타 악성 콘텐츠를 삭제하는 데 효과적인 툴이라고 설명했다.

왈든은 “우리는 커뮤니티 치안 시스템이 잘 작동한다고 생각한다”라면서, “콘텐츠가 빠르게 삭제되며 그렇지 않은 경우 이를 위해 노력한다”고 덧붙였다. editor@itworld.co.kr