"AI 이용해 악성 댓글 차단"··· 구글, '퍼스펙티브' API 공개
구글과 직소(Jigsaw, 구글의 모회사 알파벳 산하의 창업 초기 기업이다)가 '퍼스펙티브(Perspective)'라는 프로젝트를 시작한 것도 이 때문이다. 인공지능을 이용해 악성 댓글을 찾아내 이를 줄이는 것이 최종 목표이다.
지난 23일 구글과 직소는 퍼스펙티브의 API(Application Programming Interface)를 공개됐다. 사용자가 악성 댓글로 인식하는 정도를 점수화해 개발자에게 제공한다. 이 점수는 자동 필터링 같은 기능을 개발하거나 사용자가 댓글을 입력하기 전에 별도 알림을 보내는 데 사용할 수 있다. 퍼스펙티브 API를 현재 작업중인 프로젝트에 사용하려면 직소에 별도로 요청해야 한다. 업체가 수시로 내용을 검토해 승인한다.
많은 매체가 자사 기사에 달린 댓글을 관리하는 데 애를 먹고 있다. 그래서 아예 댓글 기능을 막거나 소셜 미디어 플랫폼으로 토론 기능을 넘겨 버리기도 한다. 예를 들어 퍼스펙티브 개발을 지원해 온 뉴욕 타임스의 경우도 수동으로 댓글을 관리 부담 때문에 현재는 자사 기사의 10% 정도에만 댓글 기능을 지원한다.
그동안 구글은 어뷰즈 필터링 성능을 향상하기 위해 대규모로 투자해 왔다. 유튜브 댓글 섹션은 독설로 가득차 있는데, 퍼스펙티브 API를 이용하면 이를 필터링 하는 부담을 줄이는 데 도움이 될 것으로 보인다. 그러나 퍼스펙티브의 댓글 이해력은 아무리 후하게 점수를 준다고 해도 '불완전'하다. 예를 들어 "여기 끝내주는 음악이 있네"라는 코멘트에 대해 악성 댓글 가능성을 85%로 판단했다.
직소 측도 이러한 문제를 인식하고 있다. 그래서 퍼스펙티브 웹사이트에 접속하면 직접 코멘트를 입력해 악성 댓글인지 여부를 테스트할 수 있다. 이러한 반복 테스트를 통해 의견을 취합해 어뷰즈 인식 기술을 강화할 예정이다. 업체는 "아직 초기단계이고 개선해야 할 것이 많다"라고 설명했다.
현재 퍼스펙티브는 영어만 정식 지원한다. 다른 언어에서는 일부 악성 댓글만 문맥을 고려해 잡아낸다. 이 부분은 다양한 언어권의 개발자로부터 지원을 받을 수 있을 것으로 기대하고 있다. 또한, 직소는 다른 기능을 지원하는 퍼스펙티브 API를 추가로 공개할 계획이다. editor@itworld.co.kr