2017.02.24

"AI 이용해 악성 댓글 차단"··· 구글, '퍼스펙티브' API 공개

Blair Hanley Frank | IDG News Service
인터넷은 때때로 대화하기 매우 껄끄러운 공간이다. 특히 어뷰즈 같은 악성 댓글을 제대로 관리하지 못하는 소셜 미디어 플랫폼은 유명인은 물론 일반 사용자로부터도 외면을 받는다. 그래서 일부 매체는 댓글 기능을 아예 꺼놓기도 한다.

구글과 직소(Jigsaw, 구글의 모회사 알파벳 산하의 창업 초기 기업이다)가 '퍼스펙티브(Perspective)'라는 프로젝트를 시작한 것도 이 때문이다. 인공지능을 이용해 악성 댓글을 찾아내 이를 줄이는 것이 최종 목표이다.

지난 23일 구글과 직소는 퍼스펙티브의 API(Application Programming Interface)를 공개됐다. 사용자가 악성 댓글로 인식하는 정도를 점수화해 개발자에게 제공한다. 이 점수는 자동 필터링 같은 기능을 개발하거나 사용자가 댓글을 입력하기 전에 별도 알림을 보내는 데 사용할 수 있다. 퍼스펙티브 API를 현재 작업중인 프로젝트에 사용하려면 직소에 별도로 요청해야 한다. 업체가 수시로 내용을 검토해 승인한다.

많은 매체가 자사 기사에 달린 댓글을 관리하는 데 애를 먹고 있다. 그래서 아예 댓글 기능을 막거나 소셜 미디어 플랫폼으로 토론 기능을 넘겨 버리기도 한다. 예를 들어 퍼스펙티브 개발을 지원해 온 뉴욕 타임스의 경우도 수동으로 댓글을 관리 부담 때문에 현재는 자사 기사의 10% 정도에만 댓글 기능을 지원한다.

그동안 구글은 어뷰즈 필터링 성능을 향상하기 위해 대규모로 투자해 왔다. 유튜브 댓글 섹션은 독설로 가득차 있는데, 퍼스펙티브 API를 이용하면 이를 필터링 하는 부담을 줄이는 데 도움이 될 것으로 보인다. 그러나 퍼스펙티브의 댓글 이해력은 아무리 후하게 점수를 준다고 해도 '불완전'하다. 예를 들어 "여기 끝내주는 음악이 있네"라는 코멘트에 대해 악성 댓글 가능성을 85%로 판단했다.

직소 측도 이러한 문제를 인식하고 있다. 그래서 퍼스펙티브 웹사이트에 접속하면 직접 코멘트를 입력해 악성 댓글인지 여부를 테스트할 수 있다. 이러한 반복 테스트를 통해 의견을 취합해 어뷰즈 인식 기술을 강화할 예정이다. 업체는 "아직 초기단계이고 개선해야 할 것이 많다"라고 설명했다.

현재 퍼스펙티브는 영어만 정식 지원한다. 다른 언어에서는 일부 악성 댓글만 문맥을 고려해 잡아낸다. 이 부분은 다양한 언어권의 개발자로부터 지원을 받을 수 있을 것으로 기대하고 있다. 또한, 직소는 다른 기능을 지원하는 퍼스펙티브 API를 추가로 공개할 계획이다.  editor@itworld.co.kr


2017.02.24

"AI 이용해 악성 댓글 차단"··· 구글, '퍼스펙티브' API 공개

Blair Hanley Frank | IDG News Service
인터넷은 때때로 대화하기 매우 껄끄러운 공간이다. 특히 어뷰즈 같은 악성 댓글을 제대로 관리하지 못하는 소셜 미디어 플랫폼은 유명인은 물론 일반 사용자로부터도 외면을 받는다. 그래서 일부 매체는 댓글 기능을 아예 꺼놓기도 한다.

구글과 직소(Jigsaw, 구글의 모회사 알파벳 산하의 창업 초기 기업이다)가 '퍼스펙티브(Perspective)'라는 프로젝트를 시작한 것도 이 때문이다. 인공지능을 이용해 악성 댓글을 찾아내 이를 줄이는 것이 최종 목표이다.

지난 23일 구글과 직소는 퍼스펙티브의 API(Application Programming Interface)를 공개됐다. 사용자가 악성 댓글로 인식하는 정도를 점수화해 개발자에게 제공한다. 이 점수는 자동 필터링 같은 기능을 개발하거나 사용자가 댓글을 입력하기 전에 별도 알림을 보내는 데 사용할 수 있다. 퍼스펙티브 API를 현재 작업중인 프로젝트에 사용하려면 직소에 별도로 요청해야 한다. 업체가 수시로 내용을 검토해 승인한다.

많은 매체가 자사 기사에 달린 댓글을 관리하는 데 애를 먹고 있다. 그래서 아예 댓글 기능을 막거나 소셜 미디어 플랫폼으로 토론 기능을 넘겨 버리기도 한다. 예를 들어 퍼스펙티브 개발을 지원해 온 뉴욕 타임스의 경우도 수동으로 댓글을 관리 부담 때문에 현재는 자사 기사의 10% 정도에만 댓글 기능을 지원한다.

그동안 구글은 어뷰즈 필터링 성능을 향상하기 위해 대규모로 투자해 왔다. 유튜브 댓글 섹션은 독설로 가득차 있는데, 퍼스펙티브 API를 이용하면 이를 필터링 하는 부담을 줄이는 데 도움이 될 것으로 보인다. 그러나 퍼스펙티브의 댓글 이해력은 아무리 후하게 점수를 준다고 해도 '불완전'하다. 예를 들어 "여기 끝내주는 음악이 있네"라는 코멘트에 대해 악성 댓글 가능성을 85%로 판단했다.

직소 측도 이러한 문제를 인식하고 있다. 그래서 퍼스펙티브 웹사이트에 접속하면 직접 코멘트를 입력해 악성 댓글인지 여부를 테스트할 수 있다. 이러한 반복 테스트를 통해 의견을 취합해 어뷰즈 인식 기술을 강화할 예정이다. 업체는 "아직 초기단계이고 개선해야 할 것이 많다"라고 설명했다.

현재 퍼스펙티브는 영어만 정식 지원한다. 다른 언어에서는 일부 악성 댓글만 문맥을 고려해 잡아낸다. 이 부분은 다양한 언어권의 개발자로부터 지원을 받을 수 있을 것으로 기대하고 있다. 또한, 직소는 다른 기능을 지원하는 퍼스펙티브 API를 추가로 공개할 계획이다.  editor@itworld.co.kr


X