2017.10.23

"페이스북 번역을 믿지마세요", '좋은 아침' 게시했다 체포 소동

Ms. Smith | CSO
이스라엘 경찰은 한 팔레스타인 인을 체포했다. 한 팔레스타인 인이 페이스북에 "좋은 아침"이라고 게시한 글을 페이스북이 "그들을 공격하라"라고 잘못 번역한 탓이다. 페이스북 인공지능과 결합된 소셜 미디어 모니터링이 게시물을 잘못 번역해 선동 혐의로 체포하도록 부추긴 것이다.

웃음많은 한 팔레스타인 건설 노동자가 페이스북에 불도저에 기대어 커피 한잔을 들고 있는 자신의 사진을 올리면서 아랍어로 "좋은 아침"이라고 썼다.

페이스북의 번역 서비스에 의존하고 있는 이스라엘 경찰은 이 게시물이 "그들을 공격하라"라고 쓴 것으로 믿었다. 이스라엘 일간지 하아레츠(Haaretz)는 "페이스북에서 제공하는 자동 번역 서비스는 자체적인 알고리즘을 사용한다. 히브리어로 '좋은 아침'을 '공격하다'로 번역을 했으며 영어로는 '상처를 주다'로 번역한다"고 보도했다.

이 팔레스타인 남자는 예루살렘 근처 웨스트 뱅크(West Bank)에 위치한 베타르 일리트(Beitar Illit) 정착촌의 건설 현장에서 불도저와 함께 사진을 찍었는데, 불도저들은 과거 이스라엘인에 대한 테러 공격에 사용되기도 했다.

이스라엘 경찰은 이를 아랍어를 구사하는 직원과 상담하지 않았으며, 대신 페이스북의 번역에 전적으로 믿었다. 그 결과 이 팔레스타인 인은 체포됐다.

하아레츠는 "아랍어 사용자는 페이스북에서 사용된 영문 변환이 아랍어에서는 실제 그 단어가 아니지만, '상처'라는 동사처럼 보일 수 있다"며, "아랍어 사용자가 이 변환이 실제 정확하지 않음을 분명 알 수 있다"고 설명했다.

하아레츠는 "'좋은 아침'과 '그들을 다치게하라'라는 아랍어 구어체 간에는 한 글자만 차이가 있다"고 말했다. 이스라엘 경찰청 웨스트뱅크 지역 대변인은 건설 노동자의 체포 사실을 확인했으며, 경찰은 페이스북이 좋은 아침을 잘못 번역한 것이라는 것을 알아채고 수시간 만에 풀어줬다고 덧붙였다.

페이스북 인공지능 연구원들은 지난 5월 자체 나선 신경망(Convolutional Neural Networks, CNN)을 위한 연구 보고서와 툴킷을 발표했다. 이 새로운 머신러닝 번역 방법은 순환 신경망(Recurrent Neural Network, RNN) 시스템보다 9배나 빠른 속도와 최첨단 정확도를 달성할 수 있다고 전했다. 페이스북의 새로운 인공지능은 실제로 의미있는 번역을 할 수 있을 것이라고 전했다.

인공지능 연구원들은 자신들의 우수한 번역이 멀티 홉 어탠션(multi-hop attention)와 게이팅(gating)의 결과라고 설명했다.

"우리 아키텍처의 차별화된 요소는 멀티 홉 어탠션이다. 어탠션 메커니즘은 사람이 문장을 번역할 때 구문을 분석하는 방식과 유사하다. 한번만 문장을 보고 완전히 번역하는 것이 아니라 다음 번역할 단어를 의미를 선택하기 위해 구문 편력(glimpses)을 반복한다. 이는 사람이 종종 번역할 때 특정 키워드를 되짚어 보는 것과 유사한 방식이다. 멀티 홉 어탠션은 이 메커니즘의 강화된 버전으로 네트워크에서 여러가지 편력을 만들어내어 더 나은 번역을 만들 수 있다. 이런 편력은 각각 서로 간에 의존한다. 예를 들어, 첫번째 편력은 동사에 초점을 맞출 수 있다면 두번째 편력은 보조 동사에 집중할 수 있다."

좀더 나은 번역은 좋은 것이긴 하지만, 사람이 체포되기 전에 인공지능 번역에 대해 사람에게 확인을 받아야 할 것으로 보인다.

대부분의 정부기관과 마찬가지로, 이스라엘의 정부기관 역시 소셜 미디어 모니터링을 수행한다. 이를 통해 지난 4월에는 공격을 계획한 것으로 추정되는 400명의 팔레스타인 인을 체포한 바 있다. 이스라엘은 자체 소셜 미디어 감시가 공격을 계획하고 있는 총 2,200명의 팔레스타인 인을 막았다고 주장하고 있다.

체포된 팔레스타인 건설 노동자는 석방된 이후, 게시했던 좋은 아침을 삭제했다. editor@itworld.co.kr  


2017.10.23

"페이스북 번역을 믿지마세요", '좋은 아침' 게시했다 체포 소동

Ms. Smith | CSO
이스라엘 경찰은 한 팔레스타인 인을 체포했다. 한 팔레스타인 인이 페이스북에 "좋은 아침"이라고 게시한 글을 페이스북이 "그들을 공격하라"라고 잘못 번역한 탓이다. 페이스북 인공지능과 결합된 소셜 미디어 모니터링이 게시물을 잘못 번역해 선동 혐의로 체포하도록 부추긴 것이다.

웃음많은 한 팔레스타인 건설 노동자가 페이스북에 불도저에 기대어 커피 한잔을 들고 있는 자신의 사진을 올리면서 아랍어로 "좋은 아침"이라고 썼다.

페이스북의 번역 서비스에 의존하고 있는 이스라엘 경찰은 이 게시물이 "그들을 공격하라"라고 쓴 것으로 믿었다. 이스라엘 일간지 하아레츠(Haaretz)는 "페이스북에서 제공하는 자동 번역 서비스는 자체적인 알고리즘을 사용한다. 히브리어로 '좋은 아침'을 '공격하다'로 번역을 했으며 영어로는 '상처를 주다'로 번역한다"고 보도했다.

이 팔레스타인 남자는 예루살렘 근처 웨스트 뱅크(West Bank)에 위치한 베타르 일리트(Beitar Illit) 정착촌의 건설 현장에서 불도저와 함께 사진을 찍었는데, 불도저들은 과거 이스라엘인에 대한 테러 공격에 사용되기도 했다.

이스라엘 경찰은 이를 아랍어를 구사하는 직원과 상담하지 않았으며, 대신 페이스북의 번역에 전적으로 믿었다. 그 결과 이 팔레스타인 인은 체포됐다.

하아레츠는 "아랍어 사용자는 페이스북에서 사용된 영문 변환이 아랍어에서는 실제 그 단어가 아니지만, '상처'라는 동사처럼 보일 수 있다"며, "아랍어 사용자가 이 변환이 실제 정확하지 않음을 분명 알 수 있다"고 설명했다.

하아레츠는 "'좋은 아침'과 '그들을 다치게하라'라는 아랍어 구어체 간에는 한 글자만 차이가 있다"고 말했다. 이스라엘 경찰청 웨스트뱅크 지역 대변인은 건설 노동자의 체포 사실을 확인했으며, 경찰은 페이스북이 좋은 아침을 잘못 번역한 것이라는 것을 알아채고 수시간 만에 풀어줬다고 덧붙였다.

페이스북 인공지능 연구원들은 지난 5월 자체 나선 신경망(Convolutional Neural Networks, CNN)을 위한 연구 보고서와 툴킷을 발표했다. 이 새로운 머신러닝 번역 방법은 순환 신경망(Recurrent Neural Network, RNN) 시스템보다 9배나 빠른 속도와 최첨단 정확도를 달성할 수 있다고 전했다. 페이스북의 새로운 인공지능은 실제로 의미있는 번역을 할 수 있을 것이라고 전했다.

인공지능 연구원들은 자신들의 우수한 번역이 멀티 홉 어탠션(multi-hop attention)와 게이팅(gating)의 결과라고 설명했다.

"우리 아키텍처의 차별화된 요소는 멀티 홉 어탠션이다. 어탠션 메커니즘은 사람이 문장을 번역할 때 구문을 분석하는 방식과 유사하다. 한번만 문장을 보고 완전히 번역하는 것이 아니라 다음 번역할 단어를 의미를 선택하기 위해 구문 편력(glimpses)을 반복한다. 이는 사람이 종종 번역할 때 특정 키워드를 되짚어 보는 것과 유사한 방식이다. 멀티 홉 어탠션은 이 메커니즘의 강화된 버전으로 네트워크에서 여러가지 편력을 만들어내어 더 나은 번역을 만들 수 있다. 이런 편력은 각각 서로 간에 의존한다. 예를 들어, 첫번째 편력은 동사에 초점을 맞출 수 있다면 두번째 편력은 보조 동사에 집중할 수 있다."

좀더 나은 번역은 좋은 것이긴 하지만, 사람이 체포되기 전에 인공지능 번역에 대해 사람에게 확인을 받아야 할 것으로 보인다.

대부분의 정부기관과 마찬가지로, 이스라엘의 정부기관 역시 소셜 미디어 모니터링을 수행한다. 이를 통해 지난 4월에는 공격을 계획한 것으로 추정되는 400명의 팔레스타인 인을 체포한 바 있다. 이스라엘은 자체 소셜 미디어 감시가 공격을 계획하고 있는 총 2,200명의 팔레스타인 인을 막았다고 주장하고 있다.

체포된 팔레스타인 건설 노동자는 석방된 이후, 게시했던 좋은 아침을 삭제했다. editor@itworld.co.kr  


X