2018.11.16

머신러닝 실패 사례에서 배우는 다섯 가지 교훈

Bob Violino | InfoWorld

머신러닝(Machine Learning))은 비즈니스와 기술 부문의 많은 경영진과 임원들이 실현 및 활용 방법을 파악하려 애를 쓰고 있는 이른바 가장 ‘핫’한 범주에 속하는 기술이다. 제대로 구현해 활용할 경우, 머신러닝은 영업과 마케팅 캠페인의 효과를 높이고, 수익 모델을 향상하고, 부정 행위 및 사기를 쉽게 탐지할 수 있도록 도와주고, 장비와 장치에 대해 예측 유지보수를 수행하는 등 다양한 이점을 얻을 수 있다.

그러나 잘못될 경우, 서둘러 도입한 것을 후회하게 될 수도 있다. 다음은 머신러닝을 잘못되도록 만드는 다섯 가지 실수이다. 이는 실제 머신러닝을 도입한 기업의 사례에 바탕을 두고 있다. 이들 기업은 이 글을 읽는 독자들이 같은 실수를 하지 않도록 자신들이 터득한 교훈을 공유했다.
 

ⓒ Getty Images Bank


교훈 1. 가정이 잘못되면 궤도를 이탈한다
컨설팅 회사의 기업 활동에 도움을 주는 전문 서비스 자동화 소프트웨어를 설계 및 제작하는 미국 회사인 프로젝트 PSA(Project PSA)는 인적 자원 운영 계획 수립에 있어 변동성을 예측하는 데 머신러닝을 활용하려 시도하면서 힘들게 이런 교훈을 터득했다.

컨설팅 회사는 잘 훈련된 전문 컨설턴트와 이들의 재능을 효율적으로 활용하는 것이 아주 중요하다. 이에 프로젝트 관리자를 채용, 프로젝트에 필요한 인적 자원 요구사항을 공유 평가 및 예측하는 경우가 많다.

이후 컨설턴트가 각 프로젝트에 투입한 시간을 추적해 고객에게 이에 대한 보수를 청구한다. 그런데 전문 서비스 자동화 도구 같은 단일 시스템을 사용해 두 활동을 관리할 때의 이점이 있다. 예를 들어, 예측한 시간과 실제 시간을 비교, 각 프로젝트 매니저가 얼마나 정확히 인적자원 계획을 수립했는지 알 수 있다.

프로젝트 PSA의 COO 스티브 총은 수백 명의 프로젝트 매니저를 채용한 고객사 한 곳과 조사를 시작했다. 계획 기간이 계속 증가했을 때의 실제 일한 평균 시간과 예측한 시간의 차이(편차)를 비교하는 모델을 만들었다. 그리고 몇 달 동안 프로젝트 매니저의 전망이 얼마나 일관된 지 조사했다(변동성).

어떤 주의 전망치는 지나치게 높고, 그 다음 주의 전망치는 지나치게 낮은 경우(변동성이 큰 경우), 프로젝트 PSA는 두 전망치를 합했을 때 평균치의 차이는 크지 않은지 여부, 즉 편차가 낮은지 여부를 파악했다.

총은 “최초 편차와 변동성이 모두 낮은 것은 좋고, 모두 높은 것은 나쁘다고 전제했다”고 설명했다. 프로젝트 PSA는 이런 전제 아래, 그리고 프로젝트 매니저 일부를 트레이닝 세트로 사용한 데이터를 토대로 프로젝트 매니저를 ‘호더(Hoarder)’와 ‘옵티미스트(Optimists)’로 분류하도록 머신러닝 알고리즘을 훈련시켰다.

이후 머신러닝 알고리즘은 학습한 내용을 토대로 남은 프로젝트 매니저를 분류했다. 그런데 가장 경험이 많고 잘 훈련된 프로젝트 매니저들 일부가 ‘저성과자’로 분류되었다. 변동성과 편차가 컸기 때문이다. 총은 “회사가 프로젝트를 제 궤도로 돌려놓을 수 있는 인재로 판단, 문제가 발생한 프로젝트에 배정을 한 프로젝트 매니저들이었다”고 말했다.

유사하게, 머신러닝 알고리즘은 특정 프로젝트 매니저를 아주 높게 평가했다. 편차와 변동성이 ‘0’에 가까웠기 때문이다. 그러나 이 프로젝트 매니저는 팀원들이 실제 일한 시간을 보고하기 기대하면서 자신이 예측한 시간을 팀원들에게 알려준 것으로 드러났다. 이로 인해 계획이 미달 또는 초과되는 경우가 없었다. 그러나 결과적으로 ‘더 큰 그림’에서 팀원들이 해가 되는 행동을 하도록 유도하는 셈이었다. 총은 “머신러닝 알고리즘 자체가 초래한 실수가 아니다. 최초 트레이닝을 시킬 때의 가정이 문제였다. 또한 데이터가 반영하는 ‘사실’을 충분히 이해하지 못한 상태에서 전적으로 데이터에 의존해 빚어진 결과였다.”고 설명했다.

프로젝트 PSA는 이후 머신러닝 알고리즘이 이런 새로운 프로필을 식별하도록 다시 훈련시켰고, 그 결과 현실이 더 정확히 반영되었다.

교훈 2. 감독하지 않으면 예기치 못한 오차가 발생할 수 있다
머신러닝은 수많은 작업을 수행할 수 있다. 그러나 프로젝트 초기에 머신러닝에 신경을 쓰지 않아서 ‘결과’에 문제가 초래되는 상황도 있다. HR 부서의 디지털 트랜스포메이션 활동의 일환으로 머신러닝을 활용하려 시도한 브라질의 금융서비스 회사인 메호르 트라토(Mjor Trato)가 이런 문제를 경험했다.

문제의 프로젝트는 구직자들에게 실시간 채팅과 전화통화를 통해 일련의 질문에 답하도록 하는 것이었는데, 여기에 내부적으로 개발한 머신러닝 챗봇을 사용했다.

그런데 2가지 중요한 부분이 잘못되었다. 첫째, 구직자들이 잘못된 프로필과 직업 양식을 작성하도록 요구한 것이다. 둘째, 인터뷰 날짜와 시간이 HR 직원의 회의 시간과 겹쳤다. 이로 인해, 담당 HR 직원들이 챗봇을 모니터링할 수 없었다.

CTO 크리스티안 레넬라에 따르면, 첫 몇 주 동안은 HR 직원 가운데 일부가 대화를 모니터링해 필요한 경우 봇을 수정해야만 했다. 레넬라는 “우리는 모든 것이 해결되었고, 따라서 감독 없이 챗봇에 맡기자는 실수를 범했다. 그 결과, 최소 몇 달 동안은 챗봇을 모니터링해야 한다는 교훈을 터득했다”고 말했다.

이 회사의 판단에 따르면, 챗봇을 세부 조정하지 않은 결과로 수집한 데이터 중 약 10%가 잘못되었다. 레넬라는 “머신러닝은 초기에 약 90%의 대답에 있어 유용할 것이다. 그러나 나머지 10%는 사람이 알고리즘을 감독해서 수정해야 한다. 시간이 지나면, 90%가 99%가 될 것이다. 그러나 오차에 계속 주의를 기울여야 한다. 또 프로젝트를 시작했을 때 예상하지 못했던 상황 등 새로운 상황을 신경 써야 한다.”고 강조했다.

교훈 3. 데이터 분류가 미흡하면 머신러닝 결과물이 상한다
러시아의 두 관계사인 애슈마노프 뉴럴 네트웍스(Ashmanov Neural Networks)와 SOVA(Smart Open Virtual Assistant)는 비즈니스 고객들을 위해 머신러닝 기반 서비스를 개발하고 있다. 비디오 분석, 자연어 처리, 신호 처리, 신경망 등이 포함된 서비스이다.

두 회사의 CEO를 겸직하고 있는 스타니슬라프 애슈마노프에 따르면, 두 회사가 머신러닝과 관련해 직면했던 가장 큰 문제 중 하나는 라벨링의 어려움 때문에 초래되는 ‘나쁜 데이터'이다. 애슈마노프는 “고품질의 데이터 라벨링이 사실상 불가능하다. 데이터 라벨링을 처리하는 사람들은 서둘러 이를 처리하는 경우가 많아 라벨링이 완벽하지 않은 때가 많다. 여기에 더해, 모든 사람이 같은 방식으로 이해를 하도록 작업을 인수 인계하는 것 또한 아주 어렵다.”고 지적했다.



2018.11.16

머신러닝 실패 사례에서 배우는 다섯 가지 교훈

Bob Violino | InfoWorld

머신러닝(Machine Learning))은 비즈니스와 기술 부문의 많은 경영진과 임원들이 실현 및 활용 방법을 파악하려 애를 쓰고 있는 이른바 가장 ‘핫’한 범주에 속하는 기술이다. 제대로 구현해 활용할 경우, 머신러닝은 영업과 마케팅 캠페인의 효과를 높이고, 수익 모델을 향상하고, 부정 행위 및 사기를 쉽게 탐지할 수 있도록 도와주고, 장비와 장치에 대해 예측 유지보수를 수행하는 등 다양한 이점을 얻을 수 있다.

그러나 잘못될 경우, 서둘러 도입한 것을 후회하게 될 수도 있다. 다음은 머신러닝을 잘못되도록 만드는 다섯 가지 실수이다. 이는 실제 머신러닝을 도입한 기업의 사례에 바탕을 두고 있다. 이들 기업은 이 글을 읽는 독자들이 같은 실수를 하지 않도록 자신들이 터득한 교훈을 공유했다.
 

ⓒ Getty Images Bank


교훈 1. 가정이 잘못되면 궤도를 이탈한다
컨설팅 회사의 기업 활동에 도움을 주는 전문 서비스 자동화 소프트웨어를 설계 및 제작하는 미국 회사인 프로젝트 PSA(Project PSA)는 인적 자원 운영 계획 수립에 있어 변동성을 예측하는 데 머신러닝을 활용하려 시도하면서 힘들게 이런 교훈을 터득했다.

컨설팅 회사는 잘 훈련된 전문 컨설턴트와 이들의 재능을 효율적으로 활용하는 것이 아주 중요하다. 이에 프로젝트 관리자를 채용, 프로젝트에 필요한 인적 자원 요구사항을 공유 평가 및 예측하는 경우가 많다.

이후 컨설턴트가 각 프로젝트에 투입한 시간을 추적해 고객에게 이에 대한 보수를 청구한다. 그런데 전문 서비스 자동화 도구 같은 단일 시스템을 사용해 두 활동을 관리할 때의 이점이 있다. 예를 들어, 예측한 시간과 실제 시간을 비교, 각 프로젝트 매니저가 얼마나 정확히 인적자원 계획을 수립했는지 알 수 있다.

프로젝트 PSA의 COO 스티브 총은 수백 명의 프로젝트 매니저를 채용한 고객사 한 곳과 조사를 시작했다. 계획 기간이 계속 증가했을 때의 실제 일한 평균 시간과 예측한 시간의 차이(편차)를 비교하는 모델을 만들었다. 그리고 몇 달 동안 프로젝트 매니저의 전망이 얼마나 일관된 지 조사했다(변동성).

어떤 주의 전망치는 지나치게 높고, 그 다음 주의 전망치는 지나치게 낮은 경우(변동성이 큰 경우), 프로젝트 PSA는 두 전망치를 합했을 때 평균치의 차이는 크지 않은지 여부, 즉 편차가 낮은지 여부를 파악했다.

총은 “최초 편차와 변동성이 모두 낮은 것은 좋고, 모두 높은 것은 나쁘다고 전제했다”고 설명했다. 프로젝트 PSA는 이런 전제 아래, 그리고 프로젝트 매니저 일부를 트레이닝 세트로 사용한 데이터를 토대로 프로젝트 매니저를 ‘호더(Hoarder)’와 ‘옵티미스트(Optimists)’로 분류하도록 머신러닝 알고리즘을 훈련시켰다.

이후 머신러닝 알고리즘은 학습한 내용을 토대로 남은 프로젝트 매니저를 분류했다. 그런데 가장 경험이 많고 잘 훈련된 프로젝트 매니저들 일부가 ‘저성과자’로 분류되었다. 변동성과 편차가 컸기 때문이다. 총은 “회사가 프로젝트를 제 궤도로 돌려놓을 수 있는 인재로 판단, 문제가 발생한 프로젝트에 배정을 한 프로젝트 매니저들이었다”고 말했다.

유사하게, 머신러닝 알고리즘은 특정 프로젝트 매니저를 아주 높게 평가했다. 편차와 변동성이 ‘0’에 가까웠기 때문이다. 그러나 이 프로젝트 매니저는 팀원들이 실제 일한 시간을 보고하기 기대하면서 자신이 예측한 시간을 팀원들에게 알려준 것으로 드러났다. 이로 인해 계획이 미달 또는 초과되는 경우가 없었다. 그러나 결과적으로 ‘더 큰 그림’에서 팀원들이 해가 되는 행동을 하도록 유도하는 셈이었다. 총은 “머신러닝 알고리즘 자체가 초래한 실수가 아니다. 최초 트레이닝을 시킬 때의 가정이 문제였다. 또한 데이터가 반영하는 ‘사실’을 충분히 이해하지 못한 상태에서 전적으로 데이터에 의존해 빚어진 결과였다.”고 설명했다.

프로젝트 PSA는 이후 머신러닝 알고리즘이 이런 새로운 프로필을 식별하도록 다시 훈련시켰고, 그 결과 현실이 더 정확히 반영되었다.

교훈 2. 감독하지 않으면 예기치 못한 오차가 발생할 수 있다
머신러닝은 수많은 작업을 수행할 수 있다. 그러나 프로젝트 초기에 머신러닝에 신경을 쓰지 않아서 ‘결과’에 문제가 초래되는 상황도 있다. HR 부서의 디지털 트랜스포메이션 활동의 일환으로 머신러닝을 활용하려 시도한 브라질의 금융서비스 회사인 메호르 트라토(Mjor Trato)가 이런 문제를 경험했다.

문제의 프로젝트는 구직자들에게 실시간 채팅과 전화통화를 통해 일련의 질문에 답하도록 하는 것이었는데, 여기에 내부적으로 개발한 머신러닝 챗봇을 사용했다.

그런데 2가지 중요한 부분이 잘못되었다. 첫째, 구직자들이 잘못된 프로필과 직업 양식을 작성하도록 요구한 것이다. 둘째, 인터뷰 날짜와 시간이 HR 직원의 회의 시간과 겹쳤다. 이로 인해, 담당 HR 직원들이 챗봇을 모니터링할 수 없었다.

CTO 크리스티안 레넬라에 따르면, 첫 몇 주 동안은 HR 직원 가운데 일부가 대화를 모니터링해 필요한 경우 봇을 수정해야만 했다. 레넬라는 “우리는 모든 것이 해결되었고, 따라서 감독 없이 챗봇에 맡기자는 실수를 범했다. 그 결과, 최소 몇 달 동안은 챗봇을 모니터링해야 한다는 교훈을 터득했다”고 말했다.

이 회사의 판단에 따르면, 챗봇을 세부 조정하지 않은 결과로 수집한 데이터 중 약 10%가 잘못되었다. 레넬라는 “머신러닝은 초기에 약 90%의 대답에 있어 유용할 것이다. 그러나 나머지 10%는 사람이 알고리즘을 감독해서 수정해야 한다. 시간이 지나면, 90%가 99%가 될 것이다. 그러나 오차에 계속 주의를 기울여야 한다. 또 프로젝트를 시작했을 때 예상하지 못했던 상황 등 새로운 상황을 신경 써야 한다.”고 강조했다.

교훈 3. 데이터 분류가 미흡하면 머신러닝 결과물이 상한다
러시아의 두 관계사인 애슈마노프 뉴럴 네트웍스(Ashmanov Neural Networks)와 SOVA(Smart Open Virtual Assistant)는 비즈니스 고객들을 위해 머신러닝 기반 서비스를 개발하고 있다. 비디오 분석, 자연어 처리, 신호 처리, 신경망 등이 포함된 서비스이다.

두 회사의 CEO를 겸직하고 있는 스타니슬라프 애슈마노프에 따르면, 두 회사가 머신러닝과 관련해 직면했던 가장 큰 문제 중 하나는 라벨링의 어려움 때문에 초래되는 ‘나쁜 데이터'이다. 애슈마노프는 “고품질의 데이터 라벨링이 사실상 불가능하다. 데이터 라벨링을 처리하는 사람들은 서둘러 이를 처리하는 경우가 많아 라벨링이 완벽하지 않은 때가 많다. 여기에 더해, 모든 사람이 같은 방식으로 이해를 하도록 작업을 인수 인계하는 것 또한 아주 어렵다.”고 지적했다.



X