2019.04.12

머신러닝을 실패로 이끄는 6가지 방법

Bob Violino | InfoWorld
ⓒ Getty Images Bank


일반적으로 학습 과정이란 실수를 저지르고 잘못된 길을 택하면서 경험을 통해 향후 동일한 함정을 피하는 방법을 알아 나가는 것을 의미한다. 머신러닝 역시 다르지 않다.

기업이 머신러닝을 구현할 때는 주의해야 한다. 일부 마케팅 자료에는 머신러닝을 매우 빠르고 정확한 기술로 묘사하지만 현실은 그렇지 않다. 진실은 머신러닝 프로세스에는 실수가 포함될 수밖에 없다는 것이다. 이러한 실수는 (적어도 한동안은) 비즈니스 프로세스에 영향을 미친다. 현재 이와 같은 실수는 큰 규모로 발생하며 사람이 즉각적으로 통제할 수 있는 범위를 벗어나는 경우가 많다.

SPR 컨설팅의 최고 데이터 과학자인 레이 존슨은 “면밀한 실사가 동반되지 않은 열의는 머신러닝의 이점을 거의 무효화하는 문제로 이어질 수 있다”고 말했다.

머신러닝 오류를 탐지하고 적절히 대처하면 머신러닝 기술의 성공 가능성을 높이고 이 기술에 대한 기대치를 충족하는 데 도움이 된다. 머신러닝 툴이 학습 중 저지르는 실수를 늘리고 그 기간도 연장시키는 문제점은 다음과 같다. 이러한 문제점을 방치할 경우 머신러닝 툴은 잘못 학습하면서도 이를 인식하지 못하고 따라서 교정도 할 수 없는 상황에 놓이게 된다.

머신러닝 실패 원인 1. 비즈니스에 대한 이해 부족

머신러닝 모델을 사용하는 데이터 작업자가 머신러닝이 해결하고자 하는 비즈니스 문제를 제대로 이해하지 못할 경우 프로세스에 오류가 발생할 수 있다.

금융 서비스 사이트 렌딩트리(LendingTree)의 부사장으로 전략 및 분석을 책임지는 악샤이 탠던은 머신러닝 툴을 사용하는 팀이 가장 먼저 질문 목록부터 작성하도록 했다. 이를 통해 해결하고자 하는 문제가 무엇인지, 이 문제를 해결하기 위해 구축할 모델은 무엇인지를 물어야 한다.

탠던은 현재 시중의 머신러닝 툴은 통계 측면에서 매우 강력하다고 말했다. 툴이 강력한 만큼 주의해서 사용하지 않으면 매우 잘못된 의사 결정으로 이어질 수 있으므로 올바르게 사용해야 한다는 부담은 더 커진다. 데이터 분석 팀이 신중히 접근하지 않을 경우 학습에 사용하는 데이터와 잘 맞지 않는 모델이 생성될 수 있다. 그 결과 매우 빠른 속도로 잘못된 길로 접어들 수 있다.

또한 탠던은 많은 비즈니스 사용자가 모델이 프로덕션에 배치되는 시점부터 어느 정도의 품질 저하가 발생한다는 점을 이해하지 못한다고 말했다. 사용자는 이 점을 인식하고 자동차를 비롯한 모든 기계와 마찬가지로 지속적으로 모델을 모니터링하고 의사 결정에 미치는 영향에 유의해야 한다.

머신러닝 실패 원인 2. 낮은 데이터 품질

쓰레기가 들어가면 쓰레기가 나오는 법이다. 데이터 품질이 충분히 좋지 않으면 머신러닝은 효과를 발휘하기 어렵다. 낮은 데이터 품질은 데이터 관리자의 가장 큰 골칫거리 중 하나이며, 데이터 과학자를 비롯해 정보를 다루는 전문가들의 최선의 노력에도 불구하고 빅데이터 분석 노력을 물거품으로 만드는 요인이 된다. 저품질 데이터는 머신러닝 모델을 정상 궤도에서 벗어나게끔 하는 확실한 원인이다.

기업 조직은 머신러닝 알고리즘의 탄력성을 과대평가하고 불량 데이터의 영향을 과소평가하는 경우가 많다. 존슨은 낮은 데이터 품질은 나쁜 결과를 생산하고 조직에서 잘못된 정보를 근거로 한 비즈니스 의사 결정을 내리도록 한다고 지적했다. 이러한 의사 결정의 결과는 비즈니스 실적에 악영향을 미치므로 향후 이니셔티브에서 지지를 받기도 어렵게 된다.

머신러닝에서 도출된 결과가 과거와 현재 경험에 비추어 앞뒤가 맞지 않는다면 데이터 품질이 떨어진다는 신호다.

존슨은 이 문제에 선제적으로 대처하는 방법은 탐색적 데이터 분석(EDA)이라고 말했다. EDA는 이상점, 누락된 값, 일관적이지 않은 영역 값과 같은 기본적인 데이터 품질 문제를 식별할 수 있다. 또한 통계적 표본추출과 같은 기법을 사용해서 모집단 분포를 적절히 반영하기에 충분한 데이터 포인트가 있는지 확인하고, 데이터 품질 교정에 관한 규칙과 정책을 정의하는 방법도 있다.

머신러닝 실패 원인 3. 잘못된 머신러닝 사용

컨설팅 업체 케임브리지 컨설턴트(Cambridge Consultants)의 머신러닝 전문 엔지니어인 샐리 엡스타인은 “기업에서 지금도 볼 수 있는 가장 일반적인 문제는 머신러닝을 단지 유행이라는 이유만으로 사용하려는 생각”이라면서 머신러닝을 성공적으로 사용하려면 머신러닝을 적용하기에 적절한 분야여야 한다고 말했다. 전통적인 엔지니어링 접근 방법이 더 빠르게, 훨씬 더 적은 비용으로 솔루션을 제공할 수도 있다.

존슨은 문제 해결을 위한 최선의 방법이 아닌 경우에도 머신러닝을 사용하거나 사용 사례를 완전히 이해하지 못하는 경우 의도한 문제가 아닌 다른 문제를 해결하는 결과로 이어질 수 있다고 말했다.

이렇게 기업 조직이 잘 맞지 않는 모델에 사용 사례를 맞추기 위해 씨름하는 사이 기회 손실도 발생한다. 더 단순한 대안으로도 얻을 수 있는 결과를 얻느라 인력과 인프라를 낭비하는 것도 이러한 손실에 포함된다.

잘못된 머신러닝 사용을 피하려면 원하는 비즈니스 결과, 문제의 복잡성, 데이터 볼륨, 특성의 수를 고려해야 한다. 존슨은 소량의 데이터와 소수의 특성을 사용한 분류, 묶음, 연결 규칙과 같은 비교적 간단한 문제는 시각적으로 또는 통계적 분석을 통해 접근이 가능하다고 말했다. 이러한 문제에 머신러닝을 적용할 경우 필요 이상의 시간과 자원이 소비될 수 있다.

데이터의 볼륨이 다루기 어려울 정도로 커지는 경우 머신러닝이 더 적절할 수 있다. 그러나 머신러닝 과정을 거친 이후, 뒤늦게 비즈니스 성과가 명확히 규정되지 않았고 결과적으로 엉뚱한 문제 해결로 이어졌음을 발견하는 경우가 종종 발생한다.



2019.04.12

머신러닝을 실패로 이끄는 6가지 방법

Bob Violino | InfoWorld
ⓒ Getty Images Bank


일반적으로 학습 과정이란 실수를 저지르고 잘못된 길을 택하면서 경험을 통해 향후 동일한 함정을 피하는 방법을 알아 나가는 것을 의미한다. 머신러닝 역시 다르지 않다.

기업이 머신러닝을 구현할 때는 주의해야 한다. 일부 마케팅 자료에는 머신러닝을 매우 빠르고 정확한 기술로 묘사하지만 현실은 그렇지 않다. 진실은 머신러닝 프로세스에는 실수가 포함될 수밖에 없다는 것이다. 이러한 실수는 (적어도 한동안은) 비즈니스 프로세스에 영향을 미친다. 현재 이와 같은 실수는 큰 규모로 발생하며 사람이 즉각적으로 통제할 수 있는 범위를 벗어나는 경우가 많다.

SPR 컨설팅의 최고 데이터 과학자인 레이 존슨은 “면밀한 실사가 동반되지 않은 열의는 머신러닝의 이점을 거의 무효화하는 문제로 이어질 수 있다”고 말했다.

머신러닝 오류를 탐지하고 적절히 대처하면 머신러닝 기술의 성공 가능성을 높이고 이 기술에 대한 기대치를 충족하는 데 도움이 된다. 머신러닝 툴이 학습 중 저지르는 실수를 늘리고 그 기간도 연장시키는 문제점은 다음과 같다. 이러한 문제점을 방치할 경우 머신러닝 툴은 잘못 학습하면서도 이를 인식하지 못하고 따라서 교정도 할 수 없는 상황에 놓이게 된다.

머신러닝 실패 원인 1. 비즈니스에 대한 이해 부족

머신러닝 모델을 사용하는 데이터 작업자가 머신러닝이 해결하고자 하는 비즈니스 문제를 제대로 이해하지 못할 경우 프로세스에 오류가 발생할 수 있다.

금융 서비스 사이트 렌딩트리(LendingTree)의 부사장으로 전략 및 분석을 책임지는 악샤이 탠던은 머신러닝 툴을 사용하는 팀이 가장 먼저 질문 목록부터 작성하도록 했다. 이를 통해 해결하고자 하는 문제가 무엇인지, 이 문제를 해결하기 위해 구축할 모델은 무엇인지를 물어야 한다.

탠던은 현재 시중의 머신러닝 툴은 통계 측면에서 매우 강력하다고 말했다. 툴이 강력한 만큼 주의해서 사용하지 않으면 매우 잘못된 의사 결정으로 이어질 수 있으므로 올바르게 사용해야 한다는 부담은 더 커진다. 데이터 분석 팀이 신중히 접근하지 않을 경우 학습에 사용하는 데이터와 잘 맞지 않는 모델이 생성될 수 있다. 그 결과 매우 빠른 속도로 잘못된 길로 접어들 수 있다.

또한 탠던은 많은 비즈니스 사용자가 모델이 프로덕션에 배치되는 시점부터 어느 정도의 품질 저하가 발생한다는 점을 이해하지 못한다고 말했다. 사용자는 이 점을 인식하고 자동차를 비롯한 모든 기계와 마찬가지로 지속적으로 모델을 모니터링하고 의사 결정에 미치는 영향에 유의해야 한다.

머신러닝 실패 원인 2. 낮은 데이터 품질

쓰레기가 들어가면 쓰레기가 나오는 법이다. 데이터 품질이 충분히 좋지 않으면 머신러닝은 효과를 발휘하기 어렵다. 낮은 데이터 품질은 데이터 관리자의 가장 큰 골칫거리 중 하나이며, 데이터 과학자를 비롯해 정보를 다루는 전문가들의 최선의 노력에도 불구하고 빅데이터 분석 노력을 물거품으로 만드는 요인이 된다. 저품질 데이터는 머신러닝 모델을 정상 궤도에서 벗어나게끔 하는 확실한 원인이다.

기업 조직은 머신러닝 알고리즘의 탄력성을 과대평가하고 불량 데이터의 영향을 과소평가하는 경우가 많다. 존슨은 낮은 데이터 품질은 나쁜 결과를 생산하고 조직에서 잘못된 정보를 근거로 한 비즈니스 의사 결정을 내리도록 한다고 지적했다. 이러한 의사 결정의 결과는 비즈니스 실적에 악영향을 미치므로 향후 이니셔티브에서 지지를 받기도 어렵게 된다.

머신러닝에서 도출된 결과가 과거와 현재 경험에 비추어 앞뒤가 맞지 않는다면 데이터 품질이 떨어진다는 신호다.

존슨은 이 문제에 선제적으로 대처하는 방법은 탐색적 데이터 분석(EDA)이라고 말했다. EDA는 이상점, 누락된 값, 일관적이지 않은 영역 값과 같은 기본적인 데이터 품질 문제를 식별할 수 있다. 또한 통계적 표본추출과 같은 기법을 사용해서 모집단 분포를 적절히 반영하기에 충분한 데이터 포인트가 있는지 확인하고, 데이터 품질 교정에 관한 규칙과 정책을 정의하는 방법도 있다.

머신러닝 실패 원인 3. 잘못된 머신러닝 사용

컨설팅 업체 케임브리지 컨설턴트(Cambridge Consultants)의 머신러닝 전문 엔지니어인 샐리 엡스타인은 “기업에서 지금도 볼 수 있는 가장 일반적인 문제는 머신러닝을 단지 유행이라는 이유만으로 사용하려는 생각”이라면서 머신러닝을 성공적으로 사용하려면 머신러닝을 적용하기에 적절한 분야여야 한다고 말했다. 전통적인 엔지니어링 접근 방법이 더 빠르게, 훨씬 더 적은 비용으로 솔루션을 제공할 수도 있다.

존슨은 문제 해결을 위한 최선의 방법이 아닌 경우에도 머신러닝을 사용하거나 사용 사례를 완전히 이해하지 못하는 경우 의도한 문제가 아닌 다른 문제를 해결하는 결과로 이어질 수 있다고 말했다.

이렇게 기업 조직이 잘 맞지 않는 모델에 사용 사례를 맞추기 위해 씨름하는 사이 기회 손실도 발생한다. 더 단순한 대안으로도 얻을 수 있는 결과를 얻느라 인력과 인프라를 낭비하는 것도 이러한 손실에 포함된다.

잘못된 머신러닝 사용을 피하려면 원하는 비즈니스 결과, 문제의 복잡성, 데이터 볼륨, 특성의 수를 고려해야 한다. 존슨은 소량의 데이터와 소수의 특성을 사용한 분류, 묶음, 연결 규칙과 같은 비교적 간단한 문제는 시각적으로 또는 통계적 분석을 통해 접근이 가능하다고 말했다. 이러한 문제에 머신러닝을 적용할 경우 필요 이상의 시간과 자원이 소비될 수 있다.

데이터의 볼륨이 다루기 어려울 정도로 커지는 경우 머신러닝이 더 적절할 수 있다. 그러나 머신러닝 과정을 거친 이후, 뒤늦게 비즈니스 성과가 명확히 규정되지 않았고 결과적으로 엉뚱한 문제 해결로 이어졌음을 발견하는 경우가 종종 발생한다.



X