머신러닝을 실패로 이끄는 6가지 방법

InfoWorld

일반적으로 학습 과정이란 실수를 저지르고 잘못된 길을 택하면서 경험을 통해 향후 동일한 함정을 피하는 방법을 알아 나가는 것을 의미한다. 머신러닝 역시 다르지 않다.

기업이 머신러닝을 구현할 때는 주의해야 한다. 일부 마케팅 자료에는 머신러닝을 매우 빠르고 정확한 기술로 묘사하지만 현실은 그렇지 않다. 진실은 머신러닝 프로세스에는 실수가 포함될 수밖에 없다는 것이다. 이러한 실수는 (적어도 한동안은) 비즈니스 프로세스에 영향을 미친다. 현재 이와 같은 실수는 큰 규모로 발생하며 사람이 즉각적으로 통제할 수 있는 범위를 벗어나는 경우가 많다.

Image Credit : GettyImagesBank

SPR 컨설팅의 최고 데이터 과학자인 레이 존슨은 “면밀한 실사가 동반되지 않은 열의는 머신러닝의 이점을 거의 무효화하는 문제로 이어질 수 있다”고 말했다.

머신러닝 오류를 탐지하고 적절히 대처하면 머신러닝 기술의 성공 가능성을 높이고 이 기술에 대한 기대치를 충족하는 데 도움이 된다. 머신러닝 툴이 학습 중 저지르는 실수를 늘리고 그 기간도 연장시키는 문제점은 다음과 같다. 이러한 문제점을 방치할 경우 머신러닝 툴은 잘못 학습하면서도 이를 인식하지 못하고 따라서 교정도 할 수 없는 상황에 놓이게 된다.

머신러닝 실패 원인 1. 비즈니스에 대한 이해 부족
머신러닝 모델을 사용하는 데이터 작업자가 머신러닝이 해결하고자 하는 비즈니스 문제를 제대로 이해하지 못할 경우 프로세스에 오류가 발생할 수 있다.

금융 서비스 사이트 렌딩트리(LendingTree)의 부사장으로 전략 및 분석을 책임지는 악샤이 탠던은 머신러닝 툴을 사용하는 팀이 가장 먼저 질문 목록부터 작성하도록 했다. 이를 통해 해결하고자 하는 문제가 무엇인지, 이 문제를 해결하기 위해 구축할 모델은 무엇인지를 물어야 한다.

탠던은 현재 시중의 머신러닝 툴은 통계 측면에서 매우 강력하다고 말했다. 툴이 강력한 만큼 주의해서 사용하지 않으면 매우 잘못된 의사 결정으로 이어질 수 있으므로 올바르게 사용해야 한다는 부담은 더 커진다. 데이터 분석 팀이 신중히 접근하지 않을 경우 학습에 사용하는 데이터와 잘 맞지 않는 모델이 생성될 수 있다. 그 결과 매우 빠른 속도로 잘못된 길로 접어들 수 있다.

또한 탠던은 많은 비즈니스 사용자가 모델이 프로덕션에 배치되는 시점부터 어느 정도의 품질 저하가 발생한다는 점을 이해하지 못한다고 말했다. 사용자는 이 점을 인식하고 자동차를 비롯한 모든 기계와 마찬가지로 지속적으로 모델을 모니터링하고 의사 결정에 미치는 영향에 유의해야 한다.

머신러닝 실패 원인 2. 낮은 데이터 품질
쓰레기가 들어가면 쓰레기가 나오는 법이다. 데이터 품질이 충분히 좋지 않으면 머신러닝은 효과를 발휘하기 어렵다. 낮은 데이터 품질은 데이터 관리자의 가장 큰 골칫거리 중 하나이며, 데이터 과학자를 비롯해 정보를 다루는 전문가들의 최선의 노력에도 불구하고 빅데이터 분석 노력을 물거품으로 만드는 요인이 된다. 저품질 데이터는 머신러닝 모델을 정상 궤도에서 벗어나게끔 하는 확실한 원인이다.

기업 조직은 머신러닝 알고리즘의 탄력성을 과대평가하고 불량 데이터의 영향을 과소평가하는 경우가 많다. 존슨은 낮은 데이터 품질은 나쁜 결과를 생산하고 조직에서 잘못된 정보를 근거로 한 비즈니스 의사 결정을 내리도록 한다고 지적했다. 이러한 의사 결정의 결과는 비즈니스 실적에 악영향을 미치므로 향후 이니셔티브에서 지지를 받기도 어렵게 된다.

머신러닝에서 도출된 결과가 과거와 현재 경험에 비추어 앞뒤가 맞지 않는다면 데이터 품질이 떨어진다는 신호다.

존슨은 이 문제에 선제적으로 대처하는 방법은 탐색적 데이터 분석(EDA)이라고 말했다. EDA는 이상점, 누락된 값, 일관적이지 않은 영역 값과 같은 기본적인 데이터 품질 문제를 식별할 수 있다. 또한 통계적 표본추출과 같은 기법을 사용해서 모집단 분포를 적절히 반영하기에 충분한 데이터 포인트가 있는지 확인하고, 데이터 품질 교정에 관한 규칙과 정책을 정의하는 방법도 있다.

머신러닝 실패 원인 3. 잘못된 머신러닝 사용
컨설팅 업체 케임브리지 컨설턴트(Cambridge Consultants)의 머신러닝 전문 엔지니어인 샐리 엡스타인은 “기업에서 지금도 볼 수 있는 가장 일반적인 문제는 머신러닝을 단지 유행이라는 이유만으로 사용하려는 생각”이라면서 머신러닝을 성공적으로 사용하려면 머신러닝을 적용하기에 적절한 분야여야 한다고 말했다. 전통적인 엔지니어링 접근 방법이 더 빠르게, 훨씬 더 적은 비용으로 솔루션을 제공할 수도 있다.

존슨은 문제 해결을 위한 최선의 방법이 아닌 경우에도 머신러닝을 사용하거나 사용 사례를 완전히 이해하지 못하는 경우 의도한 문제가 아닌 다른 문제를 해결하는 결과로 이어질 수 있다고 말했다.

이렇게 기업 조직이 잘 맞지 않는 모델에 사용 사례를 맞추기 위해 씨름하는 사이 기회 손실도 발생한다. 더 단순한 대안으로도 얻을 수 있는 결과를 얻느라 인력과 인프라를 낭비하는 것도 이러한 손실에 포함된다.

잘못된 머신러닝 사용을 피하려면 원하는 비즈니스 결과, 문제의 복잡성, 데이터 볼륨, 특성의 수를 고려해야 한다. 존슨은 소량의 데이터와 소수의 특성을 사용한 분류, 묶음, 연결 규칙과 같은 비교적 간단한 문제는 시각적으로 또는 통계적 분석을 통해 접근이 가능하다고 말했다. 이러한 문제에 머신러닝을 적용할 경우 필요 이상의 시간과 자원이 소비될 수 있다.

데이터의 볼륨이 다루기 어려울 정도로 커지는 경우 머신러닝이 더 적절할 수 있다. 그러나 머신러닝 과정을 거친 이후, 뒤늦게 비즈니스 성과가 명확히 규정되지 않았고 결과적으로 엉뚱한 문제 해결로 이어졌음을 발견하는 경우가 종종 발생한다.


머신러닝 실패 원인 4. 편견
저품질 데이터 집합을 사용할 경우 잘못된 결론에 이를 수 있다. 저품질 데이터는 부정확한 데이터, 누락된 데이터뿐만 아니라 편견의 원인이 되기도 한다. 사람은 편견을 가질 수 있으므로 사람이 만들거나 영향을 미친 모델 역시 당연히 편견을 가질 수 있다.

엡스타인은 균형이 맞지 않는 분류나 분포에 대한 민감도는 머신러닝 알고리즘에 따라 다르다고 말했다. 엡스타인은 이 부분을 감안하지 않을 경우, 예를 들어 피부색에 의존하는 얼굴 인식 툴이나 성별에 따른 편견을 가진 모델을 만들게 될 수 있다고 말했다. 실제로 여러 상용 서비스에서 이미 편견 사례가 발생했다.

사람이든 알고리즘이든 결론의 정확성은 가공되는 정보의 폭과 품질에 의해 좌우된다. 컨설팅 업체 딜로이트(Deloitte)의 자문 분석 서비스 책임자인 빅 캐트얄은 재정, 법률, 평판과 관련하여 조직과 개인이 직면한 알고리즘 편견의 위험성을 감안하면 머신러닝을 사용하는 모든 기업은 윤리를 조직적 필수 덕목으로 갖춰야 한다고 말했다.

알고리즘 편견의 징후는 신용 평가, 교육 과정, 채용, 범죄에 대한 양형 등 공공 분야에서 잘 문서화되어 있다. 허술하게 수집, 조율 또는 응용된 데이터는 설계와 의도가 충실한 머신러닝 애플리케이션에도 편견을 유발할 수 있다.

캐트얄은 처음부터 편견을 갖고 시작하는 머신러닝 시스템은 특정 고객 또는 사회 구성원에 불이익을 줄 위험이 있으며, 불공정한 결과를 생성하거나 그러한 결과를 영구화할 수 있다고 지적했다.

컨설팅 업체 맥킨지앤컴퍼니(McKinsey & Company)는 2017년 보고서에서 머신러닝의 목적 자체를 흐릴 수 있다는 면에서 알고리즘 편견이 머신러닝의 가장 큰 위험 요소 중 하나라고 지적했다. 맥킨지는 편견이 값비싼 오류를 유발할 수 있지만 간과되는 경우가 많으며, 그대로 방치할 경우 프로젝트와 조직을 완전히 엉뚱한 방향으로 이끌 수 있다고 경고했다. 맥킨지는 이 문제에 초반부터 효과적으로 대처할 경우 머신러닝의 진정한 잠재력을 더 효율적으로 실현하여 좋은 결과를 얻을 수 있다고 전했다.

머신러닝 실패 원인 5. 부족한 인프라 자원
조직은 머신러닝 이니셔티브를 출범할 때 인력과 인프라에 필요한 리소스를 과소평가하기 쉽다. 머신러닝, 특히 이미지, 비디오, 오디오 처리의 경우 인프라 요구 사항이 상당히 높다. 존슨은 필요한 처리 성능이 뒷받침되지 않으면 머신러닝 기반 솔루션을 적시에 개발하기가 어렵고 개발 자체가 아예 불가능한 경우도 있다고 말했다.

배치 및 소비 문제도 있다. 머신러닝 솔루션을 배치하고 머신러닝의 결과를 사용자가 소비하도록 하기 위한 필수 인프라가 없다면 도대체 무엇을 위해 머신러닝 솔루션을 개발하는가?

머신러닝을 지원하기 위한 확장 가능한 인프라를 배치하는 일은 많은 비용이 들고 유지하기도 어렵다. 그러나 필요에 따라 프로비저닝할 수 있는 확장 가능한 머신러닝 플랫폼을 제공하는 다양한 클라우드 서비스를 찾아볼 수 있다. 클라우드를 활용하면 실제 하드웨어 구입, 구성, 배포의 족쇄 없이 대규모로 머신러닝을 실험하는 것이 가능하다.

내부에 인프라를 갖추기를 원하는 조직도 있다. 이 경우에도 클라우드 서비스는 디딤돌 및 교육 경험이라는 측면에서 유용하다. 이를 통해 조직은 대규모 투자에 앞서 인프라 관점에서 무엇이 필요한지 파악할 수 있기 때문이다.

인력의 경우 데이터 과학자, 머신러닝 엔지니어와 같은 전문 인력의 부족이 머신러닝 개발과 배치를 지연시키는 요인이 되기도 한다. 특정 비즈니스 성과를 달성할 수 있는지 여부를 판단하려면 머신러닝의 개념을 이해하고 응용과 해석에 능숙한 인력이 필수 요소다.

존슨도 숙련된 머신러닝 인력의 중요성을 간과해서는 안 된다고 말했다. 숙련된 인력은 데이터 품질 문제를 파악하고 머신러닝 툴의 적절한 사용과 배포를 보장하고 모범 사례와 거버넌스 정책을 수립하는 데 있어 중요한 역할을 한다.

머신러닝 실패 원인 6. 부실한 계획과 거버넌스의 부재
열정을 갖고 머신러닝을 시작하더라도 이후 추진력을 잃으면서 서서히 멈추는 경우가 있다. 이는 부실한 계획과 거버넌스 부재를 나타내는 신호다. 존슨은 적절한 가이드라인과 제한을 두지 않을 경우 머신러닝 작업은 끝없이 늘어지면서 아무런 혜택도 얻지 못한 채 막대한 자원만 소비하는 결과로 이어질 수 있다고 말했다.

조직은 머신러닝이 반복적 프로세스라는 점과 변화하는 요구 사항을 충족하기 위해 수시로 모델을 수정해야 할 수도 있음을 인지해야 한다. 이러한 특성 탓에 머신러닝 작업에 참여하는 인력은 시간이 지나면서 흥미를 잃을 수 있으며, 이는 좋지 않은 결과로 이어지게 된다. 결국 머신러닝 프로젝트의 지지자는 다른 작업으로 눈을 돌리게 되고 머신러닝 작업은 진전 없이 그대로 방치된다.

존슨은 원활한 운영을 위해서는 머신러닝 작업을 정기적으로 모니터링해야 한다고 말했다. 진행 속도가 저하되기 시작한다면 잠시 멈추고 프로젝트를 재점검해야 할 시점일 수 있다.  editor@itworld.co.kr