맥콜은 “좁게는 AI가 어떤 분야에서는 인간보다 더 빨리 결정을 내리는 데 사용될 수 있다. 하지만 그 결정이 항상 옳거나 사려 깊은 것은 아니다”라고 말했다. “AI가 사회적으로 지각하는가? 어떻게 AI에게 분위기를 읽는 법을 가르칠 것인가?” 인간만이 내릴 수 있는 결정이 있다.
미신 : 장애예측(AIOps)은 사건 관리와 상관관계에 대부분 기초한다
현실 : 처음에는 그럤겠지만 상황이 바뀌고 있다
AIOps 소프트웨어 개발업체인 옵스램프(OpsRamp)의 제품전략 담당 부사장인 시어란 번은 “AIOps의 초기 등장으로 유사 경보의 그룹화처럼 경보의 상관관계에 기반하여 소음을 줄이도록 이벤트 관리 시스템이 변경되기에 이르렀다”고 말했다. 소음이 사건 관리 시스템의 가용성을 오랫동안 방해해왔다는 점을 감안할 때 이는 중요한 진전이었다.그러나 훨씬 더 큰 장점이 눈앞에 있다. 번은 “장애예측은 자동화 및 모니터링/관측성 등 IT 운영 영역으로까지 확대되었다. 사용례에는 학습된 패턴에 기초한 티켓의 지능적인 라우팅이나 자동화가 포함된다”고 말했다.
미신 : 기업에는 AI 전략이 필요하지 않다
현실 : 아니, 필요하다
QTS는 앞으로 10년 동안 AI가 전혀 관여하지 않는 조직, 산업, 사업 부문은 없을 것으로 내다봤다. 경쟁업체가 시장 변화에 훨씬 더 빨리 대응할 수 있을 것이라는 점은 분명하기 때문에, AI 계획을 세우지 않는 것은 위험한 전제다.고객 상호작용 및 행동 데이터를 위한 행동 애널리틱스 소프트웨어 개발업체인 SYNTASA의 CEO인 제이 마와하도 동의한다. 마와하는 “거래 업체들은 AI를 당장 채택해야 하는 차세대 혁신이라고 생각하며, 이로 인해 매출이 즉시 늘어나거나 순익이 감소될 수 있다”고 말했다.
마와하는 “AI가 미치는 영향의 크기는 이들 기업이 AI를 어떻게 활용하느냐에 달려 있으며 AI를 최대한 활용하는 기업은 아주 잘하고 있는 셈”이라고 덧붙였다. 그는 “많은 기업이 AI 도입에 대한 전체적인 상황을 이해하지 못하고 있다. 물론 유행어도 알고 있고 AI를 활용하는 다른 회사를 알고 있을 것이다. 항상 많은 것은 아니지만, 엄청난 수익을 내는 경우도 있다”고 말했다
미신 : AI가 의학적 결정을 내리고 진단을 내린다
현실 : 맞다. 하지만 AI가 최종결정을 하지는 않는다
오늘날 방사선 전문의는 X선, MRI, CAT 스캔 및 기타 의료 이미지 평가의 전문가들이다. AI의 주요 노력 중 하나는 종양과 같은 이상을 인식하기 위한 영상 분류기를 교육하는 것이다. AI는 수백만 개의 이미지를 스캔하여 인간이 달성할 수 있는 그 어느 것보다 더 빠르고 철저하게 스캔을 해석하는 법을 배울 수 있다.그러나 의사나 방사선 전문의가 진단을 결정하는 데 있어서 여전히 최종 판정을 내리게 될 것이다. 진단은 며칠이나 몇 주가 아니라 몇 분 안에 나올 수도 있다.
미신 : AI가 무엇을 하고 있는지, AI를 신뢰해도 될지 모르겠다
현실 : AI는 이제 훨씬 더 투명해졌다.
초기에 AIOps는 ‘블랙박스’ 즉, 기본 알고리즘이 무엇을 왜 했는지에 대한 통찰력을 제시하지 않고서 산출물을 만들어내는 신비한 시스템으로 인식되었다. 그러나 시간이 흐르면서 우리는 이러한 해결책의 성숙을 지켜보았고, 신뢰와 채택을 모두 잡은 ‘화이트 박스’ 접근법도 늘어났다.옵스램프(OpsRamp)의 번은 “투명성을 제공하지 못하는 시스템도 있지만, 점점 더 많은 소프트웨어 공급업체와 AI 시스템이 왜 그랬는지, 무엇을 했는지에 대해 더 많은 가시성을 제공하고 있다”고 말했다. 그는 “까다로운 일은 적절한 투명성을 제공하고, 사용자를 압도하지 않고, 신뢰와 이해를 얻는 것”이라고 말했다.
미신 : AI 훈련을 위해 데이터 호수가 필요하다
현실 : 늪에서 물을 빼서 깨끗하게 하라
비정형 데이터는 공간을 차지하기 때문에 구조화된 데이터보다 더 나쁘다. 그것을 없애기 위해서는 모든 것을 샅샅이 살피는 데 자원을 다 써야만 한다. 이러한 이유로 QTS의 맥콜은 비정형 데이터를 위한 비정형 데이터는 쓸모 없는 것보다 더 나쁠 수 있다고 말한다.맥콜은 “지금 세계가 연구하고 있는 것은 데이터를 채굴하기 위해 어떻게 데이터를 구조화하고 구성할 것인가 그리고 어떻게 역사적 알고리즘과 패러다임을 만들 것인가 하는 것이다. 약간의 비정형 데이터는 괜찮지만, 데이터 포인트에서 수문을 열 때는 분명히 그것을 조직하고 구조할 능력을 가진 데이터 호수가 필요해질 것”이라고 말했다.
미신 : 모델링이 결과를 결정한다
현실 : 그렇다고 장담할 수는 없다
모든 AI 이니셔티브는 테스트 프로젝트로 시작한다. 테스트 단계에서 우수한 결과를 얻을 수도 있지만, 생산을 시작해보면 모델이 훨씬 정확하지 않다는 것을 알게 된다. AI와 머신 러닝 모델은 데이터 교육이 필요하고, 훈련 데이터는 실제 데이터를 대표하는 것이어야 하며, 그렇지 않으면 결과가 더 나빠질 것이기 때문이다.AI 모델의 훈련이 결코 완료되지 않았다는 점에 유의해야 한다. 실제 세계에서 모델을 활용하는 순간, 그 정확성은 저하되기 시작할 것이다. 쇠퇴하는 속도는 실제 데이터가 얼마나 빨리 변화하느냐(그리고 고객 선호도가 얼마나 빠르게 변하느냐)에 따라 달라질 것이다. 그러나 조만간 모델은 세계의 새로운 상태를 나타내는 새로운 데이터로 재교육되어야 할 것이다.
마와하는 “이것은 훈련 데이터 세트를 정의하는 정교한 작업이다. 훈련 데이터는 생산 데이터와 동일해야 한다. 그것이 프로그램 성공의 열쇠다”라고 말했다. 즉, AI 모델의 수명 기간 내내 반복해서 의지할 필요가 있는 열쇠인 것이다. editor@itworld.co.kr