가상 비서는 어떻게 비즈니스 가치를 견인하나

CIO
가상 비서, 인공지능(AI) 비서 기술은 꽤 오래전부터 부상할 움직임을 보였다. 그러다 아마존 알렉사, 애플 시리, 마이크로소프트 코타나, 구글 어시스턴트 같은 제품이 인기를 끌고 있으며, 이러한 추세는 계속되고 있다.
 
ⓒ GettyImages Bank


사용자의 음성 명령을 이해하고 사용자를 대신해 작업을 수행하도록 훈련받은 가상/AI 비서 기술은 여기에 그치지 않고 기업 시장에도 진입하고 있다. 기업은 음성-문자 전환, 팀 협업, 이메일 관리, 고객 서비스, 헬프데스크 관리, 데이터 분석 등 다양한 사례에 AI 비서(챗봇 포함) 기술을 활용할 방법을 모색하고 있다.

온라인 IT 커뮤니티인 스파이스웍스(SpiceWorks)가 2018년 발표한 보고서에 따르면, 직원 500명 이상의 기업 40%가 2019년에 기업이 보유한 기기에 지능형 비서나 AI 챗봇을 하나 이상 구현할 계획이 있다. 이는 스파이스웍스가 2018년 3월에 북미와 유럽의 IT 구매자 529명을 설문 조사한 결과다.

기업 보유 기기와 서비스에 이미 이 기술을 구현한 기업의 약 절반인 49%는 업무 관련 작업에 마이크로소프트 코타나를 사용하는 것으로 조사됐다. 그 다음으로는 47%가 애플 시리를 사용 중이었다. 구글 어시스턴트와 아마존 알렉사를 사용하는 비율은 각각 23% 및 13%이다.

AI 챗봇과 지능형 비서를 배포한 기업들 가운데 46%는 STT(Speak to Text) 기록에 사용하고 있었으며 26%는 팀 협력 지원에, 24%는 직원 일정 관리에 각각 사용 중으로 파악됐다. 이밖에 14%는 고객 서비스 지원에 AI 챗봇을 사용하고 있고, 13%는 IT 헬프데스크 관리에 사용하고 있었다.

절반이 넘는 53%의 기업들은 IT부서에서 이러한 제품을 사용하고 있었다. 23%는 관리 부서 지원에 20%는 고객 서비스 지원에 각각 사용 중이었다. 

AI 챗봇이나 지능형 비서를 아직 활용하지 않는다는 이유에 관해 업무 관련 사례가 미흡해 사용하지 않는다는 답변이 약 절반에 달했다. 또 29%는 보안 및 프라이버시에 대한 우려를, 25%는 비용으로 인한 도입 연기 등을 이유로 각각 지목했다. AI 도입이 확대되는 추세지만, 조직이 AI 기술을 구현해 지원할 수 있는 적절한 기술력, 인재, 자원을 보유하고 있다고 답한 IT종사자 비율은 20%에 불과했다.

가상 비서를 구축하고 계속 유지할 계획인 IT임원들에게 도움이 될 수 베스트 프랙티스들을 정리했다.
 

팀워크를 강조한다

독자적으로 AI 비서를 개발하고 배포해 유지 관리할 수는 없다. IT는 고객 서비스, HR, 경영진 등 다른 조직체와 접촉하고 협력해야 한다.

캐피털원이 2017년 출시한 자연어, SMS 기반 챗봇인 Eno를 개발했을 때 중요한 구성 요소 중 하나가 ‘팀 개념’이었다. 캐피털원의 소프트웨어 엔지니어링 VP 마가렛 메이어에 따르면 Eno의 특징, 기능, 인프라를 구현하기 위해 디자인, 제품 개발, IT 부서 직원들로 팀을 구성했다.

메이어는 “하나의 팀으로 일하면서, 새로운 기능에 대해 각자 인풋과 피드백을 제공해 Eno와 관련해 더 큰 성과를 일궈냈다. 정확한 장기 로드맵 수립에 대해 지나치게 집착하지 않는다. ‘민첩’하게 일한다. 그리고 고객이 원하는 ‘Eno가 고객에게 도움을 줄 수 있는’ 부분에 초점을 맞추고 있다”고 말했다.

Eno는 고객들이 더 빨리 효과적으로 계좌의 잔액, 최근 거래 내역, 결제일 관련 질문에 대한 답을 찾고 요금을 납부하며 기타 거래를 하도록 도움을 준다. 머신러닝을 사용해 특정한 사용자의 요구에 맞도록 지능형 비서를 커스터마이징할 수 있다.

AI 비서를 유용하게 사용할 수 있는 또 다른 분야는 부정행위(사기) 방지다. 기존에 사용한, 고객의 응답이 필요했던 부정행위 경고는 사용할 수 있는 응답 세트가 협의로 정의되어 있었다. 메이어는 “Eno는 자연어 처리 기능이 있다. 덕분에 자신의 신용카드 및 현금카드 계좌의 의심스러운 활동 때문에 경고를 받은 캐피털원 고객들은 이제 ‘네/아니요’로만 대답하지 않아도 된다. 이는 캐피털원이 의심스러운 활동에 대한 얼럿과 관련, 고객들로부터 더 다양하고 많은 응답을 받고 이를 파악하며 이해할 수 있도록 만들어준다. 이를 통해 카드를 더 빨리 중지시켜, 더 이상의 부정행위를 방지할 수 있다”고 설명했다.

Eno는 SMS 문자를 넘어, 다른 채널로 확대가 되고 있다. 고객의 요구와 채널 선호도를 충족하기 위해서다. 메이어는 “고객들이 채널에 상관없이, 자신들의 질문에 대한 답을 더 빨리 디지털 기반으로 얻도록 만드는 데 목적을 두고 있다”고 말했다.

고객들은 Eno와의 자연스러운 대화형 접촉에 긍정적인 반응을 보였다. 메이어는 “대기 시간 없이, 고객 서비스 직원과 이야기를 하는 것처럼 Eno와 이야기할 수 있어 좋다’는 고객 반응을 강조하고 싶다”고 전했다.

 


기술을 쉽게 활용할 수 있도록 만든다
나사(NASA) 산하 제트 추진 연구소(JPL)는 이른바 ‘미래의 기술 물결’을 끊임없이 평가하고 실험한다. 내부에서 개발한 디지털 비서 또한 이런 ‘미래의 기술 물결’에 포함이 된다. JPL의 톰 소더스트롬 IT CTO에 따르면, 이런 ‘물결’은 도처에 지능형 비서를 구현하게 될 ‘거대한 쓰나미’가 된다.

소더스트롬은 “기본 탑재된 지능형 비서가 진짜 유용해지려면, 쉽게 접근하고 쉽게 활용할 수 있게 만들어야 한다. 이미 우리는 시리, 알렉사, 구글 같은 디지털 비서에게 편하게 질문하고 대답을 듣는다. 우리는 이런 간편함을 좋아하지만, 업무 관련 질문은 할 수 없다. 또 이런 상용 디지털 비서와 대화를 유지할 수도 없다”고 이야기했다.

JPL의 비즈니스 케이스는 직원들이 지능형 비서와 간단히, 그리고 자연스럽게 업무와 관련된 깊이 있는 대화를 하고, 몇 초 만에 정확한 대답을 얻도록 만드는 것이다.

소더스트롬은 “대화, 문자, 화면 표시, 이메일 답장 등 사용자가 선호하는 방식으로 답변이 제공될 것이다”고 말했다. 질문을 하면, 지능형 비서는 페타바이트급 데이터가 포함된 여러 데이터 소스를 쿼리해 재빨리 질문에 대한 대답을 제공할 수 있어야 한다. 이때 사용자가 모든 세부 사항을 알 필요가 없도록 만들어야 한다.

이런 지능형 비서는 여러 다양한 사례에서 그 ‘혜택’이 입증되고 있다. 이런 사례 중 하나는 헬프데스크처럼 동일한 종류의 질문을 반복해 묻는 경우다. JPL은 HR과 계약, 조달, 사이버 보안, 클라우드 컴퓨팅에 대한 질문, 빈 회의실을 찾거나 주차장의 빈 자리를 찾는 등의 질문에 대답할 수 있는 지능형 비서를 구축했다.

또 다른 사례는 전문가들이 자신의 전문 분야와 관련된 특정 정보를 찾는 경우다. 이 지능형 비서는 수많은 데이터 소스와 도메인을 신속하게 검색해, 그 즉시 인사이트를 제공할 수 있다. 사이버 보안과 관련된 쿼리들, 우주 통신망 추적과 관련한 깊이 있는 질문들, 앞으로 열릴 컨퍼런스에 대한 정보, 최신 제안서에 대한 정보, 이상 행동/동작에 대한 보고서 작성 등도 사례가 될 수 있다.

데이터의 양이 아주 많고, 트랜잭션이 아주 빠른 속도로 발생하는 가운데 실시간 모니터링이 필요할 수 있다. 그러나 사람은 적시에 대응할 수 없다. 이런 경우도 사례가 될 수 있다. 백그라운드에서 작동하는 지능형 비서가 사용자에게 이벤트에 대해 통보하거나, 자신이 직접 대응하는 사례다. 실시간 공격 같은 사이버 보안 사고, 자동으로 화성의 흥미로운 부분에 대한 사진을 촬영해 JPL에 전송하는 것, 법 집행 기관들이 인터넷과 다크웹을 조사하는 데 도움을 주는 등의 다양한 노력이 예가 될 수 있다.

로드맵을 수립한다
가트너의 고객 경험 및 기술/대화형 AI 플랫폼 조사 담당 글로벌 선임 디렉터인 브라이언 마누사마는 “기업은 대화형 비서를 활용해 가치를 창출하는 데 목적을 둔 로드맵을 수립해야 한다”고 강조했다.

마누사마에 따르면, AI 비서를 활용할 수 있는 4가지의 중요한 대화형 상호작용 유형이 존재한다. 기업이 이 기술에 대한 경험을 축적하면서 논리적으로 발전 및 진행이 되는 유형들이다.

첫째, 낮은 수준의 정보 제공 작업이다. 단순한 대화로 의도를 파악하는 유형이다. 현재 배포된 기술 가운데 대부분이 여기에 해당된다. 웹사이트에서 자주 하는 질문을 자동화한 것을 예로 들 수 있다.

둘째, 낮은 수준의 정보 제공 작업이지만, 의도를 파악하기 위해 복잡한 대화가 필요한 유형이다. 의도를 명확히 파악하기 위해 여러 질문을 하는 유형이다.

셋째, 단순한 대화에 기반을 둔 트랜잭션이 요구되는 ‘엔드 투 엔드’ 작업이다. 자동화된 에이전트와의 대화를 백엔드 시스템에 통합, 트랜잭션을 트리거하거나, 여러 지식 기반을 결합해 요청에 대한 응답을 제공하는 유형이다.

넷째, 폭넓은 주제의 대화가 가능하고, 엔터프라이즈 시스템과 통합된 진짜 대화형 AI 비서다.

AI 비서가 실제 가치를 창출해 전달하는지 판단하기 위해서는 고객 만족도를 측정하는 것이 중요하다. 마누사마는 “최근 몇 년 동안, 일부 챗봇이 고객들에게 매우 나쁜 경험을 전달한 사례들이 있었다. 만족도를 측정하고, 단계적 확대 비율을 모니터링하며, 문제에 대한 보고서를 평가해야 한다. 또 더 정확해지도록 디지털 에이전트를 지속해서 재교육시켜야 한다”고 강조했다.

지금 바로 시도하며 직접 부딪혀 배운다
현재 AI 비서를 배포 및 구현할 수 있는 기술들이 존재한다. IT는 AI 비서 구현 및 배포를 지원해야 한다. 소더스트롬은 “사용자에게 가장 유용한 사례를 묻는 것이 좋다. 그런 다음 구축을 시작하고, 신속하게 사용자 피드백을 수집한다. 이를 기반으로 반복을 하거나 ‘폐기’한다. 그리고 다음 기술을 구현하기 시작하는 것이 좋다”고 말했다.

조직 구성원이 특정 AI 비서가 유용하다고 판단내릴 경우, 이는 경제적인 투자이고 빨리 투자 수익을 회수할 수 있는 투자다. 특정 비서가 유용하지 않다는 판단이 내려질 경우, 이는 작은 투자이고 미래에 사용하기 위해 ‘보관’할 수 있다.

JP는 AI 비서 프로젝트를 시작하면서 ‘아이디어톤’ 회의를 개최했다. 그리고 빈 회의실을 찾는 사례에 대한 요청이 가장 많다는 것을 발견했다. 소더스트롬은 “1주 만에 첫 번째 버전을 만들었다. 이후 계속 지능을 추가시켰다. 아주 효과적이라는 것이 증명되었고, 인기도 높았다”고 전했다.

특정 목적을 위해 특정 비서를 구현하는 방법 또한 고려해야 한다. 소더스트롬은 “동일한 아키텍처와 도구가 사용되지만, 사용자의 의도를 정확히 파악할 수 있을 정도로 자연어 처리 기술이 발전된 상태는 아니다”고 말했다. JPL이 단 하나의 AI 비서만 구현했다면, 사용자는 애플리케이션에서 더 많이 질문해야만 했을 것이다. 그리고 이는 AI 비서를 활용하기 어렵게 만들었을 것이다.

기업은 AI 비서를 배포할 때 일정 수준의 ‘후퇴’도 예상해야 한다. 보험사인 에이플락(Aflac)의 혁신 및 고객 경험 담당 디렉터 키스 팔리는 “AI를 구현할 때, 실패를 즉시 인정하고 이를 통해 학습하는 것이 중요하다”고 강조했다. 

2018년, 에이플라은 웹사이트와 모바일 앱에 ‘채팅’ 기능을 추가했다. 팔리는 “처음에는 완전히 자동화된 챗봇을 구현했다. 그러나 특정 유형의 질문에서 ‘실패율’이 너무 높다는 판단을 내렸다. 그래서 보험 혜택 및 범위와 관련된 다양한 질문에 대해서는 챗봇 대신 사람과 사람의 채팅 기능을 이용하기 시작했다”고 설명했다.

직원들은 모든 질문에 대해 대답할 수 있다. 에이플락은 이 원본 ‘질문 및 답변’ 데이터를 축적하고 있으며, 이를 활용해 2019년에 새로운 챗봇을 출시할 계획이다.

팔리는 “에이플락은 일정 수준 위험을 감수하고, 실패를 두려워하지 않는 기업 문화를 만들고자 한다. 초기의 실패로부터 재빨리 교훈을 터득하고, 다시 시작하며, 아주 성공적인 고객 앱을 개발해 전달할 수 있었다. 이는 고객 만족도를 높일 것이다”고 강조했다.

*Bob Violino는 프리랜서 기자로 다양한 기술과 비즈니스에 대한 주제를 담당하고 있다. ciokr@idg.co.kr