“M365 코파일럿의 모든 것” MS의 생성형 AI 도구 종합 안내서

마이크로소프트는 올해 초 챗GPT를 만든 오픈AI와의 파트너십을 발표한 후, 마이크로소프트 365 비즈니스 생산성 및 협업 애플리케이션 제품군에 ‘코파일럿(Copilot)’ 생성형 AI 비서를 배포하고 있다. 워드, 아웃룩, 팀즈, 엑셀, 파워포인트 등의 애플리케이션이 AI 비서와 연결돼 작업을 자동화하고, 콘텐츠를 생성해 사용자의 시간을 아끼고 생산성을 향상시킬 수 있다.

포레스터(Forrester)의 ‘일의 미래’ 팀 수석 애널리스트 겸 VP 제이피 가운더는 “M365 코파일럿의 목적은 더 유용한 비서를 만드는 것”이라면서, “사용자가 ‘기장’이고, ‘부조종사’인 코파일럿이 옆에서 삶을 훨씬 쉽게 만들어 줄 수 있는 작업을 맡는다는 개념이다”라고 설명했다. 
 

가운더는 “M365 코파일럿이 기존의 컴퓨팅 방식을 바꿀, 생성형 AI 혁신의 일환이다”라면서, “생성형 AI 기술은 2022년 말 챗GPT-3가 출시된 이후 콘텐츠 작성부터 코드 생성까지 다양한 업무에 이미 적용되고 있다. 코파일럿이 협업 및 생산성 도구의 작동 방식을 변화시키는 촉매제가 될지는 아직 두고 봐야 한다”라고 덧붙였다.

최근 몇 달 동안 생성형 AI 도구가 빠르게 확산되고 있다. 하지만 기업이 어떻게 내부 데이터를 위험에 빠뜨리지 않고 이 기술을 사용할 수 있는지에 관한 우려는 여전하다. 

가트너의 VP 애널리스트 아비바 리탄은 “특히 규제가 엄격한 산업에서 M365 코파일럿은 완전히 기업용으로 준비되지 않은 상태”라고 말했다. 이어 리탄은 생성형 AI 도구의 기반이 되는 대규모 언어 모델(LLM)이 사용자에게 ‘환각’을 유발하거나 잘못된 정보를 제공하는 것과 관련된 다양한 데이터 프라이버시 및 보안 위험을 경고했다. 
 

마이크로소프트 365 코파일럿이란?

M365 코파일럿 시스템은 3가지 요소로 구성된다. ▲첫 번째는 사용자가 AI 비서와 상호작용할 수 있는 워드, 엑셀, 팀즈 등의 마이크로소프트 365 앱이다. ▲두 번째는 마이크로소프트 365 환경의 파일, 문서, 데이터를 포함하는 마이크로소프트 그래프(Microsoft Graph)다. ▲세 번째는 사용자 프롬프트를 처리하는 오픈AI 모델(예: 오픈AI의 챗GPT-3, 챗GPT-4, 달리(DALL-E), 코덱스(Codex), 임베딩스(Embeddings) 등)이다. 아울러 이 모델은 모두 마이크로소프트의 애저 클라우드 환경에서 호스팅된다.

코파일럿은 마이크로소프트의 생성형 AI 계획의 일부일 뿐이다. 이 회사는 코파일럿을 마이크로소프트의 다이내믹스(Dynamics) 365 비즈니스 앱, 파워플랫폼(PowerPlatform), 보안 제품군, 윈도우 운영체제에 맞춰 조정할 계획이 있다. 마이크로소프트 자회사 깃허브도 몇 년 전 오픈AI와 함께 깃허브 코파일럿을 개발해 코더를 위한 자동 완성 도구를 제공한 바 있다.

다른 생성형 AI 도구와 마찬가지로 코파일럿의 핵심 구성 요소는 LLM이다. LLM은 간단하게 데이터 입력/출력 세트를 통해 학습된 머신러닝 네트워크라고 생각하면 된다. 이 모델은 자가지도 또는 반지도 학습 방법론을 사용한다. 기본적으로 데이터를 수집하고, 알고리즘이 다음 단어로 예측한 내용을 바탕으로 LLM이 결괏값을 내보낸다. LLM 정보는 기업의 독점 데이터로 제한될 수도 있고, 챗GPT처럼 웹에서 직접 공급받거나 스크랩한 모든 데이터를 포함할 수도 있다. 

코파일럿의 목표는 이메일 초안 작성이나 슬라이드쇼 생성 같은 작업을 자동화해 생산성을 향상시키는 것이다. 마이크로소프트 회장 겸 CEO 사티아 나델라는 코파일럿을 발표하면서, “컴퓨팅과 상호작용하는 방식의 다음 단계”라고 설명했다. 아울러 “코파일럿을 통해 사용자에게 자율성을 제공하는 한편, 가장 보편적인 인터페이스인 자연어를 통해 기술 접근성을 높이고 있다”라고 덧붙였다.

업무 환경에서 AI로 시간을 절약할 수 있는 가능성에 관해서는 낙관적인 전망이 많다. 올해 초 스탠포드 대학교와 MIT의 공동 연구 결과, (이름이 밝혀지지 않은) 생성형 AI 도구를 사용한 콜센터 직원의 생산성이 14% 향상된 것으로 나타났다. 골드만 삭스 리서치(Goldman Sachs Research)는 생성형 AI 기반의 생산성 향상이 향후 10년간 세계 경제에 기여할 수 있는 규모를 7조 달러로 추산했다. 

하지만 S&P 글로벌 마켓 인텔리전스(S&P Global Market Intelligence) 산하 451 리서치(451 Research)의 선임 리서치 애널리스트 라울 카스타뇽은 즉각적인 이점을 기대해서는 안 된다고 말했다. 카스타뇽은 “생산성이 크게 향상될 가능성이 있지만, 파도처럼 밀려올 것으로 예상한다. 아마도 단기적으로는 반복적인 업무의 자동화에 따라 일상적인 업무가 조금씩 개선되는 모습을 볼 수 있으리라 생각한다”라고 전했다. 

코파일럿이 여러 소스의 정보를 통합하거나 초안을 생성해 사용자의 시간을 절약할 수 있지만, 생산성 향상은 미미한 수준에서 이뤄질 것이라는 설명이다. 이어 카스타뇽은 “게다가 이런 생산성 향상 사례는 수익을 창출하지 않는 활동이다. 즉, 가치 창출 활동에 직접적으로 영향을 미치지 않는 오버헤드 작업이 대부분이다. 때가 되면 실현될 것이다”라고 설명했다. 
 

코파일럿 가격

마이크로소프트의 코파일럿은 현재 제한된 마이크로소프트 365 고객 그룹에게 사전 체험판으로 제공되고 있다. 현재 셰브론, 굿이어, 제너럴 모터스 등이 이 AI 비서를 테스트 중이다. 마이크로소프트는 아직 출시 일자를 정하지 않았지만, 올해 말에는 코파일럿이 정식 출시될 것으로 예상된다. 마이크로소프트 365 로드맵에 따르면 쉐어포인트의 코파일럿은 11월부터 배포될 예정이지만, 마이크로소프트는 나머지 제품군의 출시 일정은 정확하게 밝히지 않았다. 

가격 또한 아직 공개되지 않았다. AI 기능에 액세스하는 데 필요한 팀즈용 프리미엄 계층 출시는 상위 계층인 M365 고객이 코파일럿을 사용할 수 있음을 시사한다. 마이크로소프트는 이와 관련한 언급을 거부했다. 가우더는 “아무리 좋은 제품이라도 잘못된 라이선싱과 열악한 접근성으로 빛을 보지 못할 수 있다. 예를 들어 마이크로소프트가 E5 엔터프라이즈 제품의 일부로 코파일럿을 포함한다면 많은 소규모 기업이 이 기술에 액세스하지 못해 전체적인 성장이 느려질 수 있다”라면서, “코파일럿이 널리 사용되지 않는다면 모든 사람이 쓰는 사실상의 표준이 되지 못할 것이다. 하지만 이와 동시에 마이크로소프트는 코파일럿을 수익화하길 원한다”라고 말했다. 
 

코파일럿 어떻게 사용하나? 

사용자가 코파일럿과 상호작용하는 기본적인 방법은 2가지가 있다. 특정 앱 내에서 직접 액세스해 이를테면 파워포인트 슬라이드 또는 이메일 초안을 만들거나, 팀즈에서 액세스 가능한 자연어 챗봇(Business Chat)을 활용하는 것이다. 
 

앱 내에서의 상호작용은 다양한 형태로 이뤄질 수 있다. 예를 들어 워드 문서에서 코파일럿을 호출하면 초안을 만들 수 있다. 초안을 생성하기 위해 사용자는 코파일럿에게 자연어로 특정 정보 소스 또는 여러 소스의 조합을 기반으로 텍스트를 생성하도록 요청할 수 있다. 한 가지 예로 원노트의 회의 노트와 다른 워드 문서의 제품 로드맵을 바탕으로 제안서 초안을 만들 수 있다. 초안이 생성되면 사용자는 이를 편집하거나, 스타일을 조정하거나, AI 도구에 전체 문서를 다시 작성하도록 할 수 있다. 코파일럿 사이드바는 봇과 더 많은 상호작용을 할 수 있는 공간을 제공하며, 이미지 추가 또는 FAQ 섹션 같이 초안을 개선할 수 있는 메시지를 제안하기도 한다. 

팀즈 화상회의 중에 사용자는 지금까지 대화한 내용을 요약해 달라고 요청할 수 있으며, 코파일럿은 코파일럿 사이드바를 통해 요약한 내용을 실시간으로 제공할 수 있다. 아울러 AI 비서를 통해 회의에 참석하지 못한 사용자에게 회의 내용이나 이후에 해야 할 작업을 정리해 전달할 수도 있다. 

파워포인트에서 코파일럿은 워드 문서를 초안 슬라이드로 자동 변환한 다음, 코파일럿 사이드바에서 자연어를 통해 수정할 수 있다. 또 코파일럿은 슬라이드에 어울리는 추천 발표자 노트를 생성하고, 이미지를 더 추가할 수도 있다. 

코파일럿과 상호작용하는 다른 방법은 팀즈에서 챗봇으로 액세스할 수 있는 ‘비즈니스 채팅(Business Chat)’을 사용하는 것이다. 여기서 비즈니스 채팅은 문서, 일정, 이메일, 채팅을 비롯해 다양한 소스의 정보를 표시하는 검색 도구로 역할한다. 예를 들어 직원이 프로젝트 업데이트를 요청하면 관련 팀 커뮤니케이션 및 작성된 문서 요약과 소스 링크가 표시된다. 
 

 

코파일럿과 다른 생산성 및 협업용 생성형 AI 도구를 비교한다면?

생산성 및 협업 소프트웨어 시장에서 대부분의 업체가 생성형 AI를 기존 제품에 추가하고 있지만, 아직 초기 단계다. 생산성 소프트웨어 분야에서 마이크로소프트의 주요 경쟁자인 구글은 워크스페이스(Workspace) 제품군에 생성형 AI를 통합한다는 계획을 발표했다. 현재 비공개 프리뷰로 제공되고 있는 ‘워크스페이스용 듀엣 AI(Duet AI for Workspace)’은 지메일 대화 요약, 텍스트 초안 작성, 구글 문서 및 슬라이드 이미지 생성 등을 제공한다. 

아울러 마이크로소프트 팀즈의 라이벌 슬랙 역시 소프트웨어에 LLM을 통합하고 있다. 마이크로소프트 365 포트폴리오와 경쟁하는 줌(Zoom), 박스(Box), 시스코(Cisco) 등의 기업도 생성형 AI 계획을 내세우고 있다.

카스타뇽은 “업체 측면에서는 올해 상반기의 수많은 발표에서 알 수 있듯이 많은 업체가 생성형 AI에 뛰어들고 있다. 생성형 AI 과대 선전에도 이는 생성형 AI 기술이 많은 업체의 제품 로드맵에 빠르게 통합되고 있음을 시사한다”라고 전했다. 

현 단계에서 여러 제품을 비교하기는 어렵지만, 코파일럿은 경쟁 제품에 비해 몇 가지 장점이 있는 것으로 보인다. 그중 하나는 생산성 및 협업 소프트웨어 시장에서 마이크로소프트가 차지하고 있는 지배적인 위치다. 카스타뇽은 시스코 웹엑스(Cisco Webex)와 그래머리(Grammarly) 같은 경쟁사도 정확도에 있어서는 코파일럿에 필적할지 모르지만, 마이크로소프트는 이미 대규모 고객층을 확보한 제품군에 AI 비서를 적용할 수 있다는 점에서 채택을 주도할 것이라고 진단했다.

카스타뇽은 “마이크로소프트 365 코파일럿의 핵심 장점은 팀즈 같은 종전의 다른 이니셔티브와 마찬가지로, 마이크로소프트의 협업 및 생산성 포트폴리오와 이 포트폴리오가 전 세계적으로 널리 사용되고 있다는 점을 통해 ‘이미 만들어진’ 기회가 있다는 것”이라고 설명했다. 

아울러 마이크로소프트의 오픈AI와의 긴밀한 파트너십(마이크로소프트는 2019년부터 여러 차례에 걸쳐 오픈AI에 수십억 달러를 투자했으며, 오픈AI에 큰 비지배적 지분을 소유하고 있다)는 마이크로소프트가 경쟁사보다 빠른 속도로 애플리케이션에 생성형 AI를 구축하는 데 도움이 됐을 가능성이 높다. 카스타뇽은 “마이크로소프트의 오픈AI 투자는 이미 효과가 나타났다. 마이크로소프트는 자사 제품에 생성형 AI/LLM을 사용하는 속도를 높여 구글 클라우드 등의 다른 경쟁사를 앞서갈 수 있게 됐다”라고 덧붙였다.
 

기업이 직면할 수 있는 생성형 AI 위험은 무엇인가?

기업은 생성형 AI의 잠재적인 이점과 더불어 위험도 고려해야 한다. 일반적으로는 업무 환경에서의 LLM을 사용하는 것, 특히 코파일을 사용하는 것에 관해 우려가 있다. 가트너는 최근 한 보고서(유료)를 통해 “가트너의 관점에서 봤을 때 현시점에서 마이크로소프트 365 코파일럿은 적어도 규제가 엄격한 산업의 기업이나 EU의 개인정보보호법(GDPR) 또는 곧 시행될 인공지능법(AI Act) 같은 개인정보보호 규정의 적용을 받는 기업에게는 ‘기업에서 사용할 준비’가 완전히 되어 있지 않은 상태다”라고 지적했다.

가트너는 코파일럿이 기존의 마이크로소프트 365 접근 제어와 기업 정책을 따르지만, 이것만으로는 LLM 사용에 따른 위험을 해결하기에 충분하지 않다고 언급했다. 리탄은 코파일럿을 현재의 형태로 배포한다면 여러 가지 위험이 발생할 수 있다면서, 출시에 앞서 추가적인 통제 장치가 필요하다고 말했다.
 

‘환각’을 방지하는 콘텐츠 필터

기업이 우려하는 것 중 하나는 사용자가 LLM에 입력한 정보와 AI 도구가 생성하는 결과를 걸러내는 기능이다. 예를 들어 LLM이 잘못된 정보로 응답하는 “환각”을 비롯해, 원치 않는 정보가 사용자에게 전달되는 것을 방지하려면 콘텐츠 필터가 필요하다. 리탄은 “환각으로 인해 잘못된 정보가 파트너, 직원, 고객에게 유출될 수 있으며, 최악의 상황에는 전체 생태계에 악의적인 활동이 퍼질 수 있다. 따라서 출력물에서 정책 위반, 환각, 악의적인 활동을 걸러 내야 한다”라고 권고했다. 
 
리탄은 마이크로소프트의 애저 오픈AI 서비스(Azure OpenAI Service)가 특정 주제(혐오, 성, 폭력, 자해)의 콘텐츠 필터링 옵션을 제공하지만, 환각 오류나 저작권 있는 정보 도용 또는 편향된 결과를 제거하기에는 부족하다고 말했다. 

이어 리탄은 고객은 자체 환경과 비즈니스 요건에 맞는 필터를 만들어야 한다고 강조했다. “코파일럿에는 사용자의 기업 정책을 적용해 콘텐츠를 검토하고, ‘이 콘텐츠는 정책에 위반된다’라고 판단하는 기능이 없다. 또 환각이나 저작권을 걸러낼 기능도 없다. 기업에는 이런 정책이 필요하다”라고 덧붙였다.  

리탄은 서드파티 콘텐츠 필터링 도구가 등장하기 시작했지만, 아직 프로덕션 환경에 사용할 수 있는 수준은 아니라고 전했다. 서드파티 콘텐츠 필터링 도구에는 AI실드 가디언(AIShield GuArdian), 칼립소 AI 모더레이터(Calypso AI Moderator) 등이 있다.

마이크로소프트 관계자는 마이크로소프트가 코파일럿의 결과물을 둘러싼 문제를 완화하기 위해 노력 중이라고 밝혔다. 관계자는 “마이크로소프트의 AI 원칙에 따라 잘못된 정보, 허위정보, 콘텐츠 필터링, 차별적인 콘텐츠 등의 문제를 해결하는 대규모 팀이 있다”라면서, “아울러 오픈AI와 협력해 문제를 해결하고 있으며, 콘텐츠 필터링, 운영 모니터링, 오남용 탐지 및 기타 안전장치 등을 통해 문제를 완화하고 오용을 방지하도록 설계된 안전 시스템을 개발했다”라고 전했다.  
 

데이터 보호는 필수

데이터 보호는 민감한 데이터가 LLM으로 유출될 가능성 때문에 중요하다. 실제로 삼성 직원이 챗GPT에 접속한 상태에서 실수로 민감한 데이터를 유출하는 바람에, 삼성 측이 챗GPT는 물론 구글의 바드(Bard)와 마이크로소프트의 빙(Bing)까지 사용을 금지한 일이 있었다. 

마이크로소프트는 코파일럿의 경우 직원이 기밀 정보를 유출하지 않고 생성형 AI를 사용할 수 있다고 밝혔다. 마이크로소프트에 따르면 코파일럿 액세스 이후 사용자 프롬프트 이력이 삭제되며, 그 어떤 고객 데이터도 언어 모델 학습이나 개선에 사용되지 않는다.  

하지만 가트너는 기업이 이런 문제와 관련해 ‘법적 구속력이 있는 데이터 보호 보증”이 필요하다고 언급했다. 마이크로소프트의 애저 책임 분담 모델은 고객이 데이터의 보안에 책임을 진다는 것을 의미하지만, 데이터가 LLM으로 전송된다면 문제가 있다. 리탄은 “사용자는 본인 데이터에 대해서는 전적인 책임이 있지만, LLM 환경 내부에 있는 데이터에 대해서는 통제권이 전혀 없다”라고 지적했다. 또 코파일럿 LLM의 복잡한 속성으로 인해 규제가 엄격한 산업에 속한 기업의 규정 준수 문제도 고려해야 한다. LLM에 대해 공개적으로 알려진 내용이 매우 적기 때문에 기업이 데이터의 안전을 보장하기 어렵다.
 

프롬프트 인젝션 공격의 가능성

LLM을 사용하면 공격자가 언어 모델의 출력을 가로채고 중요한 데이터에 액세스하는 프롬프트 인젝션 공격의 가능성도 열린다. 리탄은 마이크로소프트 365에 엔터프라이즈 보안 제어가 마련돼 있지만, “새로운 AI 기능과 콘텐츠를 대상으로 하는 것은 아니다. 기존 방식의 보안 제어는 확실히 필요하지만, AI 입력 및 출력 내용을 살펴볼 수 있는 기능도 필요하다. 이 모델은 별도의 벡터다. 다른 공격 벡터이자 침해 벡터다”라고 말했다. 

마이크로소프트는 이 문제를 해결하기 위해 내부적으로 노력 중이라고 밝혔다. 마이크로소프트 관계자는 “그 일환으로 이런 종류의 프롬프트를 여러 단계에서 식별해 걸러내고 있다. 또 시스템을 지속적으로 개선하고 있다”라고 말했다.
 

코파일럿은 어떻게 발전할까?

마이크로소프트는 정식 출시에 앞서, 최대한 많은 마이크로소프트 앱에 AI 비서를 배포할 계획이다. 원노트(OneNote), 원드라이브(OneDrive), 쉐어포인트(SharePoint), 비바(Viva) 등을 비롯해 다양한 도구에서 생성형 AI 기능을 사용할 수 있게 된다는 의미다.

코파일럿은 엣지(Edge) 브라우저에서도 사용할 수 있다. 엣지 엔터프라이즈(Edge Enterprise)의 그룹 제품 담당자 린제이 쿠바시크는 “예를 들면 동료가 공유한 파일을 보면서 ‘이 문서의 핵심 내용은 무엇인가’라고 간단히 질문을 던질 수 있다”라고 설명했다. 

또한 마이크로소프트는 ‘플러그인’을 통해 사용자가 쓰는 다른 앱으로 코파일럿의 범위를 확장할 계획이다. 이런 플러그인을 통해 코파일럿은 아틀라시안(Atlassian), 서비스나우(ServiceNow), 뮤럴(Mural) 등 다른 소프트웨어 업체의 앱에 있는 데이터를 활용할 수 있다. 마이크로소프트는 50개의 플러그인이 얼리 액세스 고객에게 제공됐으며, 향후 수천 개가 추가될 예정이라고 밝혔다.

아울러 마이크로소프트는 기업이 데이터 전반에 AI 비서를 배포하도록 돕기 위해 코파일럿용 시맨틱 인덱스(Semantic Index)를 만들었다. 회사에 따르면 코파일럿용 시맨틱 인덱스는 사용자의 개인 데이터와 회사 데이터의 정교한 지도이자 기업 내 코파일럿 채택의 전제 조건이다. 마이크로소프트는 시맨틱 인덱스를 사용하면 기업 데이터를 더욱 정확하게 검색할 수 있다고 밝혔다. 예를 들어 사용자가 ‘3월 영업 보고서’를 요청하면 시맨틱 인덱스는 해당 단어가 포함된 문서만 찾는 것이 아니라 보통 영업 보고서를 작성하면서 어떤 애플리케이션을 사용할 가능성이 높은지 같은 추가적인 맥락도 고려한다.
editor@itworld.co.kr