AIㆍML / 개발자

“AI 툴과 프로세스 자동화의 결합” 더 진화한 MS 코파일럿 스튜디오

Simon Bisson | InfoWorld 2024.06.10
기존 코파일럿 스튜디오(Copilot Studio)는 생성형 AI를 통합하고 더 일반적인 대화 상호 작용을 지원하기 위해 기존 파워 버추얼 에이전트(Power Virtual Agents) 도구를 확장한 툴이었다. 이제 코파일럿 스튜디오는 애저 오픈AI 도구를 사용해 추가 데이터 소스로 작업함으로써 향상된 언어 이해 기능을 갖춘 훨씬 더 유연한 도구가 됐다.
 
ⓒ  Getty images Bank

빌드 2024 행사에서 마이크로소프트는 파워 플랫폼을 로우코드 및 노코드 개발 도구에 맞춰 기능을 조정하고 파워 오토메이트 흐름 및 커넥터에 대한 지원을 추가했다. 이는 파워 플랫폼의 큰 변화지만, 동시에 마이크로소프트가 자율 에이전트를 구축하고 실행하기 위한 도구로 생성형 AI를 적극 활용한다는 의미이기도 하다. 결과적으로 새 코파일럿 스튜디오는 챗봇을 넘어 AI 오케스트레이션 워크플로우로 진화하는 파워 플랫폼의 AI 전략을 완전히 리팩토링한 것에 해당한다. 여전히 챗봇을 지원하기는 하지만 이제 코파일럿 스튜디오의 웹 기반 노코드 개발 캔버스에서 더 많은 것을 만들 수 있게 됐다.
 

RPA에 로봇 적용하기

새로운 코파일럿 스튜디오에서 가장 중요한 변화는 GPT 4.0과 같은 모델이 구조화된 인터페이스와 어떻게 협업할 수 있는지에 대해 이해를 높였다는 점이다. 오픈API를 이용해 동적으로 요청을 생성하고, 자연어를 사용해 응답을 분석하고 만드는 것이 대표적이다. 오픈API 대신 생성형 AI를 이용해 기존 혹은 새로운 파워 플랫폼 커넥터를 오케스트레이션하는 것도 가능한데, 이를 통해 사용자는 에이전트와 대화하고, 그 응답을 지원하는 모든 채팅 클라이언트에서 볼 수 있다.

이런 방식에는 많은 장점이 있다. 긴 트랜잭션 작업은 항상 문제가 되어 왔으며, AI 기반 워크플로우의 핵심인 시맨틱 메모리 도구는 이에 대한 해법으로 주목받았다. 코파일럿의 이번 변화에서 중요한 부분은 트리거를 사용해 일련의 다양한 AI 기반 작업을 아우르는 흐름을 실행할 수 있다는 점이다. 이제 단발성 채팅 도구가 아닌, 마지막 결과 집합을 기반으로 단계를 수정하면서 장기적인 트랜잭션을 관리할 수 있게 됐다.

작동 방식은 간단하다. 수신 이메일을 기반으로 일련의 작업을 트리거한다고 하자. 코파일럿 스튜디오를 사용해 마이크로소프트 그래프(Microsoft Graph)에서 이벤트에 의해 시작되는 워크플로우를 매핑할 수 있다. 다이내믹스 365(Dynamics 365)에서 메일 발신자의 세부 정보를 가져오고, 수신 메일과 보낸 사람의 CRM 상호 작용 기록을 기반으로 응답을 자동으로 생성하고, 수행한 작업을 자세히 설명하고 사람의 개입이 필요한 후속 조치를 나열하는 메시지를 팀즈(Teams)로 보낼 수 있다.

이는 1세대 파워 플랫폼의 AI 어시스턴트 작동 방식과 매우 다르다. 이제 작업 간 정보를 관리하고 자동화된 작업과 수동 작업을 혼합해 처리하는 것이 가능하다. 에이전트를 사용해 이를 관리하면 애플리케이션 데이터를 기반으로 자연어 응답을 보낼 수 있을 뿐만 아니라 알림과 상호 작용을 적절한 담당자에게 전달할 수 있다.
 

코파일럿 스튜디오에서 에이전트 만들기

이런 기능을 사용하려면 마이크로소프트의 다양한 클라우드, 특히 마이크로소프트 그래프와 파워 플랫폼의 데이터버스(Dataverse)와의 통합이 필요하다. 파워 오토메이션의 플로우 디자인 메타포를 활용해 채팅 앱을 만드는 대신 AI를 사용해 워크플로우를 관리하고 제어할 수 있다. 즉, 코파일럿 스튜디오를 기존 파워 오토메이션 플로우와 함께 사용해 기존 비즈니스 프로세스에 AI 기능을 추가할 수 있다.

이때 플로우는 대화형, 커넥터, 플로우 및 프롬프트와 같은 일련의 사용 가능한 작업 중 하나로 취급된다. 대화형 작업은 시맨틱 커널의 챗GPT 플러그인이나 스킬처럼 작동하는 흥미로운 신기능이다. 코파일럿 스튜디오 토픽처럼 작동하지만 콘텐츠에 연결하는 대신 코파일럿 스튜디오 상담원이 API 및 외부 데이터에 액세스할 수 있도록 지원한다. 사용자 지정 코드와 비즈니스 로직에 연결해 기존 엔터프라이즈 소프트웨어 기술과 코드 없는 AI를 혼합할 수도 있다.
 

커넥터와 실제 데이터의 연동

더 중요한 신기능이 코파일럿 커넥터다. 파워 앱스(Power Apps), 파워 오토메이트의 커넥터와 마찬가지로 애플리케이션을 외부 데이터와 API에 연결한다. 이런 도구는 AI 기반 애플리케이션, 특히 생성형 AI를 사용하는 애플리케이션이 통제 불능 결과를 내놓는 위험을 줄이는 데 근거를 제공하므로 더 중요하다.

특히 유용한 점은 코파일럿 스튜디오가 기존 파워 플랫폼 커넥터를 사용해 마이크로소프트가 "지식(knowledge)"이라고 설명하는 것을 확장할 수 있다는 것이다. 여기에는 기존 챗봇 도구와 데이터버스, 패브릭 같은 마이크로소프트 정보 소스가 포함된 정보 소스 세트가 포함된다. 데이터버스를 사용해 다른 엔터프라이즈 소스의 데이터를 RAG(검색 증강 생성) 기반 출력에 활용할 수도 있다. 단, 사용할 수 있는 데이터에는 제한이 있으며, 애플리케이션당 2개의 데이터버스 소스만 쓸 수 있다. 각 소스에는 15개 테이블만 사용할 수 있다. 현업 애플리케이션의 사용자 지정 데이터는 JSON으로 가져와서 바로 사용할 수 있다.

데이터가 그다지 많지 않은 것처럼 보일 수 있지만, 본격적인 자율 애플리케이션을 빌드하고 실행하는 데 코파일럿 스튜디오를 사용하는 것이 아니라 애저 AI 스튜디오의 '프롬프트 플로우(Prompt Flow)'와 같은 프레임워크로 작업해야 한다는 점을 고려해야 한다. 코파일럿 스튜디오에서 에이전트에 커넥터를 추가하는 작업은 매우 간단하다. 애플리케이션에 지식을 추가하고 엔터프라이즈 연결을 추가하는 것으로 시작한다. 이런 연결은 사용자의 권한을 상속해 사용자가 보안 규정을 위반하지 않고 결과를 얻을 수 있도록 한다. 이런 방식은 규제가 적용되는 산업의 AI 애플리케이션 개발에 필수적이다.
 

대화형 작업에서의 AI 기반 워크플로우

애플리케이션에서 대화형 액션을 사용하면 개발 작업이 더 흥미로워진다. 기본 에이전트가 사용자의 요청을 파싱하고 이를 사용해 알려진 작업, 연결 및 구성 요소 집합에 걸쳐 오케스트레이션을 구성한 다음 생성형 AI를 사용해 자연어 응답을 조합한다. 이 모든 작업을 자율적으로 처리한다.

이 과정에서 사용자 요청은 상호작용을 시작하는 데 사용되는 오케스트레이션 프롬프트다. 마이크로소프트는 향후 릴리즈에서 기본 시스템이 사용 중인 API에 대한 지식을 사용해 필요에 따라 추가 정보를 요청하는 기능을 추가할 예정이다. 현재의 코파일럿 스튜디오에서는 이미 빌드하고 테스트한 기존 AI 애플리케이션에 자연어 확장 기능을 추가하는 것으로 제한돼 있다.

사용자가 해야 할 작업은 애플리케이션을 편집해 확장 기능이나 액션을 추가하고 대화형 액션을 선택하는 것뿐이다. 그 후 액션을 편집하기 전에 몇 가지 기본 구성을 설정해야 한다. 트리거는 동작을 정의하는 프롬프트로, 동작의 용도를 설명하고 해당 작업이 언제 어떻게 호출되는지 결정한다. 일단 트리거를 설정하면 액션을 작성할 수 있다. 기본적으로 UI가 없는 프로세스 흐름이다. 마이크로소프트 편집 도구는 사용자 상호 작용 구성 요소를 표시하지 않으므로 프로세스가 코파일럿 내에서 실행되고 흐름을 방해하지 않는다. 게시된 후에는 작업을 마이크로소프트 365 코파일럿 카탈로그에 추가해 플러그인으로 취급되며 코파일럿과 사용자 대화의 일부로 활성화된다.

이렇게 업그레이드된 코파일럿 스튜디오의 비용은 저렴한 편이다. 백그라운드 서비스이므로 사용자 별로 라이선스가 부여되지 않고 메시지당 요금제를 사용하며, 월 200달러에 2만 5,000개의 메시지를 사용할 수 있다. 메시지란 응답을 트리거하는 요청으로, 생성형 AI 연산을 필요로 하는 메시지는 표준 메시지 2개로 계산된다. 현재는 추가 용량을 구매하는 방법이 명확하지 않은데, 마이크로소프트 365에서만 사용할 수 있는 사용자당 $30 옵션이 있다.

정리하면, 코파일럿 스튜디오의 초기 버전은 기존 기술에 생성형 AI를 접목해 챗봇을 간단하게 구축하는 방법을 제공했다. 이번에 살펴본 최신 업데이트는 훨씬 더 나아가 최신 AI 도구를 프로세스 자동화에 연결해 코드 없이 자율 에이전트를 개발하는 가능성을 제공한다. 익숙한 기술을 AI 기반 오케스트레이션과 결합한 결과는 꽤 만족스럽다. 잘 정의되고 의미론적으로 풍부한 API로 작업하고 인간 친화적인 형식으로 결과를 제공한다. AI가 가장 잘할 수 있는 일을 기대대로 잘 처리한다.
editor@itworld.co.kr
Sponsored
IDG 설문조사

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.