AWS, 기업용 생성형 AI 서비스 아마존 Q 발표…MS 코파일럿 겨냥한 듯

AWS의 CEO 아담 셀립스키가 화요일 진행 중인 리인벤트 2023(re:Invent 2023) 컨퍼런스에서 마이크로소프트의 GPT기반 생성형 AI 비서 코파일럿에 대응할 아마존 Q(Amazon Q)를 공개했다.

셀립스키의 Q 발표는 마이크로소프트의 CEO 사티아 나델라가 광범위한 제품군에 걸쳐 다양한 통합 및 형태의 코파일럿을 발표했던 이그나이트와 빌드행사에서의 기조연설을 연상시켰다.
 

FG(The Futurum Group)의 기업 애플리케이션 조사 책임자 키스 커크패트릭은 “아마존 Q는 코파일럿이 처리할 수 있는 모든 기본적인 생산성 과업을 처리할 수 있지만 해당 스택 전반의 광범위한 앱에서 작업하기 위해 사용할 수 있으며, 이는 모니터링해야 하는 비서의 수를 제한하고 싶은 IT 관리자들에게 매력적일 것이다”라고 말했다.

AWS의 17년에 걸친 데이터 및 개발 전문지식에 기초하여 개발된 아마존 Q는 기업이 애플리케이션 개발, 코드 전환, 비즈니스 인텔리전스 생성, 기업용 애플리케이션을 위한 생성형 AI 비서로 활용, 아마존 커넥트(Amazon Connect) 상품을 통한 고객 서비스 에이전트 지원 등 다양한 기능에서 사용할 수 있을 것으로 전해졌다.
 

기업용 애플리케이션을 위한 생성형 AI 비서로서의 아마존 Q

아마존은 기업용 애플리케이션을 위한 생성형 AI 비서로 아마존 Q를 사용하여 기업의 정보 저장소, 코드, 데이터, 기업 시스템을 연결함으로써 대화를 나누고 문제를 해결하며 콘텐츠를 생성하고 인사이트를 얻을 수 있다고 밝혔다. 브라우저와 웹 인터페이스를 통해 액세스하는 웹 기반의 애플리케이션이다.

Q를 기업용 애플리케이션을 위한 비서로 활용하기 위해 기업은 세일즈포스, 마이크로소프트, 구글, 슬랙 등의 제공업체가 제공하는 애플리케이션뿐 아니라 AWS의 S3 스토리지 서비스 등 기존의 데이터 소스에 연결하여 생성형 AI 비서를 구성해야 한다. 현재, 기본적으로 40개 이상의 애플리케이션과 서비스가 지원된다.

글린 챗(Glean Chat)이라는 미국 신생업체 글린(Glean)의 비서와 유사해 보인다.

AWS의 AI 부사장 매트 우드는 “아마존 Q는 연결되면 모든 데이터와 콘텐츠의 인덱싱을 시작하며 모든 것을 학습하여 사업을 파악한다. 여기에는 핵심 개념, 제품명, 조직 구조 등 기업 고유의 모든 세부사항이 포함된다. 이런 소스에서 얻은 데이터도 인덱싱한다”라고 말했다.

우드는 “Q는 또한 생성형 AI를 사용하여 기업 고유의 의미론적정보를 파악하고 수집한다. 이 추가적인 의미론적 정보는 벡터 임베딩(Vector Embedding)으로써 수집되어 Q가 기업 및 산업에 맞춘 관련성이 높은 결과를 제공할 수 있다”라고 덧붙였다.

우드는 직원이 Q 안에서 쿼리를 시도할 때, 이 생성형 AI 비서는 후단에서 일련의 입력 프롬프트를 생성한 후 제공된 모든 기업 정보를 활용하여 관련 데이터를 찾고 답변을 구성하며 소스를 표시한다.

또한, 쿼리에 사용자가 접근할 수 없는 정보가 포함된 답변이 필요한 경우 비서는 답변을 표시하지 않는다고 말하면서 기업 관리자가 데이터에 대한 액세스를 관리하고 부적절한 질문을 제거하기 위해 비서에 대한 추가적인 구성이 가능하다고 덧붙였다.

또한 Q를 사용하여 인터페이스에서 워드 문서, 엑셀 또는 CSV 파일을 직접 업로드하여 인사이트를 얻을 수 있다고 AWS가 밝혔다. 또한 이 비서를 사용하여 서비스나우와 지라 같은 애플리케이션에서 요청을 제시하고 업데이트할 수 있다.

기업용 애플리케이션을 위한 생성형 AI 비서인 아마존 Q는 현재 프리뷰 단계이며 아마존의 미국 동부(버지니아) 및 서부(오리건) 지역을 통해 접근할 수 있다.

하지만 AWS는 Q가 사용하는 기초 모델을 공개하지 않았다.
 

아마존 Q의 개발자 지원 기능

셀립스키에 따르면 AWS는 프로그래머가 애플리케이션 개발 중 질문을 할 수 있는 자연어 대화 기능 등 개발자를 지원하기 위한 여러 기능을 아마존 Q에 통합했다.
기조연설 중 셀립스키는 메뉴에서 Q를 선택하여 AWS 관리 콘솔을 통해 접근할 수 있는 이 기능은 사용자가 AWS 콘솔에서 떠나지 않고 AWS에서 애플리케이션을 구축하는 방법에 대한 모범 사례를 조사하고 정보를 반복할 수 있다고 말했다.

CEO는 생성형 AI 비서는 애플리케이션에 관한 쿼리에 답변하면서 사용 빈도 등 여러 요소를 고려하여 관련된 데이터베이스 또는 다른 서비스 상품을 제안할 수 있다고 덧붙였다.
현재 모든 상용 AWS 리전에서 프리뷰 단계인 아마존 Q의 대화형 Q&A 기능도 AWS 챗봇을 통해 AWS의 CMA(Console Mobile Application), 문서 포털 및 다른 웹 사이트, 슬랙 및 팀즈에 통합되었다.

Q는 또한 개발자들이 구동하고 싶은 적절한 AWS EC2 인스턴스를 선택하도록 도울 수 있고, 생성형 AI 비서를 사용하여 콘솔 안에서 직접 문제와 오류를 해결할 수 있다.

AWS는 블로그 게시물을 통해 “아마존 Q는 오류에 대한 축약된 분석을 제공하여 문제의 기저 원인과 제안된 해결책을 이해하는 데 도움이 된다. 이 정보를 통해 개발자는 아마존 Q가 설명하는 단계를 따라 문제를 해결할 수 있다”라며 콘솔에 기능 실행을 돕기 위한 “Q를 통한 문제해결”이라는 내장된 옵션이 있다고 덧붙였다.

이 기능은 현재 미국 서부(오리건) 지역에서 EC2, S3, 아마존 ECS(Elastic Container Service), AWS 람다에 프리뷰로 제공되고 있다.

또한 콘솔 안에서 Q를 사용하여 네트워크 관련 문제를 해결할 수도 있다.

이 기능을 위해 아마존 Q는 아마존 VPC RA(Reachability Analyzer)와 협력하여 연결을 확인하고 네트워크 구성을 점검하여 잠재적인 문제를 확인한다고 말하면서 아마존은 이 기능이 현재 미국 동부(버지니아) 지역에서 프리뷰로 제공되고 있다고 덧붙였다.
 

IDE, 코드카탈리스트(CodeCatalyst) 안에서의 아마존 Q 통합

AWS는 또한 VSC(Visual Studio Code)와 제트브레인스(JetBrains) 등 IDE(Integrated Development Environment) 안에서 Q를 통합하기 시작했다.

이 기능 덕분에 개발자는 아마존 Q와 채팅하거나 채팅 상자에 ‘/’를 입력하여 동작을 호출하여 IDE 안에서 질문을 하고 도움을 얻을 수 있다. 개발자가 이 기능에 접근하기 위해 최신 AWS 툴킷(Toolkit)으로 업데이트하고 코드위스퍼러(CodeWhisperer)에 로그인해야 한다.

아마존 블로그에 따르면 개발자가 아마존 코드위스퍼러에 로그인하면 IDE에서 아마존 Q 대화 기능을 자동으로 활성화한다. 아마존 Q가 활성화되면 개발자는 코딩 지원을 받기 위한 채팅을 시작할 수 있다.

또한 Q를 사용하여 IDE 또는 아마존 코드카탈리스트 안에서 애플리케이션에 새로운 기능을 추가할 수 있다.

아마존은 “개발자는 IDE에서 양방향 단계별 지시와 모범 사례를 통해 몇 분 안에 자연어 프롬프트에서 애플리케이션 기능으로 이동할 수 있다. 프롬프트를 통해 아마존 Q는 애플리케이션 구조를 파악하고 프롬프트를 논리적인 상세 구현 단계로 구분하려 시도한다”라고 밝혔다.

Q 안에서 동작 명령(/dev)을 호출하고 처리 및 응답해야 하는 작업을 설명함으로써 IDE 안에서 이 기능을 사용할 수 있다.

Q에는 개발자가 기능을 더욱 신속하게 제공하는 데 도움이 되는 추가적인 기능이 있으며, 코드카탈리스트에서 접근할 수 있다.

아마존은 개발자는 아마존 Q에 새로운 또는 기존의 문제를 할당할 수 있으며, 그러면 E2E(End to End) 개발 워크플로를 처리한다고 밝혔다. 또한, Q가 기존의 코드를 검토하여 해결 접근방식을 제안하며 이 접근방식에 대해 개발자의 피드백을 요청하고 바로 병합할 수 있는 코드를 생성한 후 검토를 위한 풀(Pull) 요청을 공개할 것이라고 설명했다.

아마존 Q로 코드를 전환할 수 있는데, 이는 IBM 왓슨x(Watsonx)가 생성형 AI를 사용하여 코볼(COBOL) 코드를 자바(Java)로 전환하는 것과 유사하다.

개발자는 AWS 툴킷 안에서 AWS 코드위스퍼러로 접근해 애플리케이션을 업그레이드하는 시간을 단축할 수 있다. 셀립스키는 AWS의 직원들이 이 기능을 사용하여 자바 애플리케이션을 업데이트했다고 덧붙였다. 

마찬가지로 프리뷰 단계인 코드 전환 기능도 인텔리J IDEA(IntelliJ IDEA)용 AWS 툴킷과 VSC용 AWS 툴킷을 통해 사용할 수 있는 것으로 알려졌다.
editor@itworld.co.kr