오픈AI, 기업용 챗GTP 출시··· “사용 제한 없고 속도 2배 더 빠르다”

오픈AI가 8월 28일(현지 시각) ‘챗GPT 엔터프라이즈(ChatGPT Enterprise)’를 공개했다. 챗GPT 엔터프라이즈를 사용하면 AI 모델을 어떻게 학습시킬지 그리고 해당 목적에 쓰이는 기업 데이터를 얼마나 오래 저장할지 결정할 수 있다.

회사에 따르면 새로운 챗GPT 서비스는 미사용 데이터(AES-256)와 전송 중인 데이터(TLS 1.2+)의 암호화 그리고 기업 인증을 위한 SAML(Security Assertion Markup Language) 싱글 사인온을 사용해 보안 및 프라이버시를 강화했다. 
 

또한 오픈AI는 대규모 언어 모델(LLM) ‘GPT-4’에 연결할 수 있는 대역폭을 개방했다고 밝혔다. 오픈AI에 의하면 ‘무제한 고속’ LLM 액세스와 이전보다 4배 더 긴 3만 2,000개의 토큰 컨텍스트 창 입력 및 후속 조치를 제공할 계획이다(1개의 토큰은 대략 4자 또는 0.75 단어다. 참고로 오픈AI에 따르면 셰익스피어 전집이 약 90만 단어 또는 120만 토큰이다). 

오픈AI는 공식 블로그에서 “(챗GPT 엔터프라이즈는) 모든 작업을 지원하고, 기업 데이터를 보호한다”라면서, “기업에 맞게 맞춤화된 업무용 AI 비서를 향한 또 다른 단계다”라고 말했다. 

이어 “기업은 챗GPT 엔터프라이즈에서 자사의 비즈니스 데이터를 소유하고 제어할 수 있다. 오픈AI는 기업의 비즈니스 데이터나 대화를 학습하지 않으며, 오픈AI의 AI 모델도 기업의 사용 방식을 학습하지 않는다. 챗GPT 엔터프라이즈는 모든 사용량 제한을 없애고, 최대 2배 더 빠른 성능을 제공한다”라고 전했다. 

아울러 오픈AI는 챗GPT의 엔터프라이즈 버전에 대규모 구성원 관리, 도메인 확인, 사용량 분석 대시보드 플러그인(이전에는 코드 인터프리터)을 갖춘 새로운 관리자 콘솔이 제공된다고 밝혔다. “고급 데이터 분석 기능을 사용하면 예를 들어 시장 데이터를 분석하는 재무팀, 설문조사 결과를 분석하는 마케팅팀, ETL 스크립트를 디버깅하는 데이터 과학자 등 기술팀과 비기술팀 모두 몇 초 만에 정보를 분석할 수 있다”라고 말했다. 이 밖에 텍스트가 얼마나 많은 토큰을 생성하는지 확인할 수 있는 이른바 ‘토큰화 도구(tokenizer tool)’도 제공된다고 덧붙였다.

많은 산업에서는 특정 전문 용어를 이해하고, 내부 사용자에게 맞는 콘텐츠를 생성할 ‘맞춤화된 LLM’이 필요하다. 예를 들어 의료 산업용 LLM은 전자건강기록(EHR)을 처리 및 해석하고, 치료 방법을 제안하거나, 의사의 메모 또는 음성 녹음을 기반으로 환자 건강 상태를 요약할 수 있다. 금융 서비스 산업에 맞춤화된 LLM은 실적 발표 내용을 요약하고, 회의 기록을 작성하며, 이상 거래를 탐지해 소비자를 보호할 수 있다. 이에 따라 완전히 맞춤화된 형태로 GPT-4를 사용하려는 기업을 위해 오픈AI의 API를 사용할 수 있는 무료 크레딧이 포함돼 있다고 업체 측은 전했다. 

챗GPT 엔터프라이즈는 현재 사용할 수 있다. 오픈AI는 기업에 따라 달라질 수 있는 가격을 자세하게 밝히지는 않았다.
editor@itworld.co.kr