“하나의 모델이 만능은 아니다” 챗GPT를 대체할 만한 14가지 LLM

대부분 기업 경영진은 인공지능(AI)을 미래로 보고 있으며 많은 기술 리더는 챗GPT를 AI와 동의어로 여긴다. 그러나 오픈AI의 대표적인 프로젝트 챗GPT가 유일한 LLM(Large Language Model)은 결코 아니며, 소프트웨어 프로젝트 또는 영역에 따라서는 최선의 선택이 아닐 수도 있다. 새로운 경쟁자들이 거의 매일 등장한다. 지구를 해방시킬지 파괴할지는 모르겠지만, 모두가 다음 세대의 AI 툴을 만들고 싶어 하는 듯하다.
 

물론 AI 모델 간에도 우열이 있다. 모든 모델에는 결함, 기벽, 허점, 약점 등이 있고 오래 사용할수록 그런 부분이 명확하게 드러난다. 생성형 AI가 처음에는 놀라워 보일지라도 시간이 지날수록 이상하고 예측할 수 없는 측면이 드러나기 시작한다.

LLM 벤치마킹

생성형 AI 응답의 품질을 과학적으로 측정하기는 어렵다. 모델의 범위가 워낙 넓고 사용되는 방식도 다양하기 때문이다. 데이터 과학자가 수천, 심지어 수백만 개의 테스트 질문을 입력하고 응답을 평가할 수도 있겠지만, 한 가지 유형의 질문에만 집중하는 테스트 세트로는 제한적인 결과밖에 얻을 수 없다. 허깅 페이스(Hugging Face)의 오픈 LLM 리더보드(Open LLM Leaderboard)와 같은 리소스를 참고할 수 있으나 정확성은 보장되지 않는다.

LLM을 정확히 벤치마킹하는 방법을 찾기는 어렵지만, LLM 사이를 전환하는 것은 그나마 점점 더 쉬워지고 있다. 오픈 LLM, 패스트챗(FastChat)과 같은 프로젝트는 API와 인터페이스가 서로 다른 다양한 모델을 더 간편하게 연결할 수 있게 해준다. 레이어를 이어 붙이고, 경우에 따라서는 여러 모델을 병렬로 실행할 수도 있다.

LLM 이면에는 비용이라는 큰 문제가 있다. 모두가 관심과 투자의 폭발적인 증가를 즐기고 있지만, 대규모 언어 모델을 구축하는 데는 몇 개월, 길게는 몇 년이 걸릴 수 있다. 먼저 학습 데이터를 수집한 다음 막대한 전기를 소비하는 고가의 하드웨어에 데이터를 집어넣어 처리한다. 모델 생성은 마지막 단계다. 이것을 수익화하고 유지하는 최선의 방법이 무엇이냐는 질문에는 아직 명확한 답이 없다.

결과의 오픈소스화를 실험하는 기업도 있고, 자체 과금 모델을 둔 서비스에 의존하는 기업도 있다. 오픈소스 LLM은 진정한 선물이라고 할 수 있지만, 모델을 배포하고 계속 실행할 역량이 있을 때의 이야기다.

여기서는 챗GPT 이외의 14가지 LLM을 소개한다. 현재 진행 중인 프로젝트에 필요한 모델일 수도, 아닐 수도 있다. 여부를 알 수 있는 유일한 방법은 프롬프트를 보내 결과를 신중하게 평가하는 것이다.

라마

메타(구 페이스북)는 라마(Llama)라는 LLM을 만든 다음 “개방적 과학을 위한 약속”에 따라 공개했다. 누구나 라마를 다운로드해서 이를 기반으로 특정 응용 분야에 맞게 더 세부적으로 튜닝된 모델을 만들 수 있다(이어서 소개할 알파카(Alpaca)와 비쿠나(Vicuna)는 모두 라마를 기반으로 했다). 라마는 4가지 크기로 제공되며, 가장 작은 버전인 70억 매개변수 모델은 이미 예상치 못한 여러 사용처가 등장하고 있다. RAM 용량이 4GB에 불과한 라즈베리 파이에서 라마를 실행 중이라고 주장하는 개발자도 있다.

알파카

여러 스탠포드 연구자들이 메타의 라마 7B 모델을 기반으로 챗GPT와 같은 지시 추종 모델을 모방한 일련의 프롬프트를 학습시켰고 그렇게 해서 만들어진 것이 알파카(Alpaca) 7B다. 라마 LLM에 포함된 지식을 개방해 보통 사람도 질문을 하고 지시를 내려 접근할 수 있도록 한다. 일부 추정에 따르면, 이 가벼운 LLM은 600달러 급 미만의 하드웨어에서도 실행할 수 있다. 알파카 7B 제작자들은 학습 세트와 이를 구축한 코드를 배포하고 있다. 누구나 모델을 복제하거나 다른 세트로 새로운 것을 만들 수 있다.

비쿠나

LMSYS.org에서 만든 비쿠나(Vicuna) 역시 라마를 기반으로 한다. 비쿠나는 셰어GPT(ShareGPT)에서 7만 개의 대화로 구성된 학습 세트를 수집했으며, 특히 다중 회차(multi-round) 상호작용과 지시 추종 기능에 주의를 기울였다. 비쿠나-13b와 비쿠나-7b, 두 가지로 제공되며 기본적인 인터랙티브 채팅을 위한 오픈 솔루션 중 가격 경쟁력이 가장 높은 모델이다.

노드패드

모든 사람이 “언어적으로 정확한” 텍스트를 생성하는 LLM 방식에 끌리는 것은 아니다. 노드패드(NodePad) 제작자들은 텍스트 품질이 사용자가 기반이 되는 사실을 정확히 확인하는 데 방해가 되는 경향이 있다고 본다. 즉, 멋진 UI를 가진 LLM은 “의도치 않게 결과를 미화해 사용자가 문제를 예상하기 어렵게 만든다”라는 것이다. 노드패드는 사용자가 액면 그대로 받아들이는 경우가 많은 정제된 글 샘플을 생성하지 않고, 탐구력과 상상력을 자극하도록 설계됐다. 노드패드의 결과는 많은 “마인드 매핑 툴”에서 볼 수 있는 ‘노드’와 ‘연결’로 표현되며, 완성된 글처럼 보이지 않는다. 사용자는 표현에 매몰되지 않으면서 모델의 방대한 지식을 이용해 좋은 아이디어를 얻을 수 있다.

오르카

1세대 LLM은 시간이 지남에 따라 커지면서 규모 측면에서 성공했다. 마이크로소프트 연구팀이 개발한 오르카(Orca)는 이런 추세에 역행한다. 이 모델은 불과 130억 개의 매개변수만 사용하므로 보편적인 컴퓨터에서 실행이 가능하다. 오르카 개발자들은 이를 위해 “설명 트레이스”, “단계별 사고 프로세스”, “지시”를 사용하도록 학습 알고리즘을 강화했다. AI에 단순히 원시 자료를 주고 학습시키는 대신, 개발자들은 학습을 위해 설계된 훈련 세트를 제공했다. 즉, 인간과 마찬가지로 AI 역시 무작정 깊은 물에 던져지지 않을 때 더 빨리 학습한다. 초기 결과는 매우 긍정적이다. 마이크로소프트팀은 이 모델이 훨씬 더 큰 모델과 대등한 성능을 낸다는 것을 보여주는 벤치마크를 공개했다.

재스퍼

재스퍼(Jasper) 개발자가 목표로 한 것은 똑똑한 제너럴리스트가 아니라 콘텐츠 제작에 초점을 둔 머신이다. 이 시스템은 단순한 개방형 채팅 세션이 아니라 부동산 매물 목록 작성, 아마존과 같은 사이트를 위한 제품 기능 설명과 같은 특정 작업을 위해 설계된 50가지 이상의 템플릿을 제공한다. 유료 버전은 일관적인 어조의 마케팅 문구를 만들고자 하는 기업을 대상으로 한다.

클로드

안트로픽(Anthropic)은 조사부터 고객 서비스에 이르기까지 기업의 많은 텍스트 기반 잡무를 처리할 수 있는 유용한 비서를 목표로 클로드(Claude)를 만들었다. 프롬프트를 입력하면 대답이 출력된다. 안트로픽은 더 복잡한 지시를 장려하기 위해 긴 프롬프트를 의도적으로 허용한다. 사용자에게 결과에 대한 더 높은 제어 능력을 부여하기 위해서다. 현재 완전한 모델인 클로드-v1과 저렴하고 간소화된 클로드 인스턴트(Claude Instant), 두 가지 버전이 제공된다. 전자는 복잡하고 구조적인 추론이 필요한 작업에 적합하고 후자는 분류, 조정과 같은 단순한 작업에서 더 빠르고 효과적이다.

세레브라스

전문적인 하드웨어와 일반 모델이 함께 발전하면 매우 빠르고 효율적인 솔루션을 얻게 된다. 세레브라스(Cerebras)는 로컬에서 실행하고자 하는 사용자를 위해 작은 크기(1억 1,100만 매개변수)부터 큰 크기(130억 매개변수)까지 다양한 크기의 LLM을 허깅 페이스에서 제공한다. 다만 많은 사용자는 클라우드 서비스를 사용하는 편을 선호할 것이다. 클라우드 서비스는 대규모 학습 세트를 처리하는 데 최적화된 세레브라스 자체의 웨이퍼 스케일 통합 프로세서에서 실행된다.

팔콘

완전한 팔콘(Falcon)-40b와 그보다 작은 팔콘-7b는 아랍에미리트 연합국의 기술 혁신 연구소(Technology Innovation Institute, TII)에서 만든 모델이다. TII는 추론 개선에 중점을 두고 리파인드웹(RefinedWeb)의 대규모 일반 예제 세트를 사용해 팔콘 모델을 학습시켰다. 아파치 2.0으로 출시됐으므로 실험에 사용할 수 있는 가장 개방적이고 제약이 없는 모델이다.

이미지바인드

메타라고 하면 많은 사람은 소셜 미디어를 지배하는 대기업으로 생각하지만, 메타는 오픈소스 소프트웨어 개발 분야에도 큰 영향력을 갖고 있다. AI에 대한 관심이 폭발적으로 증가하는 시점에 맞춰 메타는 자체적인 여러 혁신을 공유하기 시작했다. 이미지바인드(ImageBind)는 AI가 텍스트, 오디오, 비디오 등 여러 유형의 데이터를 어떻게 동시에 생성할 수 있는지를 보여주기 위한 프로젝트다. 즉, 생성형 AI는 허락만 된다면 상상의 세계 전체를 만들 수 있다.

고릴라

생성형 AI를 사용한 코드 작성에 대해서는 이미 많이 들어봤을 것이다. 결과는 얼핏 인상적이지만, 자세히 살펴보면 심각한 결함이 있는 경우가 많다. 구문은 정확하지만 API 호출이 모두 틀렸거나, 심지어 존재하지 않는 함수를 가리키는 경우도 있다. 고릴라(Gorilla)는 프로그래밍 인터페이스 부문에서 더 제대로 작동하도록 설계된 LLM이다. 고릴라 개발진은 라마로 시작해 문서에서 직접 스크랩한 심층적인 프로그래밍 세부 사항에 중점을 두고 세밀하게 튜닝했다. 또한 고릴라팀은 성공 여부를 테스트하기 위한 자체적인 API 중심 벤치마크 모음도 제공한다. AI를 코딩 비서로 활용하고자 하는 프로그래머에게 중요한 추가 기능이다.

오라

오라(Ora.ai)는 사용자가 특정 작업에 최적화된 자기만의 맞춤형 챗봇을 만들 수 있게 해주는 시스템이다. 라이브러리안GPT(LibrarianGPT)는 책에 나온 구절을 그대로 사용해서 질문에 답한다. 예를 들어, 프로페서 칼 세이건(Professor Carl Sagan)은 세이건의 모든 저서에서 지식을 얻는 봇이다. 나만의 봇을 만들거나 이미 다른 사람들이 만든 수백 개의 봇 중 하나를 사용할 수 있다.

에이전트GPT

에이전트GPT(AgentGPT)는 애플리케이션에 필요한 모든 코드를 엮어주는 또 다른 툴이다. 휴가 계획, 게임을 위한 코드 작성 등의 작업에 사용할 수 있는 에이전트를 생성한다. 기술 스택 소스 코드의 대부분은 GPL 3.0에 따라 사용할 수 있다. 서비스 형태로 제공되는 버전도 있다.

프루글GPT

모델이라기보다는 특정 질문에 답할 수 있는 가장 값싼 모델을 찾기 위한 신중한 전략이라는 표현이 더 정확하다. 프루글GPT(FrugalGPT)를 개발한 연구원들은 가장 크고 값비싼 모델까지는 불필요한 질문이 많다는 점에 착안했다. 이들의 알고리즘은 가장 단순한 LLM부터 시작해서 좋은 답을 찾을 때까지 단계적으로 LLM 목록의 위로 올라간다. 연구진의 실험에 따르면, 정교한 모델까지는 필요 없는 질문이 많기 때문에 이런 신중한 접근 방식을 통해 비용의 98%를 절감할 수 있다고 한다.
editor@itworld.co.kr