넘버스
넘버스
LLM
“모든 퍼즐이 맞춰졌다” 인터넷 필요 없는 코파일럿 나올까
많은 사람이 마이크로소프트가 언젠가 윈도우 PC에서 인터넷 연결 없이 실행되는 코파일럿 버전을 제공할 것으로 전망한다. 그리고 실제로 최근 그 첫발을 내디뎠다. 로컬 기기에서 실행되도록 특별히 설계된 새로운 AI 모델, 즉 LLM을 공개했다. 22일...
오픈AI, 엔터프라이즈 지원 강화 기능 발표… “더 많은 제어권, 보안 및 비용 옵션 제공”
오픈AI(OpenAI)가 엔터프라이즈 시장 공략에 박차를 가하고 있다. 엔터프라이즈 AI 업체 간 경쟁이 심화할 것으로 예상되는 가운데, 오픈AI는 기업이 오픈AI의 기술을 운영에 통합할 때 더 많은 제어권을 가지고 보안을 강화화며, 비용 효율적인 옵...
로우코드 툴과 플랫폼을 사용하는 7가지 혁신적인 방법
일부 개발자와 기업 관리자는 로우코드가 스프레드시트 교체나 대시보드 구축과 같은 가벼운 용도로 사용되는 작은 애플리케이션 전용이라고 생각한다. 레드 게이트 소프트웨어(Red Gate Software)의 데브옵스 애드버킷 스티브 존스는 "일반적으로 로우...
생성형 AI에서 빠진 조각, RAG가 완성한다
전 세계의 주목을 받으며 등장한 생성형 AI를 기업에서 구현하는 과정은 시행착오의 연속이었다. AI 채팅 도구가 일상적 업무에 활용하면서 기업 내 섀도우 AI 사용률이 급증하고 있다. 그러나 조직 미션의 핵심인 지식 집약적 워크플로우 방면에서 생성형 ...
마이크로소프트, 소형 언어 모델 파이-3 시리즈 발표 "SLM만의 강점 있어"
마이크로소프트가 고성능 생성형 인공지능 기술을 모바일 기기 등 더 많은 플랫폼으로 확대하기 위해 새로운 소형 언어 모델(SLM) 제품군을 발표했다. 마이크로소프트가 발표한 파이-3(Phi-3) 플랫폼은 파라미터 개수가 38억 개인 파이-3 미니, 7...
메타, 최신 LLM ‘라마3’ 오픈소스 공개…“기술ㆍ코딩ㆍ역사 등 다양한 데이터 학습”
19일 메타가 자사의 최신 대규모 언어 모델(LLM) ‘라마3(Llama 3)’을 오픈소스로 공개했다. 공개된 라마3은 사전훈련과 미세조정을 마친 80억 개와 700억 개 매개변수 모델 2가지다. 업체에 따르면, 이 모델은 15조 이상의 토...
블로그 | 클라우드 플랫폼에 LLM을 효과적으로 배포하는 3가지 비결
10년 전과 같은 실수를 반복하지 말자. 클라우드에 대규모 언어 모델을 보다 비용 효율적이고 적은 위험으로 배포할 수 있다. 지난 2년 동안 필자는 기존 시스템 프로젝트보다 대규모 언어 모델(LLM)을 사용하는 생성형 AI 프로젝트에 더 많이 참여했...
단계별로 알아보는 완전 로컬 검색 증강 생성(RAG)
로컬 임베딩 모델과 로컬 LLM을 사용해 검색 증강 생성 시스템의 완전한 로컬 버전을 구축해 본다. 이전 기사와 마찬가지로 랭체인(LangChain)을 사용해 애플리케이션의 다양한 구성요소를 연결한다. FAISS(페이스북 AI 유사성 검색) 대신 SQ...
“앱 구축하는 것보다 어렵다” LLM을 테스트하는 4가지 전략
AI 코파일럿을 사용한 수작업 감소, 코드 생성기를 사용한 소프트웨어 개발자 생산성 향상 등 생성형 AI를 통한 혁신에 많은 관심과 기대가 집중되고 있다. 비즈니스 기회를 본 많은 개발팀이 벡터 데이터베이스로 지식 기반을 구축하고 애플리케이션에 LLM...
생성형 AI 구축의 최대 난제와 모범 사례에 대한 조언들
생산성과 효율성을 높이기 위해 빠르게 생성형 AI를 도입하는 기업이 늘었지만, 전략적으로 구현에 접근하는 곳은 많지 않다. 많은 생성형 AI 프로젝트가 실패하거나 ROI가 낮고 예상보다 훨씬 많은 비용이 소요되기도 한다. IT 경영진도 인재 부족, ...
격동의 AI 전성시대, CPU로 도약하는 AI
하이브리드 AI의 성장 AI를 위한 확장 가능한 시스템 5세대 인텔® 제온® 프로세서 제온의 AI 활용 고객 사례 차세대 : 인텔® 가우디® 3 AI 가속기 홍승표 이사, DCAI, Intel DCAI Techn...
블로그 | 생성형 AI 시스템이 바보가 되는 이유
생성형 AI에 대한 내부 고발이 이어지고 있지만, 대부분은 우리가 이미 알고 있는 내용이다. 많은 생성형 AI 시스템에서 사용자가 요청한 것과 다르거나 명백히 잘못된 응답이 나온다는 것이다. 공개적으로 문제가 된 것은 마이크로소프트의 소프트웨어 엔지니...
“LLM 앱을 개발하는 빠르고 쉬운 방법” 개발자를 위한 랭체인 입문서 - ITWorld HowTo
LLM(Large Language Model)을 사용하는 방법은 의외로 간단하다. 효과적인 프롬프트만 있으면 된다. 반면 언어 모델을 기반으로 한 애플리케이션 개발은 어려울 수 있다. 오픈AI 같은 업체에서 제공하는 API를 사용하든, 오픈소스 모델을...
글로벌 칼럼 | 자체 LLM 구축, 적합한 선택인지 알아보는 5가지 질문
비즈니스 리더는 기업과 주주를 위한 최상의 성과를 도출하기 위해 비즈니스 전략에 생성형 AI를 도입할 최선의 방법을 찾느라 분주하다. 가트너에 따르면, 비즈니스 리더 38%는 고객 경험과 유지가 생성형 AI에 투자하는 가장 큰 목적이라고 답했다. 생성...
LLM
글로벌 칼럼 | 클라우드에서 찾는 AI 관련 잡음을 차단하는 방법
일단 클라우드에 정착했다면, 혁신이 필요한 부분을 파악하고 AI를 간단하고 효과적으로 만들 수 있는 유니콘 솔루션 업체를 찾아야 한다. 인공지능은 바퀴 이후의 가장 위대한 발명품으로 선전되지만, 인공지능이 무엇을 의미하는지, 무엇을 해야 하는지 전혀...
글로벌 칼럼 | PC 산업 부흥, 로컬 AI에 달렸다
로컬 LLM, 생성형 AI를 지원하는 AI 하드웨어를 그저 말로만 지지하는 것만으로는 충분하지 않다. 하드웨어 공급업체는 로컬 AI 앱의 직접 개발자가 아니더라도 최소한 중개자 역할을 자임해야 한다. 퀄컴이 그런 역할을 하고 있다. 세계 최대 모바일...
“다음 단어 예측 엔진” LLM 알고리즘의 이해
2022년 11월, 챗GPT(ChatGPT)가 등장하면서 기업과 소비자가 생성형 인공 지능(AI)을 사용해 작업을 자동화하고 창의적인 아이디어를 얻을 뿐만 아니라 소프트웨어 코딩도 할 수 있다는 생각이 보편화됐다. 예를 들어 이메일 또는 채팅 스레드를...
LLM 도입 전 고려해야 할 5가지 질문
챗GPT 출시 후 대규모 언어 모델(LLM)에 대한 열광만큼이나 반발도 커지고 있다. 실제로 이 기술을 잘못 적용한 사례도 있고, 기능이 과대 포장된 경우도 많기 때문이다. LLM의 사용처는 분면 많지만, 본격 사용하기 전에 먼저 기업은 몇 가지 중요...
추천기사
