환각

마이크로소프트, 애저 AI 스튜디오에서 생성형 AI용 안전 및 보안 도구 지원

마이크로소프트가 생성형 AI 애플리케이션을 빌드하는 클라우드 기반 도구 키트인 애저 AI 스튜디오에 안전 및 보안 도구를 추가하고 있다. 프롬프트 주입 공격 보호, 모델 출력의 환각 감지, 모델을 안전한 출력으로 유도하는 시스템 메시지, 모델 안전성 ...

생성형AI 클라우드 애저AI스튜디오 2024.04.01

글로벌 칼럼 | 법정에 서는 AI와 방어적인 설계의 필요성

생성형 AI를 포함한 모든 AI가 법원의 시험을 치러야 하는 것은 분명하다. 클라우드 및 AI 아키텍트는 법정에서 곤란을 겪지 않으려면 방어적인 설계와 거버넌스를 실천해야 한다. 최근 소액 청구 법원에서 진행된 소송에서 에어캐나다는 AI 기반 챗봇이...

생성형AI 소송 편견 2024.02.26

“환각 없이 믿을 수 있는 LLM” 검색 증강 생성(RAG)의 이해

검색 증강 생성(Retrieval-augmented generation, RAG)은 특정 데이터 소스를 사용해 대규모 언어 모델(LLM)의 "근거"를 갖추는 데 사용되는 기법이다. 대부분의 경우 모델의 원래 학습에는 포함되지 않았던 소스를 이용한다. ...

RAG 환각 AI 2024.01.24

"생성형 AI의 기반" 대규모 언어 모델 총정리

GPT, 바드, 라마 2 같은 대규모 언어 모델(LLM)은 대중의 상상력을 자극하고 다양한 반응을 끌어냈다. LLM에 대한 열기의 이면을 살펴보면서 대규모 언어 모델의 기원, 이러한 모델이 어떻게 구축 및 학습되는지를 살펴본다. 또한, 어떤 범위에서 ...

대규모언어모델 LLM GPT 2023.11.22

“환각 피하는 해법은 프라이빗 AI” VM웨어의 AI 데이터 플랫폼 전략

챗GPT와 같은 AI 모델의 혁신적인 발전은 많은 기업의 사용자 경험을 개선하고 텍스트에서 이미지, 영상에 이르는 비정형 데이터의 잠재력을 최대한 활용하도록 영감을 주었다. 하지만 이런 API 기반의 외부 AI 언어모델에 대한 우려가 존재하는 것이 사...

환각 AI VM웨어 2023.10.05

[ITWorld 넘버스] 챗GPT를 운영하는 데 하루에 얼마나 들까

2022년 11월 30일. 생성형 AI '챗GPT'가 처음 공개된 이날이 훗날 어떻게 기억될지 아직 알 수 없다. 그러나 전대미문의 새로운 숫자로 확실한 족적을 남기고 있는 것은 분명하다. 특별한 광고도 없이 출시된 이 서비스는 불과 1주일 만에 사용...

챗GPT 마이크로소프트 환각 2023.04.28

<뇌파 조절 `사이버 마약' 논란>

인터넷에 체험기 올라..부작용 우려   (서울=연합뉴스) 김남권 기자 = 인위적인 뇌파 조절로 실제 마약과 같은 효과를 낼 수 있는 `사이버 마약'이 인터넷에 등장해 논란이 일고 있다.   &nbs...

마약 주파수 사이버마약 2009.02.19

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.