적대적머신러닝

“기존 보안 툴로는 잡기 어렵다” 기업이 직면한 LLM 관련 위험 4가지

CSO가 만난 밴쿠버 클리닉(Vancouver Clinic)의 CISO 마이클 브레이는 LLM을 통해 환자 치료를 개선할 수 있는 무한한 방법에 대해 열성적으로 이야기했다. 브레이는 "DNA 기반 예측 연구, 신진대사 상호작용, 실험실 서비스, 진단...

LLM 생성형AI 데이터오염 2024.01.24

“픽셀 하나로 출력값을 뒤집는다” 적대적 머신러닝의 이해 - Tech Report

똑같은 판다 사진을 두고 머신러닝 알고리즘이 하나는 판다로, 하나는 긴팔원숭이로 분류한다. 긴팔원숭이로 인식한 사진은 인간의 눈에 띄지 않도록 미묘한 조작을 거친 사진이었다. 마이크로소프트가 2016년 개발한 AI 챗봇 테이는 악의적인 학습 시도로 인...

적대적머신러닝 머신러닝 AI 2023.04.12

AI 및 ML 시스템을 붕괴시키는 ‘적대적 머신러닝’의 이해

AI 및 머신러닝(Machine Learning, ML) 프로젝트를 시작하는 기업이 늘면서 AI/ML의 안전을 확보하는 일이 무엇보다 중요해졌다. IBM과 모닝 컨설트(Morning Consult)가 5월 발표한 보고서에 따르면, 전 세계 7,500곳...

인공지능 머신러닝 적대적머신러닝 2022.06.30

'적대적 머신러닝 대응 전략의 시작' 방어가 시작됐다

적대적 공격 대응(anti-adversarial)에 대한 연구는 지금까지 주로 AI의 머신러닝(Machine Learning) 알고리즘이 이미지를 잘못 인식하거나 잘못 분류하도록 하는, 미세하고 탐지하기가 어려운 이미지 변조(일반적으로 연구원 사이에서...

적대적머신러닝 적대적공격대응 2020.12.11

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.