넘버스
넘버스
적대적머신러닝
“픽셀 하나로 출력값을 뒤집는다” 적대적 머신러닝의 이해 - Tech Report
똑같은 판다 사진을 두고 머신러닝 알고리즘이 하나는 판다로, 하나는 긴팔원숭이로 분류한다. 긴팔원숭이로 인식한 사진은 인간의 눈에 띄지 않도록 미묘한 조작을 거친 사진이었다. 마이크로소프트가 2016년 개발한 AI 챗봇 테이는 악의적인 학습 시도로 인...
AI 및 ML 시스템을 붕괴시키는 ‘적대적 머신러닝’의 이해
AI 및 머신러닝(Machine Learning, ML) 프로젝트를 시작하는 기업이 늘면서 AI/ML의 안전을 확보하는 일이 무엇보다 중요해졌다. IBM과 모닝 컨설트(Morning Consult)가 5월 발표한 보고서에 따르면, 전 세계 7,500곳...
'적대적 머신러닝 대응 전략의 시작' 방어가 시작됐다
적대적 공격 대응(anti-adversarial)에 대한 연구는 지금까지 주로 AI의 머신러닝(Machine Learning) 알고리즘이 이미지를 잘못 인식하거나 잘못 분류하도록 하는, 미세하고 탐지하기가 어려운 이미지 변조(일반적으로 연구원 사이에서...
추천기사
