똑같은 판다 사진을 두고 머신러닝 알고리즘이 하나는 판다로, 하나는 긴팔원숭이로 분류한다. 긴팔원숭이로 인식한 사진은 인간의 눈에 띄지 않도록 미묘한 조작을 거친 사진이었다. 마이크로소프트가 2016년 개발한 AI 챗봇 테이는 악의적인 학습 시도로 인해 인종차별적인 발언을 쏟아냈다. 이런 유형의 공격은 모두 학습 알고리즘의 취약점과 특수성을 악용한 적대적 머신러닝의 일종이다. 여러 산업에 걸쳐 인공지능(AI)과 머신러닝(ML)이 활발하게 활용되면서 학습 알고리즘의 안전을 확보하는 일이 무엇보다 중요해졌지만, 마이크로소프트는 적대적 머신러닝 공격에 적절하게 대응하고 있는 기업이 드물다고 지적한다. AI, ML, 그리고 딥러닝 알고리즘을 노리는 적대적 머신러닝을 이해하고 대응 방안을 모색해 보자.
주요 내용
- “알려지지 않은 무지” 적대적 ML
- 자율 주행 차량과 음성 비서도…‘위기의 AI’
- “데이터 조작부터 모델 도용까지” 유형별로 알아보는 적대적 ML
- 적대적 ML 방어 기술 동향
