AIㆍML

패턴 찾기·노이즈 추적에 효과적인 비지도 학습 알아보기

Martin Heller  | InfoWorld 2019.08.09

잠재 변수 모델

잠재 변수 모델은 관찰 가능한 변수 집합을 잠재(은닉) 변수에 연계하는 통계 모델이다. 잠재 변수 모델은 복잡한 고차원 데이터의 숨은 구조를 밝혀내는 데 유용하다.

주성분 분석
주성분 분석(PCA)은 직교 변환을 사용해서 잠재적 상관 수치 변수의 관찰 집합을 주성분이라고 하는 선형적 비상관 변수로 변환하는 통계적 절차다. 칼 피어슨이 1901년에 PCA를 고안했다. PCA는 일반적으로 초기 데이터의 정규화 단계 이후 데이터 공분산(또는 상관) 행렬의 고유치 분해 또는 데이터 행렬의 특이값 분해(SVD)를 통해 수행이 가능하다.

특이값 분해
특이값 분해(SVD)는 실수 또는 복합 행렬의 인수분해다. 선형 대수의 일반적인 기법이며 하우스홀더 변환을 사용해서 계산되는 경우가 많다. SVD는 주성분의 해를 구하는 방법 중 하나다. SVD를 처음부터 새로 코딩하는 것도 가능하지만 모든 선형 대수 라이브러리에서 좋은 구현을 찾을 수 있다.

모멘트법
모멘트법은 관찰된 데이터 샘플의 모멘트(평균, 분산, 사행도, 첨예도)를 사용해서 모집단 매개변수를 추정한다. 이 방법은 매우 단순하며 손으로 계산이 가능한 경우가 많고 일반적으로 전역 수렴된다. 그러나 낮은 통계의 경우 모멘트법은 간혹 매개변수 공간을 벗어난 추정치를 생산할 수 있다. 모멘트법은 혼합 모델(위)을 쉽게 풀 수 있는 방법이다.

기댓값 최대화 알고리즘
기댓값 최대화(EM) 알고리즘은 비관찰 잠재 변수에 의존하는 모델 매개변수의 최대 가능성 추정치를 찾기 위한 반복적 방법이다. EM 반복은 매개변수의 현재 추정치를 사용하여 계산된 로그 가능성의 기댓값에 대한 함수를 생성하는 기댓값 단계(E)와, 매개변수를 계산해 E 단계에서 발견된 기대 로그 가능성을 최대화하는 최대화 단계(M)를 번갈아 수행한다.
 
EM은 최댓값 또는 안장점으로 수렴하지만 전역 최댓값으로는 수렴하지 않는 경우도 있다. 매개변수에 대한 무작위 초기 추정치에서 EM 절차를 반복하거나 모멘트법을 사용해 초기 추정치를 결정하는 방법으로 전역 최댓값을 찾을 가능성을 높일 수 있다.
 
가우시안 혼합 모델(위)에 적용되는 EM은 군집 분석에 사용할 수 있다.
 

비지도 신경망

신경망은 일반적으로 분류 또는 회귀를 위해 레이블링된 데이터를 대상으로 학습되며, 이는 지도 머신 러닝에 해당된다. 그러나 다양한 비지도 체계를 사용해서 레이블링되지 않은 데이터로도 학습이 가능하다.

오토인코더
오토인코더는 입력에 대해 학습되는 신경망이다. 기본적으로 오토인코더는 코덱 역할을 하는 피드포워드 네트워크로, 입력 계층에서 뉴런 수가 상대적으로 적은 하나 이상의 숨겨진 계층으로 입력을 인코딩한 다음, 토폴로지를 입력으로 사용해서 출력 계층으로 인코딩된 표현을 디코딩한다.
 
학습 중에 오토인코더는 역전달을 사용해서 입력과 출력 간의 차이를 최소화한다. 오토인코더는 차원 축소, 특성 학습, 노이즈 제거, 이상 탐지, 이미지 처리 및 생성 모델 학습에 사용된다.

심층신뢰망
심층신뢰망(DBN)은 입력을 재구성하도록 학습할 수 있는 오토인코더 또는 제한된 볼츠만 머신(RBN)의 스택이다. 학습 후 계층은 특성 탐지기 역할을 한다. RBN은 일반적으로 대조 발산을 사용해 학습된다.

DBN은 이미지, 비디오 시퀀스, 모션 캡처 데이터를 생성하고 인식하는 데 사용된다.

생성적 적대 신경망
생성적 적대 신경망(GAN)은 데이터 분포를 캡처하는 생성적 모델과 샘플이 학습 데이터의 일부일 가능성을 추정하는 분류 모델, 두 개의 네트워크를 동시에 학습시킨다. 학습은 생성기가 분류기를 속일 수 있는 가능성을 최대화하려고 시도한다.
 
GAN은 상상의 사람들 사진을 만들고 천문학 이미지를 개선하는 데 사용할 수 있다. GAN은 예전 비디오 게임의 텍스처를 고해상도 버전의 게임에서 사용할 수 있도록 업스케일하는 용도로도 사용된다. 비지도 학습 외에 GAN은 게임 플레이 강화 학습에도 성공적으로 응용됐다.

자기 조직화 지도
자기 조직화 지도(SOM)는 주어진 데이터 항목 집합에서 정규 격자, 일반적으로 2차원 격자로의 순서 있는 매핑을 정의한다. 모델은 각 격자 노드에 연결된다. 데이터 항목은 모델이 데이터 항목과 가장 비슷한, 즉 척도에서 데이터 항목으로부터의 거리가 가장 짧은 노드에 매핑된다.
 
매핑의 안정성과 정확한 순서를 보장하기 위해서는 몇 가지 주의해야 할 부분이 있다. 상용 구현 중에서는 이러한 주의 사항을 철저히 따르지 않는 경우도 있다. editor@itworld.co.kr 
Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.