[Bayesian Inference] 가우스 혼합 모델 (Gaussian Mixture Model)

가우스 혼합 모델 (Gaussian Mixture Model)

 

 

가우스 혼합 모델 (GMM)에서 임의의 M 차원 pdf를 K < M인 K 가우스 밀도의 합으로 모델링한다.

 

널리 사용되지만 EM / GMM 알고리즘은 로컬 최소값으로 수렴하거나 입력 데이터의 특이성 또는 축퇴로 인해 실패할 수 있다. 또한 GMM은 "차원의 저주"를 겪는다. 입력 데이터의 차원이 증가함에 따라 평균 μk, k ∈ {1, 2, ..., K} 및 공분산 행렬 Σk는 기하급수적으로 증가한다. 매개변수 수가 기하급수적으로 증가하는 것을 막는 한 가지 방법은 공분산 행렬의 구조를 제한하는 것이다. 덜 과감한 해결책은 Gaussian의 혼합물 대신 확률적 PCA의 혼합물을 사용하는 것이다.