[Bayesian Inference] Computation

Computation

 

 

많은 실제 문제에서 필요한 계산은 베이지안 방법을 적용하는 데 주요 장애물이다. 최근까지 계산이 어려워 베이지안 통계를 사용하는 실제 응용 프로그램의 수가 적었다. 필요한 최적화 및 통합을 위해 몬테카를로 근사치를 제공하는 데이터 증대 및 보다 일반적인 MCMC (Markov Chain Monte Carlo)와 같은 반복 시뮬레이션 방법의 도입으로 베이지안 방법이 주류 응용 프로그램에 도입되었다. 표는 베이지안 추론에 사용되는 최적화 및 통합 알고리즘의 일부를 나열한다. (참고 : 공액 우선순위 방법을 제외하고 표의 모든 알고리즘은 근사치)

 

Markov Chain Monte Carlo

 

베이지안 추론의 적분은 종종 다루기 힘들지만 샘플링 방법을 사용하여 수치적으로 평가할 수 있다. "Monte Carlo"라는 일반 이름으로 사용되는 광범위한 실제 샘플링 기술이 있다. 사후 pdf p(y | I)가 주어지면 N개의 독립 샘플 y1, y2, ..., yN의 평균을 사용하여 적분 f(y)p(y | I)dy를 근사할 수 있다. p(y | I)에서 가져온다.

 

 

불행히도 많은 실제 응용 프로그램에서 p(y | I)는 매개변수 또는 y 공간의 극히 작은 영역에서만 0이 아니다. 그렇다면 문제는 샘플 yi를 효율적으로 생성하는 방법이다. Markov Chain Monte Carlo 방법은 매개변수 공간에서 임의의 워크 (Markov Chain)를 구성하여 공간의 영역에 있을 확률이 해당 영역의 사후 밀도에 비례하도록 작동한다. y 값으로 시작하여 거기에서 사후 밀도를 계산하고 작은 단계를 수행한 다음 밀도를 다시 계산한다. 어떤 규칙에 따라 단계가 승인되거나 거부되고 프로세스가 반복된다. 결과 출력은 샘플 공간의 일련의 점이다. 다양한 방법은 매개변수 공간에서 이동을 수행하는 데 사용되는 규칙과 단계 허용 여부를 결정하는 규칙에 따라 다르다. 사후 분포를 올바르게 샘플링하는 일련의 단계를 생성하도록 보장되는 규칙을 만드는 것은 비교적 간단하다.

 

https://link.springer.com/chapter/10.1007/978-3-642-27222-6_12