Top

gibbs sampling 예제

깁스 샘플링에서, 우리는 교대로 샘플링하고 . 다양한 방법으로 깁스 샘플링을 확장할 수도 있습니다. 예를 들어 조건부 분포를 샘플링하기가 쉽지 않은 변수의 경우 슬라이스 샘플링 또는 메트로폴리스-헤이스팅스 알고리즘의 단일 반복을 사용하여 해당 변수에서 샘플링할 수 있습니다. 보다 효율적인 대안은 전체 조건부 밀도로부터 샘플링을 위한 적응형 리젝트 샘플링(ARS) 방법을 적용하는 것입니다. [9] [10] [11] [12] [13] ARS 기술을 적용할 수 없는 경우 적응형 리젝트 메트로폴리스 샘플링 알고리즘이 종종 사용된다. [3] [4] [5] 또한, 다른 대안은 문학에서 찾을 수 있습니다. [14] [15] 내부 샘플러(예: MH 및 ARMS 체계)에서 생성된 보조 샘플은 최종 깁스 추정기 내에서 재활용할 수 있으므로 추가 비용 없이 효율성을 향상시킬 수 있습니다(소위 재활용 깁스 샘플링 절차[16]). 많은 반복 후에 샘플링하는 정확한 분포로 수렴됩니다. 거기에서, 당신은 단지 정수 (평균, 중앙값 등)를 취할 수 있습니다, 또는, 당신이 예쁜 것들을 좋아하는 나 같은 경우, 샘플을 시각화. Gibbs 샘플링은 다른 모든 변수에 대해 컨디셔닝된 하나의 변수의 조건부 분포를 계산하고 이러한 분포에서 정확하게 샘플링할 수 있다고 가정합니다. 그래픽 모델에서 일부 변수의 조건부 분포는 해당 노드의 Markov 담요의 변수에 만 따라 달라집니다.

Gibbs 샘플링은 다른 모든 변수를 고려하여 대상 분포의 한 변수의 조건부 분포에서 반복적으로 샘플링하는 MCMC 알고리즘입니다. Gibbs 샘플링은 다음과 같이 작동합니다: 샘플링에서 대상 확률 분포에서 샘플링하는 방법에 대해 우려하고 있습니다. 주어진 샘플을 통해 관심 양을 임의 변수의 예상 값으로 표현한 다음 추정기를 사용하여 추정할 수 있습니다. 예를 들어, 한계 확률을 추정하기 위해, 우리는 할 수 있습니다 . 따라서 MCMC 알고리즘을 사용하여 샘플을 채취한 다음 샘플을 사용하여 관심 양을 추정할 수 있습니다. 통계에서 깁스 샘플링 또는 깁스 샘플러는 직접 샘플링이 어려운 경우 지정된 다변량 확률 분포에서 근사화되는 관측값 시퀀스를 얻기 위한 마르코프 체인 몬테 카를로(MCMC) 알고리즘입니다. 이 서열은 조인트 분포를 근사화하는 데 사용될 수 있다(예를 들어, 분포의 히스토그램을 생성하기 위해); 변수 중 하나 또는 변수의 일부 하위 집합(예: 알 수 없는 매개 변수 또는 잠재 변수)의 한계 분포를 근사화합니다. 또는 적분(예: 변수 중 하나의 예상 값)을 계산합니다. 일반적으로 일부 변수는 값이 알려진 관측값에 해당하므로 샘플링할 필요가 없습니다. 이러한 조건부 분포를 보류한 후 나머지는 쉽습니다.

모든 조건부 분포에서 반복적으로 샘플링하는 샘플러에 이러한 조건부 조건을 연결하기만 하면 됩니다. 각 반복에서 Gibbs 샘플러는 각 조건부 분포에서 차례로 샘플링하고 새 값을 사용하여 다른 조건부 분포를 샘플링합니다.