반응형 Statistics/Bayesian With Python5 표본 샘플링 방법(3) - 깁스 샘플링(Gibbs Sampling) 이번 포스팅에서는 베이지안에서 연구되었던 샘플링 방법 중 가장 이상적인(?) 샘플링 방법인 깁스 샘플링에 대해서 살펴보겠다. - 이전 포스팅- 2022.03.14 - [Statistics/Bayesian With Python] - 표본 샘플링 방법(1) - 기각 샘플링(Rejection Sampling) 표본 샘플링 방법(1) - 기각 샘플링(Rejection Sampling) Bayesian과 Frequentist들의 가장 큰 차이점은 모수, parameter에 대한 관점의 차이이다. Frequentist들은 모수 $\theta$를 Unknown constant로 가정하며, Bayesian은 모수 $\theta$를 Random variable로 가정한다.. harang3418.tistory.com 20.. 2023. 6. 1. 표본 샘플링 방법(2) - 메트로폴리스-헤이스팅스 알고리즘(Metropolis-Hastings Algorithm) 저번 rejection sampling에 이어 이번 포스팅에서도 타겟 분포로부터 표본을 생성해낼 수 있는 샘플링 알고리즘 중 하나인 M-H Algorithm을 살펴보겠다. 2022.03.14 - [Statistics/Bayesian With Python] - 표본 샘플링 방법(1) - 기각 샘플링(Rejection Sampling) 표본 샘플링 방법(1) - 기각 샘플링(Rejection Sampling) Bayesian과 Frequentist들의 가장 큰 차이점은 모수, parameter에 대한 관점의 차이이다. Frequentist들은 모수 $\theta$를 Unknown constant로 가정하며, Bayesian은 모수 $\theta$를 Random variable로 가정한다.. harang341.. 2022. 3. 16. 표본 샘플링 방법(1) - 기각 샘플링(Rejection Sampling) Bayesian과 Frequentist들의 가장 큰 차이점은 모수, parameter에 대한 관점의 차이이다. Frequentist들은 모수 $\theta$를 Unknown constant로 가정하며, Bayesian은 모수 $\theta$를 Random variable로 가정한다. 때문에, 대표적인 Frequentist의 방법인 MLE처럼 표본 $x$에 의해 값(ex, $\hat{\theta} = \cfrac{\sum_{i=1}^{N}x_i}{N}$)으로 계산되는 것과 달리, Bayesian에서 모수 $\theta$는 확률 분포를 갖게된다. 따라서, Bayesian 접근법에서는 모수를 추정하기 위해 모수의 사후 분포(posterior distribution)에서 표본을 생성하게 된다. 그러나 종종 모수.. 2022. 3. 14. 다양한 사전 분포 _ Prior distribution 저번 포스팅에서 Prior distribution에 대해 간략하게 언급했었고, 이번 포스팅에서는 prior distribution의 종류를 정리해 보려고 한다. 1. 사전 분포란 ? What is the prior distribution? 사전 분포란 베이지안 통계분석에서 등장하는 용어로, 데이터의 분포를 결정하는 모수 $\theta$ (parameter)에 대한 사전 정보를 나타내는 분포이다. 데이터를 관찰하기 이전에 이미 알고있는 정보를 나타낸다고 생각하면 된다. 예를 들어, 2021년 8월에 남자아이가 태어날 확률을 알고싶다면, 태어날 아이의 성별은 {여자, 남자}로 두 가지 경우만 존재하기 때문에, 남자아이가 태어날 확률이 $\cfrac{1}{2}$라고 생각해도 되지만, 우리가 지난 10년 간 8.. 2021. 1. 29. 베이지안 모델링의 기본 이 게시물은 책 [Bayesian Analysis with Python - 2nd , Packt] 을 참고하여 작성되었음을 밝힙니다. 베이지안 통계학은 Bayes' Theorem 을 기반으로 발전한 통계 학문으로 결론부터 이야기 하자면, '우리의 데이터는 알 수 없는 모수를 갖는 확률 분포로 부터 얻어졌다'고 가정하는 것이다. 예를 들어, '동전 던지기' (Coin-flipping) 문제를 생각 해보자. 동전의 앞면을 Head (H) , 뒷면을 Tail (T)라고 한다면 $n$번 동전을 던졌을 때, H가 나올 횟수를 $y$라고 하자. 그렇다면 우리는 자연스럽게 $y$의 확률 분포를 Binomial distribution으로 설정할 수 있다. $y|\theta \sim Bin(n,\theta)$ 위 그림은.. 2021. 1. 13. 이전 1 다음 반응형
