확률(probability), 가능도(likelihood), 최대우도측정(likelihood maximization)

출처 : 확률(probability)과 가능도(likelihood) 그리고 최대우도추정(likelihood maximization) (tistory.com)

확률(probability)과 가능도(likelihood) 그리고 최대우도추정(likelihood maximization)

 

https://youtu.be/XepXtl9YKwc

 

 

- 확률 (Probability) = P(관측값 X | 확률분포 D )

*확률분포(probability distribution) = 모델 , 관측값 = 데이터

.확률을 구할때는 확률분포 (모델) 은 고정되어 있고, 관측값(데이터) 가 변수

 

 

- 가능도(우도) (Likelihood) =  L(확룰분포 D | 관측값 X)

.Likelihood 를 구할 때는 관측값 (데이터)는 고정되어 있고 확률분포 (모델)이 변함.

.Posterior distribution (사후 확률) : 사후 확률은 계산하는게 불가능 할 정도로 어려운 경우가 많음

.Maximum likelihood : 각 관측값 (데이터)에 대한 Likelihood 의 곱이 최대가 되도록 하는 분포를 찾는 것

 

- Prior distribution

 

- Variational Inference (변분추론)

Posterior distribution p(z|x) 을 다루기 쉬운 확률 분포 q(z) 로 근사하는 것