MLE3 [베이지안 딥러닝] Ch4.2 Linear Models for Classification - Probabilistic Generative Models 2020-2학기 이화여대 김정태 교수님 강의 내용을 바탕으로 본 글을 작성하였습니다. Ch4.1에서는 분류를 위한 discriminant function을 이용한 접근법을 다뤘으며, 이번 Ch4.2에서는 클래스별 conditional distribution인 $p(\mathbf{x}|C_k)$와 클래스의 prior distribution인 $p(C_k)$를 모델하고, 베이지안 정리를 적용하여 $p(C_k|\mathbf{x})$ (posterior probability)를 계산해 내는 방식의 probabilistic generative models을 사용할 것이다. Overview Linear classification Probabilistic generative model Probabilistic dis.. 2020. 12. 3. Ch3.3~4 Bayes Estimation [The univariate case] 2020-2학기 서강대 김경환 교수님 강의 내용 및 패턴인식 교재를 바탕으로 본 글을 작성하였습니다. 3.3 Bayes estimation (베이지안 추정) ▶ In MLE $\theta$ to be fixed ▶ In Bayesian Learning $\theta$ to be random variable and training data allow us to convert a distribution on this variable into posterior probability density. 패턴 분류 문제에 대한 Bayes 추정 방식은 MLE에 의해 얻은 방식과 비슷하지만, 개념적 차이가 있다. MLE 에서는 $\theta$가 고정된 것으로 간주한 반면, Bayes 학습에서는 $\theta$가 랜덤 변.. 2020. 9. 25. Ch3.2 Maximum-likelihood Estimation 2020-2학기 서강대 김경환 교수님 강의 내용 및 패턴인식 교재를 바탕으로 본 글을 작성하였습니다. 3.2 Maximum likelihood estimation (최대 우도 추정) Attractive attributes Good convergence properties as the number of training samples increases. Simpler than alternative methods 최대 우도 추정법은 훈련 데이터 샘플 수가 증가함에 따라 거의 항상 좋은 수렴 특성을 갖는다. 그리고, 최대 우도 추정은 Bayes 기법 또는 다른 방법들 같은 대안적 방법들보다 더 단순해서 매력적으로 보인다. The General principle (일반적 원칙) $D_1, ... , D_c$ : .. 2020. 9. 22. 이전 1 다음
