Ch2.8 Bayesian decision theory - Error Bounds for Normal Densities

 2020-2학기 서강대 김경환 교수님 강의 내용 및 패턴인식 교재를 바탕으로 본 글을 작성하였습니다.

 

2.6 Error Bounds for Normal Densities

---

 이번 절에서는 "신호 검출 이론과 동작 특성"을 활용하여 class 판정을 했을 때, error에 대한 문제 발생될 Issue를 살펴보고자 한다. 

 두 가우시안 분포 간 거리에 대한 또 다른 척도는 실험적 심리학, 레이더 감지, 기타 분야에서 널리 사용된다. 흐릿한 섬광이나 약한 레이더 반사 같은 하나의 약한 펄스를 검출하는 데 관심이 있다고 하자. 그러면 우리의 모델은, 검출기의 어떤 점에서, 외부 신호(펄스)가 있을 때는 그 값이 평균 $\mu_2$를 가지며 없을 때는 평균 $\mu_1$을 가지는 내부 신호(전압 같은)가 있다고 것이다. 검출기 내부 또는 외부의 랜덤 노이즈 때문에 실제 값은 랜덤 변수이다. 

 분류기는 외부 펄스의 존재 여부를 결정하기 위해 thresholds 값 $x^{*}$를 사용하나, 여기서는 이 값(실험자로서)을 사용할 수 없다고 가정하자. 이런 경우, 펄스의 존재 여부의 판별 용이성의 어떤 척도를 찾아야하는데, 그러한 척도가 "discriminability"(판별력)이며, 이는 판정 전략이 아닌, 노이즈와 외부 신호의 세기에 기인한 고유하고 불변적인 특성들을 묘사한다. 이러한 판별력은 다음과 같다.

$$d' = \frac{|\mu_2 - \mu_1|}{\sigma}$$ 

 이 값이 높은 게 이상적이다. 

• $P(x \gt x^{*} | x \in w_2)$ : hit - 외부 신호가 존재한다고 주어졌을 때, 내부 신호가 $x^{*}$ 위에 있는 확률
• $P(x \gt x^{*} | x \in w_1)$ : false alarm - 외부 신호가 없는 데도 내부 신호가 $x^{*}$ 위에 있는 확률
• $P(x \lt x^{*} | x \in w_2)$ : miss - 외부 신호가 존재한다고 주어졌을 때, 내부 신호가 $x^{*}$ 아래에 있는 확률
• $P(x \lt x^{*} | x \in w_1)$ : correct reject - 외부 신호가 없다고 주어졌을 때 내부 신호가 $x^{*}$ 아래에 있는 확률

 

▶ ROC (reciver operating characteristic)

 

 

 다음 Ch2.9에서는 "Bayes Decision Theory — Discrete Features" 를 다루도록 하겠습니다.

 

Reference

---

• pattern classification by richard o. duda