CH 8. Graph Model

 확률적 추론이나 학습 방법들은 아무리 복잡한 것이라 할지라도 결론적으로는 합의 법칙과 곱의 법칙 두 가지를 반복해서 적용한 것과 같다. 그렇기 때문에 아무리 복잡한 확률적 모델이라고 하더라도 순수하게 대수적인 과정을 바탕을 공식화하고 푸는 것이 가능하다. 이러한 분석 과정에서 확률 분포를 도식적으로 표현하는 확률적 그래프 모델(Probabilistic graphical model)이라고 한다.

---

확률적 그래프 모델(Probabilistic graphical model)을 사용하면 다양한 장점이 존재한다.

1. 모델의 구조를 시각화하는 단순한 방법을 제공하며, 새로운 모델을 설계하는 데 사용할 수도 있다.
2. 그래프에 대한 점검을 통해 조건부 독립 성질과 같은 모델에 대한 통찰을 얻을 수 있음
3. 정교한 모델하에서 학습과 추론을 시행하는 데 필요한 복잡한 계산들을 그래프 조작의 형태로 표현할 수 있다. 이 경우 내제되어 있는 수학적인 공식들이 알아서 따라다니게 된다.

그래프의 구성 요소

그래프는 위 그림과 같이 아래 2가지 요소로 이루어져 있다. 

• 노드(node) 또는 꼭짓점(vertex)
• 링크(link) 또는 변(edge) 또는 호(arc) 

 확률적 그래프 모델에서 각각의 노드는 확률 변수(또는 확률 변수들의 그룹)을 의미하며, 링크는 이 변수들 간의 확률적 관계를 표현한다. 이 경우 그래프는 전체 확률 변수들에 대한 결합 분포를 변수들의 부분 집합에 대해 종속적인 인자들의 곱으로 분해하는 방법을 포착하게 된다. 

 여기서 다룰 그래프 모델은 "bayseian network(베이지안 네트워크)" 및 "markov random field(마르코프 무작위장)" 이다.

• 방향성 그래프 모델(directed graphical model)이라고 불리는 베이지안 네트워크(bayseian network) : 그래프의 링크들이 방향성을 가지게 되며 이는 화살표로 표현되며, 확률 변수 간 인과 관계를 표현하는 데 유용함
• 비방향성 그래프 모델(undirected graphical model)이라고 불리는 마르코프 무작위장(markov random field) : 링크는 화살표로 표현되지 않으며, 방향적인 의미를 지니지 않으며. 확률 변수 간의 유연한 제약 관계를 표현하는데 적합

 참고 : 추론 문제를 풀 때는 방향성 그래프와 비방향성 그래프 둘 다를 고려한 인자 그래프(factor graph)라는 다른 표현 방식으로 표현하는 것이 편리한 경우도 있다.

---

• "Bishop: Pattern Recognition and Machine Learning"을 참고하여 작성한 자료