딥러닝 도전기

Bayesian Network에는 정형화된 구조가 존재합니다. 그 구조들과 관련된 알고리즘에 대해 알아보도록 하겠습니다. 전체 Bayesian Network 위 그림은 이전 포스팅에서 다루었던 예시의 DAG와 CPT입니다. 이 예시를 사용하여 베이지안 네트워크의 구조에 대해 알아보겠습니다. Common Parent - 공통부모 node들이 공통의 Parent를 가진 경우입니다. 이 경우 $J \bot M|A$가 성립합니다. 이는 "$A$가 주어졌을 때(given) $J$와 $M$은 독립(independent)이다." 라고 해석합니다. 따라서 Common parent일 경우 $P(J,M|A) = P(J|A)P(M|A)$ 가 성립합니다. Cascading node들이 선형적인 관계를 보이는 경우입니다. 이 ..

베이지안 네트워크란? 베이지안 네트워크(Bayesian NetWork)란 방향성을 갖는 비순환 그래프 (DAG : Directed Acyclic Graph)와 조건부 확률 테이블 (CPT : Conditional Probability Tables)을 통하여 집합을 조건부 독립으로 표현하는 확률의 그래픽 모델로써 다양한 변수를 표현하는 노드(Node)와 변수들 사이의 의존 관계를 표현하는 호(Arc)를 이용하여 부모 노드와 자식 노드의 인과관계를 확률을 기반으로 불완전한 입력값에 대해서도 사후확률 추론이 가능한 확률적 계산 기법이다. 베이지안 네트워크는 conditional independence의 가정을 전제로 합니다. 또한 베이지안 네트워크는 random variable들의 full joint dist..

베이지안 네트워크에 대한 내용을 다루어보겠습니다. 이번 포스팅에서는 베이지안 네트워크를 이해하는데에 필요한 확률의 기본적인 지식에 대하여 보겠습니다. 전체 확률의 법칙 (Law of total probability) 전체 확률의 법칙은 "summing out" 혹은 "marginalization" 으로 알려져있습니다. 먼저 수식으로 살펴보겠습니다. $P(a) = \Sigma_b P(a,b) = \Sigma_b P(a|b)P(b)$ 에서 $b$가 binary event라고 생각해보면 $\Sigma_b P(a,b) = P(a, b = true) + P(a, b = false)$ 이므로 $b$에 관계없이 $\Sigma_b P(a,b) = P(a)$가 성립합니다. 다음으로 $\frac{P(a,b)}{P(b)} ..