통계이론 - 조건부확률2 (배반과 독립의 차이, 베이즈 이론)

이번 포스팅에서는 앞선 포스팅 통계이론 - 조건부확률1에서 정리한 내용을 바탕으로 베이즈이론에 대한 소개와 증명을 다루는 내용을 포함하겠습니다.

---

 

전환률 공식:

$$사건 B_1, B_2,..., B_k$$ 에 대하여

$$ B_i \cap B_j = \varnothing , i \neq j$$ 이고,

$$ \bigcup_{i=1}^{k} B_i = S$$ 를 만족할 경우

$$P(A) = \sum_{i=1}^{n}P(B_i)P(A|B_i)$$

가 성립한다. 

Proof.

$$ P(A) = P(A \cap S) = P \left( A \cap \left( \bigcup_{i=1}^{k} B_i \right) \right) = \sum_{i=1}^{k} P(B_i)P(A|B_i) $$ 

첫번째 가정은 사건 $B$는 서로 배반이라는 것을 가정한 것입니다. 수학적인 정의상 배반 사건은 서로 동시에 일어날 수 없는 사건을 뜻합니다.  이 개념은 독립사건과 헷갈릴 수 있기에 배반사건과 독립사건의 차이점을 명확히 정리하려고 합니다.

 

• 배반사건:서로 동시에 일어날 수 없는 사건
• 독립사건:서로 영향을 미치지 않는 사건

예를 하나 들면, 배반 사건은 주사위를 던졌을 때, 홀수가 나오는 사건 A와 짝수가 나오는 사건 B로 나타낼 수 있습니다.

 

둘은 동시에 발생할 수 없습니다.

 

반면, 독립사건의 경우 홀수가 나오는 사건 A와 3의 배수가 나오는 사건 B로 나타낼 수 있습니다. 

A가 일어났을 때 B가 일어날 확률 1/3, A가 일어나지 않을 때 B가 일어날 확률 1/3로 A,B가 서로의 발생확률에 영향을 미치지 않음을 의미합니다.

 

---

 

그럼 베이즈 정리에 대해 정의해보고 알아보도록 하겠습니다.

 

베이즈 정리: 사건 $B_1,B_2,...,B_k$에 대해 $ B_i \cap B_j = \varnothing , i \neq j$이고 $ \bigcup_{i=1}^{k} B_i = S$를 만족할 경우, 사건 $A$가 일어났다는 가정하에 사건 $B_j$가 일어날 확률은 

$$P(B_j|A) = \frac{P(B_j)P(A|B_j)}{\sum_{i=1}^{k}P(B_i)P(A|B_i)}$$

로 계산될 수 있습니다. 이는 조건부확률 정의에 의해

 

$$P(B_j|A) = \frac{P(A\cap B_j)}{P(A)} = \frac{P(B_j)P(A|B_j)}{P(A)}$$가 성립하기 때문입니다.