베이즈 정리

확률통계 고등 · 교육과정: 정규 교육과정 외 — 결과를 보고 원인의 확률을 되짚는 공식. 조건부확률의 방향을 뒤집는 표준 도구다. · v1 · 🤖 LLM 버전

이 개념은 정규 교육과정 밖의 내용으로, 결과를 보고 원인의 확률을 되짚는 공식이며 조건부확률의 방향을 뒤집는 표준 도구다.

정의

사건 $A$가 일어날 사전확률(관찰 전에 알고 있는 확률) $P(A)$와, $A$가 일어났을 때 사건 $B$가 일어날 조건부확률 $P(B|A)$($B$ given $A$, "A가 일어났을 때 B가 일어날 조건부확률"이라 읽는다)를 알고 있다고 하자. 이때 실제로 $B$가 일어난 것을 관찰한 후, 그 원인이 $A$였을 확률 $P(A|B)$는 다음과 같이 구해진다.

$$P(A|B) = \dfrac{P(B|A)\,P(A)}{P(B)} \quad (P(B) \neq 0)$$

이를 베이즈 정리라 한다. 표본공간이 서로 배반(동시에 일어나지 않음)인 사건 $A_1, A_2, \dots, A_n$으로 분할될 때는 다음과 같이 일반화된다.

$$P(A_i|B) = \dfrac{P(B|A_i)\,P(A_i)}{\sum_{j=1}^{n} P(B|A_j)\,P(A_j)}$$

직관

조건부확률 $P(B|A)$는 "원인 $A$가 있을 때 결과 $B$가 나올 확률"이다. 그런데 현실에서는 순서가 거꾸로인 경우가 많다 — 결과 $B$(검사 양성, 알람 울림, 증상 발생)는 이미 관찰했고, 궁금한 것은 원인 $A$(실제로 병에 걸렸는지, 실제로 문제가 생겼는지)일 확률이다. 베이즈 정리는 "결과에서 원인 방향으로" 화살표를 뒤집어 주는 변환기다. 단, 그냥 뒤집기만 하면 안 되고, $A$가 애초에 얼마나 흔한 사건이었는지(사전확률)를 반드시 곱해 줘야 한다는 점이 핵심이다.

유도

1. 선수 개념인 조건부확률의 정의에서 시작한다. $P(A|B) = \dfrac{P(A \cap B)}{P(B)}$, 그리고 같은 방식으로 $P(B|A) = \dfrac{P(A \cap B)}{P(A)}$이다.
2. 두 번째 식의 양변에 $P(A)$를 곱하면 $P(A \cap B) = P(B|A)\,P(A)$를 얻는다.
3. 이 결과를 첫 번째 식의 분자에 대입한다. $P(A|B) = \dfrac{P(B|A)\,P(A)}{P(B)}$. 이것이 베이즈 정리의 기본형이다.
4. 그런데 실전 문제에서는 $P(B)$를 바로 알 수 없는 경우가 많다. $B$가 일어나는 경로는 "$A$를 거쳐서" 또는 "$A$가 아닌 경로(여사건 $A^c$, "A의 여사건"이라 읽는다)를 거쳐서" 두 가지뿐이고 두 경로는 서로 배반이므로, $P(B) = P(A \cap B) + P(A^c \cap B) = P(B|A)P(A) + P(B|A^c)P(A^c)$로 나눠 계산할 수 있다(전체확률의 법칙).
5. 이를 3단계 식의 분모에 대입하면 완성된 형태가 나온다.

$$P(A|B) = \dfrac{P(B|A)\,P(A)}{P(B|A)P(A) + P(B|A^c)P(A^c)}$$

즉 베이즈 정리는 새로운 가정이 아니라, 조건부확률의 정의를 두 번 쓰고 전체확률의 법칙으로 분모를 채운 결과일 뿐이다.

예시

상자 $A$에는 흰 공 3개, 검은 공 1개가, 상자 $B$에는 흰 공 1개, 검은 공 3개가 들어 있다. 두 상자 중 하나를 같은 확률($\tfrac12$)로 고른 뒤 공을 하나 꺼냈더니 흰 공이었다. 이때 고른 상자가 $A$였을 확률은?

• $P(A)=P(B)=\dfrac12$, $\;P(\text{흰}|A)=\dfrac34$, $\;P(\text{흰}|B)=\dfrac14$
• $P(\text{흰}) = \dfrac12 \cdot \dfrac34 + \dfrac12 \cdot \dfrac14 = \dfrac38+\dfrac18=\dfrac12$
• $P(A|\text{흰}) = \dfrac{3/8}{1/2} = \dfrac34$

흰 공을 봤다는 사실이 "상자 $A$였을 확률"을 $\tfrac12$에서 $\tfrac34$로 끌어올린 것이다.

🌍 실생활 예시

의료 검사 결과 해석이 대표적이다. 어떤 질병의 유병률이 1%($P(D)=0.01$)이고, 검사의 민감도(병이 있을 때 양성 반응)가 99%, 위양성률(병이 없는데 양성)이 5%라 하자. 양성 판정을 받았을 때 실제로 병에 걸렸을 확률은

$$P(D|+) = \dfrac{0.99 \times 0.01}{0.99\times0.01 + 0.05\times0.99} = \dfrac{0.0099}{0.0594} = \dfrac16 \approx 16.7\%$$

검사가 99% 정확해 보여도, 병 자체가 드물기 때문에 양성 판정자 중 실제 환자는 약 6명 중 1명뿐이다. 이런 계산은 의료 통계뿐 아니라 스팸 메일 필터링, 법정 증거 평가 등에서도 같은 방식으로 쓰인다.

⚠️ 흔한 실수

• $P(A|B)$와 $P(B|A)$를 같다고 착각한다. 위 검사 예시에서 "검사 정확도가 99%니까 양성이면 병에 걸렸을 확률도 99%"라고 생각하기 쉽지만, $P(+|D)=0.99$와 $P(D|+)\approx16.7\%$는 전혀 다른 값이다.
• 사전확률(기저율)을 무시한다. 유병률처럼 애초에 $A$가 얼마나 드문 사건인지를 곱하지 않으면 결과가 크게 틀어진다. 위 예시에서 유병률이 1%가 아니라 50%였다면 $P(D|+)$는 훨씬 커진다.
• 분모의 전체확률 계산에서 여사건 항을 빠뜨린다. $P(B)$를 구할 때 $P(B|A^c)P(A^c)$를 잊고 $P(B|A)P(A)$만 분모에 쓰면 확률이 1을 넘거나 지나치게 커지는 오류가 생긴다.

확인 문제

1. 어느 공장의 부품은 기계 A에서 60%, 기계 B에서 40%가 생산된다. 기계 A의 불량률은 2%, 기계 B의 불량률은 5%다. 무작위로 뽑은 부품이 불량품이었을 때, 그 부품이 기계 B에서 생산되었을 확률을 구하시오.
2. 위 문제에서 만약 기계 B의 불량률이 0%라면(즉 기계 B는 절대 불량을 내지 않는다면), 불량품이 발견되었을 때 그 부품이 기계 B에서 나왔을 확률은 얼마인지 계산 없이 답하고, 그 이유를 베이즈 정리의 분자로 설명하시오.
3. 실생활 예시의 검사에서 유병률이 1%가 아니라 50%라면 $P(D|+)$는 얼마가 되는지 구하고, 유병률이 결과에 얼마나 큰 영향을 주는지 한 문장으로 설명하시오.

📜 역사

토머스 베이즈(Thomas Bayes)는 18세기 영국의 목사이자 수학자로, 관찰된 결과로부터 그 원인이 될 사건의 확률을 거꾸로 추정하는 문제를 연구했다. 그의 논문은 생전에 발표되지 않았고, 그가 세상을 떠난 뒤인 1763년 리처드 프라이스(Richard Price)가 정리하여 왕립학회에 제출해 출판되었다. 이후 프랑스의 수학자 피에르시몽 라플라스(Pierre-Simon Laplace)가 이 아이디어를 독립적으로 발전시키고 일반적인 형태로 정리하면서, 오늘날 통계적 추론 전반에서 쓰이는 베이즈 정리의 형태가 자리 잡았다.

관련 개념

• 조건부확률 — 베이즈 정리는 조건부확률의 정의를 두 번 사용해 유도된다.
• 확률 — 사전확률과 사후확률 모두 확률의 기본 정의 위에서 정의된다.
• 독립시행 — 여러 원인이 서로 배반으로 표본공간을 분할하는 상황과 비교하면 이해에 도움이 된다.
• 통계적 추정 — 관찰 데이터로 모수나 원인을 추정하는 베이즈 통계적 접근의 출발점이다.