条件付き確率

#確率論

Contents

条件付き確率

確率空間 $(\varOmega,\mathcal F,\Pr)$ において、事象 $B$ が生起したという条件の下で事象 $A$ が生起する確率のことを条件付き確率 (英：conditional probability) という。

$\Pr(A\mid B) := \frac{\Pr(A\cap B)}{\Pr(B)} \quad (\Pr(B)\gt 0)$

全確率の法則

全確率の法則 (英：low of total probability) とは、事象 $A$ が共通部分を持たない $n$ 個の事象の事象付き確率に細分されている場合に、事象 $A$ の確率を求める定理のこと。

$\Pr(A) = \sum_{i=1}^n\Pr(B_i)\Pr(A\mid B_i) \quad \left(A\sube\bigcup_{i=1}^n B_i, ~B_i\cap B_j=\empty ~(i\ne j)\right)$

全確率の法則の証明：

$\begin{aligned} \sum_{i=1}^n\Pr(B_i)\Pr(A\mid B_i) &= \sum_{i=1}^n\Pr(B_i)\frac{\Pr(A\cap B_i)}{\Pr(B_i)} \cr &= \sum_{i=1}^n\Pr(A\cap B_i) \cr &= \Pr\left(\bigcup_{i=1}^n A\cap B_i\right) \quad \because B_i\cap B_j=\empty \cr &= \Pr\left(A\cap\bigcup_i^n B_i\right) \cr &= \Pr(A) \quad \because A\sube\bigcup_{i=1}^n B_i \cr \cr \Pr(A) &= \sum_{i=1}^n\Pr(B_i)\Pr(A\mid B_i) \end{aligned}$

条件付き独立

次式が成り立つとき、 $C$ を与えたもとで $A,B$ は条件付き独立 (英：conditional independence) であるという。

$\Pr(A,B\mid C) = \Pr(A\mid C)\Pr(B\mid C)$

条件付き確率質量関数

結合累積分布関数 $F_{X,Y}$ において、離散型確率変数 $Y$ が $y$ であることを知ったときの確率質量関数 $P_{X\mid Y=y}$ は次式となる。このとき $P_{X\mid Y=y}$ を 条件付確率質量関数 (英：conditional probability mass function) という。 $P_{X|Y=y}(x) = \frac{P_{X,Y}(x,y)}{P(y)}$ また $P_{X\mid Y=y}$ を与えられたときの、累積分布関数 $F_{X\mid Y=y}$ は次式のように表される。 $\begin{aligned} F_{X|Y=y}(x) &= \sum_{x_i\le x}P_{X\mid Y=y}(x_i) \cr &= \sum_{x_i\le x}\frac{P_{X,Y}(x_i,y)}{P_Y(y)} \cr \end{aligned}$

条件付き確率密度関数

結合累積分布関数 $F_{X,Y}$ において、連続型確率変数 $Y$ が $y$ であることを知ったときの確率密度関数 $p_{X\mid Y=y}$ は次式となる。このとき $p_{X\mid Y=y}$ を条件付確率密度関数 (英：conditional probability density function) という。 $p_{X\mid Y=y}(x) = \frac{p_{X,Y}(x,y)}{p_Y(y)}$ また $p_{X\mid Y=y}$ を与えられたときの、累積分布関数 $F_{X\mid Y=y}$ は次式のように表される。 $\begin{aligned}F_{X\mid Y=y}(x)&= \int_{-\infty}^x p_{X\mid Y=y}(u)~\mathrm du \cr&= \int_{-\infty}^x \frac{p_{X,Y}(u,v)}{p_Y(v)}~\mathrm du \cr\end{aligned}$

条件付き期待値

条件付き結合確率分布において一方の確率変数の値が定まっているという条件の下、もう一方の確率変数による期待値を条件付き期待値 (英：conditional expectation) という。

$E(X\mid Y=y) = \begin{cases} \displaystyle\sum_x xP_{X\mid Y=y}(x) & \text{if discrete} \\ \displaystyle\int xp_{X\mid Y=y}(x)~dx & \text{if continuous} \end{cases}$

条件付き分散

条件付き結合確率分布において一方の確率変数の値が定まっているという条件の下、もう一方の確率変数による分散を条件付き分散 (英：conditional variance) という。

$V(X\mid Y=y) = \begin{cases} \displaystyle\sum_x (x-E(X\mid Y=y))^2 P_{X\mid Y=y}(x) & \text{if discrete} \\ \displaystyle\int (x-E(X\mid Y=y))^2 p_{X\mid Y=y}(x)~dx & \text{if continuous} \\ \end{cases}$