blue271828's misc :-)

条件付き確率

条件付き確率

確率空間 $(\varOmega,\mathcal F,\Pr)$ において、事象 $B$ が生起したという条件の下で事象 $A$ が生起する確率のことを条件付き確率 (英:conditional probability) という。

\[ \Pr(A\mid B) := \frac{\Pr(A\cap B)}{\Pr(B)} \quad (\Pr(B)\gt 0) \]

全確率の法則

全確率の法則 (英:low of total probability) とは、事象 $A$ が共通部分を持たない $n$ 個の事象の事象付き確率に細分されている場合に、事象 $A$ の確率を求める定理のこと。

\[ \Pr(A) = \sum_{i=1}^n\Pr(B_i)\Pr(A\mid B_i) \quad \left(A\sube\bigcup_{i=1}^n B_i, ~B_i\cap B_j=\empty ~(i\ne j)\right) \]


全確率の法則の証明:

\[ \begin{aligned} \sum_{i=1}^n\Pr(B_i)\Pr(A\mid B_i) &= \sum_{i=1}^n\Pr(B_i)\frac{\Pr(A\cap B_i)}{\Pr(B_i)} \cr &= \sum_{i=1}^n\Pr(A\cap B_i) \cr &= \Pr\left(\bigcup_{i=1}^n A\cap B_i\right) \quad \because B_i\cap B_j=\empty \cr &= \Pr\left(A\cap\bigcup_i^n B_i\right) \cr &= \Pr(A) \quad \because A\sube\bigcup_{i=1}^n B_i \cr \cr \Pr(A) &= \sum_{i=1}^n\Pr(B_i)\Pr(A\mid B_i) \end{aligned} \]

条件付き独立

次式が成り立つとき、$C$ を与えたもとで $A,B$ は条件付き独立 (英:conditional independence) であるという。

\[ \Pr(A,B\mid C) = \Pr(A\mid C)\Pr(B\mid C) \]

条件付き確率質量関数

結合累積分布関数 $F_{X,Y}$ において、離散型確率変数 $Y$ が $y$ であることを知ったときの確率質量関数 $P_{X\mid Y=y}$ は次式となる。このとき $P_{X\mid Y=y}$ を 条件付確率質量関数 (英:conditional probability mass function) という。 \( P_{X|Y=y}(x) = \frac{P_{X,Y}(x,y)}{P(y)} \) また $P_{X\mid Y=y}$ を与えられたときの、累積分布関数 $F_{X\mid Y=y}$ は次式のように表される。 \( \begin{aligned} F_{X|Y=y}(x) &= \sum_{x_i\le x}P_{X\mid Y=y}(x_i) \cr &= \sum_{x_i\le x}\frac{P_{X,Y}(x_i,y)}{P_Y(y)} \cr \end{aligned} \)

条件付き確率密度関数

結合累積分布関数 $F_{X,Y}$ において、連続型確率変数 $Y$ が $y$ であることを知ったときの確率密度関数 $p_{X\mid Y=y}$ は次式となる。このとき $p_{X\mid Y=y}$ を条件付確率密度関数 (英:conditional probability density function) という。 \( p_{X\mid Y=y}(x) = \frac{p_{X,Y}(x,y)}{p_Y(y)} \) また $p_{X\mid Y=y}$ を与えられたときの、累積分布関数 $F_{X\mid Y=y}$ は次式のように表される。 \( \begin{aligned}F_{X\mid Y=y}(x)&= \int_{-\infty}^x p_{X\mid Y=y}(u)~\mathrm du \cr&= \int_{-\infty}^x \frac{p_{X,Y}(u,v)}{p_Y(v)}~\mathrm du \cr\end{aligned} \)

条件付き期待値

条件付き結合確率分布において一方の確率変数の値が定まっているという条件の下、もう一方の確率変数による期待値を条件付き期待値 (英:conditional expectation) という。

\[ E(X\mid Y=y) = \begin{cases} \displaystyle\sum_x xP_{X\mid Y=y}(x) & \text{if discrete} \\ \displaystyle\int xp_{X\mid Y=y}(x)~dx & \text{if continuous} \end{cases} \]

条件付き分散

条件付き結合確率分布において一方の確率変数の値が定まっているという条件の下、もう一方の確率変数による分散を条件付き分散 (英:conditional variance) という。

\[ V(X\mid Y=y) = \begin{cases} \displaystyle\sum_x (x-E(X\mid Y=y))^2 P_{X\mid Y=y}(x) & \text{if discrete} \\ \displaystyle\int (x-E(X\mid Y=y))^2 p_{X\mid Y=y}(x)~dx & \text{if continuous} \\ \end{cases} \]

関連記事

参考文献

はじめてのパターン認識
平井 有三
森北出版
売り上げランキング: 4,471
基礎から学ぶ トラヒック理論
稲井 寛
森北出版
売り上げランキング: 43,700
統計学入門 (基礎統計学Ⅰ)

東京大学出版会
売り上げランキング: 3,194

Tags

#Ansible (3) #Bash (1) #Docker (1) #Git (2) #Hugo (2) #Molecule (1) #Python (1) #WSLtty (1) #アルゴリズム (4) #ビジネス用語 (1) #プログラミング (1) #位相空間論 (8) #初等数学 (20) #初等関数 (1) #実解析 (1) #幾何学 (3) #微分積分学 (18) #情報理論 (4) #抽象代数学 (14) #数理モデル (2) #数理論理学 (21) #機械学習 (3) #正規表現 (1) #測度論 (3) #特殊関数 (4) #確率論 (18) #組合せ論 (5) #統計学 (12) #線型代数学 (18) #複素解析学 (4) #解析学 (15) #論理学 (6) #順序集合論 (9)