条件付き確率分布

確率論と統計学において、条件付き確率分布は、特定の事象の発生を前提とした結果の確率を記述する確率分布です。 2 つの共分布するランダム変数とが与えられた場合、の条件付き確率分布は、が特定の値であることがわかっている場合のの確率分布です。条件付き確率は、の未指定の値をパラメータとして含む関数として表現される場合もあります。とが両方ともカテゴリ変数である場合、条件付き確率を表すために条件付き確率表が通常使用されます。条件付き分布は、ランダム変数の周辺分布(もう一方の変数の値を参照しない分布)とは対照的です。 $X$ $Y$ $Y$ $X$ $Y$ $X$ $x$ $X$ $X$ $Y$

与えられた条件付き分布が連続分布である場合、その確率密度関数は条件付き密度関数として知られています。^[1]モーメントなどの条件付き分布の特性は、条件付き平均や条件付き分散などの対応する名前で呼ばれることがよくあります。 $Y$ $X$

より一般的には、2 つ以上の変数のセットのサブセットの条件付き分布を参照できます。この条件付き分布は、残りのすべての変数の値に依存し、サブセットに 1 つ以上の変数が含まれている場合、この条件付き分布は、含まれている変数の条件付き結合分布になります。

条件付き離散分布

離散確率変数の場合、与えられたの条件付き確率質量関数は、定義に従って次のように表すことができます。 $Y$ $X=x$

p_{Y|X}(y\mid x)\triangleq P(Y=y\mid X=x)={\frac {P(\{X=x\}\cap \{Y=y\})}{P(X=x)}}\qquad

分母にが存在するため、これは非ゼロ（したがって厳密に正）の場合のみ定義されます。 $P(X=x)$ $P(X=x).$

与えられた確率分布との関係は次のようになります。 $X$ $Y$

P(Y=y\mid X=x)P(X=x)=P(\{X=x\}\cap \{Y=y\})=P(X=x\mid Y=y)P(Y=y).

例

公平なサイコロを振って、出た目が偶数（つまり2、4、または6）の場合は、そうでない場合はとします。さらに、出た目が素数（つまり2、3、または5）の場合は、そうでない場合はとします。 $X=1$ $X=0$ $Y=1$ $Y=0$

D	1	2	3	4	5	6
X	0	1	0	1	0	1
はい	0	1	1	0	1	0

この場合、無条件の確率は3/6 = 1/2 です (サイコロを振る可能性は 6 通りあり、そのうち 3 つは偶数であるため)。一方、条件付きの確率は 1/3 です (素数を振る可能性は 2、3、5 の3 通りあり、そのうち 1 つは偶数であるため)。 $X=1$ $X=1$ $Y=1$

条件付き連続分布

同様に連続確率変数の場合、の値の発生を与えられたの条件付き確率密度関数は次のように表される^[2]。 $Y$ $x$ $X$

f_{Y\mid X}(y\mid x)={\frac {f_{X,Y}(x,y)}{f_{X}(x)}}\qquad

ここではとの結合密度を与え、はの周辺密度を与えます。この場合もであることが必要です。 $f_{X,Y}(x,y)$ $X$ $Y$ $f_{X}(x)$ $X$ $f_{X}(x)>0$

与えられた確率分布との関係は次のように表されます。 $X$ $Y$

f_{Y\mid X}(y\mid x)f_{X}(x)=f_{X,Y}(x,y)=f_{X|Y}(x\mid y)f_{Y}(y).

連続ランダム変数の条件付き分布の概念は、見た目ほど直感的ではありません。ボレルのパラドックスは、条件付き確率密度関数が座標変換に対して不変である必要がないことを示しています。

例

このグラフは、確率変数との二変量正規結合密度を示しています。の条件付きの分布を見るには、まず平面上の直線を可視化し、次にその直線を含み平面に垂直な平面を可視化します。この平面と結合正規密度の交点は、交点の下の面積が単位面積になるように再スケールされた後、の適切な条件付き密度となります。 $X$ $Y$ $Y$ $X=70$ $X=70$ $X,Y$ $X,Y$ $Y$

$Y\mid X=70\ \sim \ {\mathcal {N}}\left(\mu _{Y}+{\frac {\sigma _{Y}}{\sigma _{X}}}\rho (70-\mu _{X}),\,(1-\rho ^{2})\sigma _{Y}^{2}\right).$

独立性との関係

確率変数が独立であるためには、の条件付き分布がのすべての可能な実現に対しての無条件分布に等しいことが必要です。離散確率変数の場合、これはおよびのすべての可能なに対してが成り立つことを意味します。連続確率変数およびの場合、結合密度関数を持つため、これはおよびのすべての可能なに対してが成り立つことを意味します。 $X$ $Y$ $Y$ $X$ $X$ $Y$ $P(Y=y|X=x)=P(Y=y)$ $y$ $x$ $P(X=x)>0$ $X$ $Y$ $f_{Y}(y|X=x)=f_{Y}(y)$ $y$ $x$ $f_{X}(x)>0$

プロパティ

をの関数として見ると、確率質量関数なので、全体の合計（条件付き確率密度の場合は積分）は 1 になります。をの関数として見ると、尤度関数なので、全体の合計（または積分）は1 である必要はありません。 $y$ $x$ $P(Y=y|X=x)$ $y$ $x$ $y$ $x$

さらに、結合分布の周辺分布は、対応する条件付き分布の期待値として表すことができます。例えば、です。 $p_{X}(x)=E_{Y}[p_{X|Y}(x\ |\ Y)]$

測度論的定式化

を確率空間、を-体とする。が与えられたとき、ラドン・ニコディムの定理は、任意のに対してとなる条件付き確率と呼ばれる-測定可能な確率変数[ ^3]が存在し、そのような確率変数は確率がゼロの集合まで一意に定義されることを意味する。条件付き確率は、がすべてのae に対して上の確率測度である場合に正則確率と呼ばれる。 $(\Omega ,{\mathcal {F}},P)$ ${\mathcal {G}}\subseteq {\mathcal {F}}$ $\sigma$ ${\mathcal {F}}$ $A\in {\mathcal {F}}$ ${\mathcal {G}}$ $P(A\mid {\mathcal {G}}):\Omega \to \mathbb {R}$ $\int _{G}P(A\mid {\mathcal {G}})(\omega )dP(\omega )=P(A\cap G)$ $G\in {\mathcal {G}}$ $\operatorname {P} (\cdot \mid {\mathcal {G}})(\omega )$ $(\Omega ,{\mathcal {F}})$ $\omega \in \Omega$

特殊なケース:

自明なシグマ代数の場合、条件付き確率は定数関数である。 ${\mathcal {G}}=\{\emptyset ,\Omega \}$ $\operatorname {P} \!\left(A\mid \{\emptyset ,\Omega \}\right)=\operatorname {P} (A).$
の場合、インジケータ関数（以下で定義）です。 $A\in {\mathcal {G}}$ $\operatorname {P} (A\mid {\mathcal {G}})=1_{A}$

を値の確率変数とする。各に対して、を定義する。任意のに対して、関数はの条件付き確率分布と呼ばれる。が上の確率測度である場合、関数は正則と呼ばれる。 $X:\Omega \to E$ $(E,{\mathcal {E}})$ $B\in {\mathcal {E}}$ $\mu _{X\,|\,{\mathcal {G}}}(B\,|\,{\mathcal {G}})=\mathrm {P} (X^{-1}(B)\,|\,{\mathcal {G}}).$ $\omega \in \Omega$ $\mu _{X\,|{\mathcal {G}}}(\cdot \,|{\mathcal {G}})(\omega ):{\mathcal {E}}\to \mathbb {R}$ $X$ ${\mathcal {G}}$ $(E,{\mathcal {E}})$

実数値確率変数（上のボレル場に関して）に対して、すべての条件付き確率分布は正則である。^[4]この場合、ほぼ確実である。 $\sigma$ ${\mathcal {R}}^{1}$ $\mathbb {R}$ $E[X\mid {\mathcal {G}}]=\int _{-\infty }^{\infty }x\,\mu _{X\mid {\mathcal {G}}}(dx,\cdot )$

条件付き期待値との関係

任意のイベントに対して、インジケータ関数を定義します。 $A\in {\mathcal {F}}$

\mathbf {1} _{A}(\omega )={\begin{cases}1\;&{\text{if }}\omega \in A,\\0\;&{\text{if }}\omega \notin A,\end{cases}}

これは確率変数です。この確率変数の期待値はA自身の確率に等しいことに注意してください。

\operatorname {E} (\mathbf {1} _{A})=\operatorname {P} (A).\;

体が与えられた場合、条件付き確率は、に対する指示関数の条件付き期待値の 1 つのバージョンになります。 $\sigma$ ${\mathcal {G}}\subseteq {\mathcal {F}}$ $\operatorname {P} (A\mid {\mathcal {G}})$ $A$

\operatorname {P} (A\mid {\mathcal {G}})=\operatorname {E} (\mathbf {1} _{A}\mid {\mathcal {G}})\;

通常の条件付き確率に関するランダム変数の期待値は、その条件付き期待値に等しくなります。

シグマフィールドにおける条件付けの解釈

確率空間とサブシグマ体を考えてみましょう。サブシグマ体はの情報のサブセットを含むと大まかに解釈できます。例えば、をの情報に基づいて発生する事象の確率と考えることができます。 $(\Omega ,{\mathcal {F}},\mathbb {P} )$ ${\mathcal {A}}\subset {\mathcal {F}}$ ${\mathcal {A}}$ ${\mathcal {F}}$ $\mathbb {P} (B|{\mathcal {A}})$ $B$ ${\mathcal {A}}$

また、すべてのに対してであるとき、事象はサブシグマ場から独立していることを思い出してください。の情報は事象の発生確率について何も教えてくれないと一般に結論付けるのは誤りです。これは反例で示せます。 $B$ ${\mathcal {A}}$ $\mathbb {P} (B|A)=\mathbb {P} (B)$ $A\in {\mathcal {A}}$ ${\mathcal {A}}$ $B$

単位区間上の確率空間を考える。をすべての可算集合および補集合が可算である集合のシグマ体とする。したがって、の各集合は測度またはを持ち、したがっての各イベントとは独立している。しかし、にはのすべてのシングルトンイベント（を 1 つだけ含む集合）も含まれることに注意されたい。したがって、でどのイベントが発生したかを知ることは、どのイベントが発生したかを正確に知ることと同義である。したがって、ある意味でははに関する情報を含んでおらず（とは独立している）、別の意味でははのすべての情報を含んでいる。^[5]^[^{必要ページ}^] $\Omega =[0,1]$ ${\mathcal {G}}$ ${\mathcal {G}}$ $0$ $1$ ${\mathcal {F}}$ ${\mathcal {G}}$ ${\mathcal {F}}$ $\omega \in \Omega$ ${\mathcal {G}}$ $\omega \in \Omega$ ${\mathcal {G}}$ ${\mathcal {F}}$ ${\mathcal {F}}$

参照

参考文献

引用

^ ロス（1993）、88–91ページ。
^ パーク（2018）、99頁。
^ ビリングスリー（1995年）、430ページ。
^ ビリングスリー（1995）、439ページ。
^ ビリングスリー (2012).

出典

ビリングスリー、パトリック（1995年）『確率と測度』（第3版）ニューヨーク：ジョン・ワイリー・アンド・サンズISBN 0-471-00710-2。
ビリングスリー、パトリック（2012年）『確率と測度』（記念版）ホーボーケン、ニュージャージー州：ワイリー。ISBN 978-1-118-12237-2。
パーク・クン・イル (2018). 『確率過程の基礎と通信への応用』シュプリンガー. ISBN 978-3-319-68074-3。
ロス、シェルドン・M. (1993).確率モデル入門（第5版）. サンディエゴ: アカデミック・プレス. ISBN 0-12-598455-3。

[FOOTNOTERoss199388–91-1] ロス（1993）、88–91ページ。

[FOOTNOTEPark201899-2] パーク（2018）、99頁。

[FOOTNOTEBillingsley1995430-3] ビリングスリー（1995年）、430ページ。

[FOOTNOTEBillingsley1995439-4] ビリングスリー（1995）、439ページ。

[FOOTNOTEBillingsley2012-5] ビリングスリー (2012).