独立性（確率論）

When the occurrence of one event does not affect the likelihood of another

独立性は、統計学や確率過程理論と同様に、確率論における基本的な概念です。2つの事象が独立している、統計的に独立している、または確率的に独立している^[1]とは、非公式に言えば、一方の事象の発生が他方の事象の発生確率に影響を与えない、または同等に、オッズに影響を与えない場合です。同様に、2つの確率変数は、一方の事象の実現が他方の確率分布に影響を与えない場合、独立しています

3つ以上の事象の集合を扱う場合、独立性の2つの概念を区別する必要があります。集合内の任意の2つの事象が互いに独立している場合、事象はペアワイズ独立と呼ばれます。一方、事象の相互独立性（または集団独立性）とは、非公式に言えば、各事象が集合内の他の事象の任意の組み合わせから独立していることを意味します。確率変数の集合にも同様の概念が存在します。相互独立性はペアワイズ独立性を意味しますが、その逆は当てはまりません。確率論、統計学、および確率過程の標準的な文献では、追加の修飾語なしの独立性は通常、相互独立性を指します。

定義

事象について

2つの事象

2つの事象とが独立である（多くの場合、またはと表記され、後者の記号は条件付き独立性にも使用される）のは、それらの同時確率がそれらの確率の積に等しい場合であり、かつその場合に限ります。^{[2] ：29ページ [3] ：10ページ} ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle A\perp B}$ ${\displaystyle A\perp \!\!\!\perp B}$

${\displaystyle \mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B)}$

式1

${\displaystyle A\cap B\neq \emptyset }$は、2つの独立した事象とが標本空間に共通要素を持つため、相互に排他的ではないことを示しています（相互に排他的であるための条件は、 (if)の場合のみです）。これが独立性を定義する理由は、条件付き確率を、事象が発生した、または発生したと仮定されるという 条件下で事象が発生する確率として書き直すことで明らかになります。 ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle A\cap B=\emptyset }$ ${\displaystyle P(A\mid B)={\frac {P(A\cap B)}{P(B)}}}$ ${\displaystyle A}$ ${\displaystyle B}$

${\displaystyle \mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B)\iff \mathrm {P} (A\mid B)={\frac {\mathrm {P} (A\cap B)}{\mathrm {P} (B)}}=\mathrm {P} (A).}$

同様に

${\displaystyle \mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B)\iff \mathrm {P} (B\mid A)={\frac {\mathrm {P} (A\cap B)}{\mathrm {P} (A)}}=\mathrm {P} (B).}$

したがって、の発生はの確率に影響を与えず、その逆も同様です。言い換えれば、と は互いに独立しています。導出された式はより直感的に思えるかもしれませんが、またはが 0 の場合、条件付き確率は未定義になる可能性があるため、推奨される定義ではありません。さらに、推奨される定義は、対称性によって、 が に依存しない場合、 も に依存しないことを明確にしています。 ${\displaystyle B}$ ${\displaystyle A}$ ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle \mathrm {P} (A)}$ ${\displaystyle \mathrm {P} (B)}$ ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle B}$ ${\displaystyle A}$

オッズ

オッズで述べると、2つの事象が独立しているのは、と のオッズ比が1 である場合のみです。確率と同様に、これは条件付きオッズが無条件オッズに等しいことと同等です。 ${\displaystyle A}$ ${\displaystyle B}$

${\displaystyle O(A\mid B)=O(A){\text{ and }}O(B\mid A)=O(B),}$

または、一方の事象が与えられた場合の、もう一方の事象のオッズが、もう一方の事象が発生しない場合の、もう一方の事象のオッズと同じであることと同等です。

${\displaystyle O(A\mid B)=O(A\mid \neg B){\text{ and }}O(B\mid A)=O(B\mid \neg A).}$

オッズ比は次のように定義できます

${\displaystyle O(A\mid B):O(A\mid \neg B),}$

または、がの場合ののオッズに対して対称的に、したがって、事象が独立している場合に限り 1 になります。 ${\displaystyle B}$ ${\displaystyle A}$

3つ以上の事象

有限の事象集合は、すべての事象のペアが独立している場合^[4]、つまり、すべての異なるインデックスのペアについて、 ${\displaystyle \{A_{i}\}_{i=1}^{n}}$ ${\displaystyle m,k}$

${\displaystyle \mathrm {P} (A_{m}\cap A_{k})=\mathrm {P} (A_{m})\mathrm {P} (A_{k})}$

式2

有限の事象集合は、すべての事象が他の事象の交差から独立している場合[ ^{4] [3] : p. 11}、つまり、すべてのおよびすべてのk個のインデックスについて、 ${\displaystyle k\leq n}$ ${\displaystyle 1\leq i_{1}<\dots <i_{k}\leq n}$

${\displaystyle \mathrm {P} \left(\bigcap _{j=1}^{k}A_{i_{j}}\right)=\prod _{j=1}^{k}\mathrm {P} (A_{i_{j}})}$

式3

これは独立事象の乗法則と呼ばれます。これは、すべての単一事象の確率の積のみを含む単一の条件ではなく、すべての事象のサブセットに対して成立する必要があります。

2つ以上の事象について、相互に独立した事象の集合は（定義により）2つずつ独立である。しかし、その逆は必ずしも真ではない。^{[2] : p. 30}

対数確率と情報量

対数確率で述べると、2つの事象が独立している場合、結合事象の対数確率は個々の事象の対数確率の合計です

${\displaystyle \log \mathrm {P} (A\cap B)=\log \mathrm {P} (A)+\log \mathrm {P} (B)}$

情報理論では、負の対数確率は情報内容として解釈されるため、結合されたイベントの情報内容が個々のイベントの情報内容の合計に等しい場合にのみ、2 つのイベントは独立しています。

${\displaystyle \mathrm {I} (A\cap B)=\mathrm {I} (A)+\mathrm {I} (B)}$

詳細については、情報コンテンツ§独立事象の加法性を参照してください。

実数値確率変数の場合

2つの確率変数

2つの確率変数とが独立である場合、かつその場合のみ、それらによって生成されるπシステムの要素は独立です。つまり、すべてのおよびに対して、事象と事象は独立です（上記の式1で定義されているように）。つまり、累積分布関数とを持つ場合、およびが独立である場合、結合確率変数が結合累積分布関数を持つ場合のみ、かつその場合のみ、結合確率変数は独立です^{[3] : p. 15} ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle \{X\leq x\}}$ ${\displaystyle \{Y\leq y\}}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle F_{X}(x)}$ ${\displaystyle F_{Y}(y)}$ ${\displaystyle (X,Y)}$

${\displaystyle F_{X,Y}(x,y)=F_{X}(x)F_{Y}(y)\quad {\text{for all }}x,y}$

式4

または同等に、確率密度 とと結合確率密度が存在する場合、 ${\displaystyle f_{X}(x)}$ ${\displaystyle f_{Y}(y)}$ ${\displaystyle f_{X,Y}(x,y)}$

${\displaystyle f_{X,Y}(x,y)=f_{X}(x)f_{Y}(y)\quad {\text{for all }}x,y.}$

3つ以上の確率変数

有限の確率変数の集合が2つずつ独立である場合、かつその場合に限り、すべての確率変数のペアが独立です。確率変数の集合が2つずつ独立している場合でも、次に定義されるように、必ずしも相互に独立しているとは限りません ${\displaystyle n}$ ${\displaystyle \{X_{1},\ldots ,X_{n}\}}$

有限集合の確率変数が互いに独立であるためには、任意の数列に対して、事象が互いに独立な事象である場合（上記の式3で定義されているように）に限られます。これは、結合累積分布関数に関する次の条件と同等です。有限集合の確率変数が互いに独立であるためには、 ^[3]の場合に限られます^{。p. 16} ${\displaystyle n}$ ${\displaystyle \{X_{1},\ldots ,X_{n}\}}$ ${\displaystyle \{x_{1},\ldots ,x_{n}\}}$ ${\displaystyle \{X_{1}\leq x_{1}\},\ldots ,\{X_{n}\leq x_{n}\}}$ ${\displaystyle F_{X_{1},\ldots ,X_{n}}(x_{1},\ldots ,x_{n})}$ ${\displaystyle n}$ ${\displaystyle \{X_{1},\ldots ,X_{n}\}}$

${\displaystyle F_{X_{1},\ldots ,X_{n}}(x_{1},\ldots ,x_{n})=F_{X_{1}}(x_{1})\cdot \ldots \cdot F_{X_{n}}(x_{n})\quad {\text{for all }}x_{1},\ldots ,x_{n}}$

式5

ここでは、事象の場合のように、確率分布がすべての可能な-元部分集合について因数分解することを要求する必要はありません。 これは、例えばが-元部分集合を意味するため、必要ありません ${\displaystyle k}$ ${\displaystyle n}$ ${\displaystyle F_{X_{1},X_{2},X_{3}}(x_{1},x_{2},x_{3})=F_{X_{1}}(x_{1})\cdot F_{X_{2}}(x_{2})\cdot F_{X_{3}}(x_{3})}$ ${\displaystyle F_{X_{1},X_{3}}(x_{1},x_{3})=F_{X_{1}}(x_{1})\cdot F_{X_{3}}(x_{3})}$

測度論に興味のある読者は、上記の定義における事象を事象に置き換えることを好むかもしれません。ここで、事象は任意のボレル集合です。この定義は、確率変数の値が実数である場合の上記の定義と全く同じです。この定義には、複素数値の確率変数、または任意の測定可能空間（適切なσ-代数によって与えられた位相空間を含む）で値を取る確率変数にも適用できるという利点があります。 ${\displaystyle \{X\in A\}}$ ${\displaystyle \{X\leq x\}}$ ${\displaystyle A}$

実数値の確率ベクトルの場合

2つの確率ベクトルとが独立であると呼ばれるのは、^{[5] ：p. 187 の場合です。} ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{m})^{\mathrm {T} }}$ ${\displaystyle \mathbf {Y} =(Y_{1},\ldots ,Y_{n})^{\mathrm {T} }}$

${\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )=F_{\mathbf {X} }(\mathbf {x} )\cdot F_{\mathbf {Y} }(\mathbf {y} )\quad {\text{for all }}\mathbf {x} ,\mathbf {y} }$

式6

ここで、およびはの累積分布関数、およびはそれらの同時累積分布関数を表します。およびの独立性は、しばしば と表されます。成分ごとに書き、およびはの場合に独立していると呼ばれます。 ${\displaystyle F_{\mathbf {X} }(\mathbf {x} )}$ ${\displaystyle F_{\mathbf {Y} }(\mathbf {y} )}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \mathbf {X} \perp \!\!\!\perp \mathbf {Y} }$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$

${\displaystyle F_{X_{1},\ldots ,X_{m},Y_{1},\ldots ,Y_{n}}(x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n})=F_{X_{1},\ldots ,X_{m}}(x_{1},\ldots ,x_{m})\cdot F_{Y_{1},\ldots ,Y_{n}}(y_{1},\ldots ,y_{n})\quad {\text{for all }}x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n}.}$

確率過程の場合

1つの確率過程の場合

独立性の定義は、ランダムベクトルから確率過程に拡張することができます。したがって、独立確率過程であるためには、任意の時点で過程をサンプリングすることによって得られるランダム変数が、任意のに対して独立ランダム変数である必要があります。^{[6] : p. 163} ${\displaystyle n}$ ${\displaystyle t_{1},\ldots ,t_{n}}$ ${\displaystyle n}$

正式には、確率過程は、すべて に対して であり、すべて に対して である場合に限り、独立していると呼ばれます。 ${\displaystyle \left\{X_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle n\in \mathbb {N} }$ ${\displaystyle t_{1},\ldots ,t_{n}\in {\mathcal {T}}}$

${\displaystyle F_{X_{t_{1}},\ldots ,X_{t_{n}}}(x_{1},\ldots ,x_{n})=F_{X_{t_{1}}}(x_{1})\cdot \ldots \cdot F_{X_{t_{n}}}(x_{n})\quad {\text{for all }}x_{1},\ldots ,x_{n}}$

式7

ここで です。確率過程の独立性は、2つの確率過程間ではなく、確率過程内の特性です。 ${\displaystyle F_{X_{t_{1}},\ldots ,X_{t_{n}}}(x_{1},\ldots ,x_{n})=\mathrm {P} (X(t_{1})\leq x_{1},\ldots ,X(t_{n})\leq x_{n})}$

2つの確率過程の場合

2つの確率過程の独立性は、同じ確率空間上で定義される2つの確率過程と間の特性です。正式には、2つの確率過程とが独立であると言われるのは、すべてに対して、およびすべてに対して、ランダムベクトルとが独立している場合です。^{[7] : p. 515}、つまり ${\displaystyle \left\{X_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle \left\{Y_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ ${\displaystyle \left\{X_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle \left\{Y_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle n\in \mathbb {N} }$ ${\displaystyle t_{1},\ldots ,t_{n}\in {\mathcal {T}}}$ ${\displaystyle (X(t_{1}),\ldots ,X(t_{n}))}$ ${\displaystyle (Y(t_{1}),\ldots ,Y(t_{n}))}$

${\displaystyle F_{X_{t_{1}},\ldots ,X_{t_{n}},Y_{t_{1}},\ldots ,Y_{t_{n}}}(x_{1},\ldots ,x_{n},y_{1},\ldots ,y_{n})=F_{X_{t_{1}},\ldots ,X_{t_{n}}}(x_{1},\ldots ,x_{n})\cdot F_{Y_{t_{1}},\ldots ,Y_{t_{n}}}(y_{1},\ldots ,y_{n})\quad {\text{for all }}x_{1},\ldots ,x_{n}}$

式8

独立σ-代数

上記の定義（式1と式2 ）はどちらも、σ-代数の独立性の次の定義によって一般化されます。を確率空間とし、をの2つの部分σ-代数とします。とが独立であるとは、とが常に、 ${\displaystyle (\Omega ,\Sigma ,\mathrm {P} )}$ ${\displaystyle {\mathcal {A}}}$ ${\displaystyle {\mathcal {B}}}$ ${\displaystyle \Sigma }$ ${\displaystyle {\mathcal {A}}}$ ${\displaystyle {\mathcal {B}}}$ ${\displaystyle A\in {\mathcal {A}}}$ ${\displaystyle B\in {\mathcal {B}}}$

${\displaystyle \mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B).}$

同様に、を添え字集合とする有限σ-代数族が独立であるとは、 ${\displaystyle (\tau _{i})_{i\in I}}$ ${\displaystyle I}$

${\displaystyle \forall \left(A_{i}\right)_{i\in I}\in \prod \nolimits _{i\in I}\tau _{i}\ :\ \mathrm {P} \left(\bigcap \nolimits _{i\in I}A_{i}\right)=\prod \nolimits _{i\in I}\mathrm {P} \left(A_{i}\right)}$

そして、無限σ-代数族が独立であるとは、その有限部分族がすべて独立している場合を指します。

新しい定義は、以前の定義と非常に直接的に関連しています

• 2つの事象が（古い意味で）独立であるのは、それらが生成するσ-代数が（新しい意味で）独立である場合に限ります。ある事象によって生成されるσ-代数は、定義により、 ${\displaystyle E\in \Sigma }$

${\displaystyle \sigma (\{E\})=\{\emptyset ,E,\Omega \setminus E,\Omega \}.}$

• 上で定義された2つの確率変数とが（古い意味で）独立している場合、それらは、それらが生成するσ-代数が（新しい意味で）独立している場合に限ります。ある測定可能な空間に値を取る確率変数によって生成されるσ-代数は、定義により、 の任意の測定可能な部分集合 の形式をとるのすべての部分集合 から構成されます ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \Omega }$ ${\displaystyle X}$ ${\displaystyle S}$ ${\displaystyle \Omega }$ ${\displaystyle X^{-1}(U)}$ ${\displaystyle U}$ ${\displaystyle S}$

この定義を用いると、とが確率変数でが定数である場合、定数確率変数によって生成されるσ代数は自明なσ代数であるため、とが独立であることが簡単に示せます。確率ゼロ事象は独立性に影響を与えないため、Prがほぼ確実に定数である場合に限り、独立性も成立します。 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Y}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \{\varnothing ,\Omega \}}$ ${\displaystyle Y}$

性質

自己独立性

ある事象がそれ自身から独立している場合、かつその場合のみに注意が必要です。

${\displaystyle \mathrm {P} (A)=\mathrm {P} (A\cap A)=\mathrm {P} (A)\cdot \mathrm {P} (A)\iff \mathrm {P} (A)=0{\text{ or }}\mathrm {P} (A)=1.}$

したがって、ある事象がそれ自身から独立している場合、かつその場合のみ、それはほぼ確実に発生するか、その補事象がほぼ確実に発生するかのどちらかです。この事実は、ゼロ-1法則を証明する際に役立ちます。^[8]

期待値と共分散

とが統計的に独立した確率変数である場合、期待値演算子は次の性質を持ちます 。 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \operatorname {E} }$

${\displaystyle \operatorname {E} [X^{n}Y^{m}]=\operatorname {E} [X^{n}]\operatorname {E} [Y^{m}],}$^{[9] : p. 10}

そして、共分散は ゼロです。これは、 ${\displaystyle \operatorname {cov} [X,Y]}$

${\displaystyle \operatorname {cov} [X,Y]=\operatorname {E} [XY]-\operatorname {E} [X]\operatorname {E} [Y].}$

逆は成り立ちません。2つの確率変数の共分散が0である場合、それらは依然として独立ではない可能性があります。

同様に、2つの確率過程とについても：それらが独立している場合、それらは無相関です。^{[10] : p. 151} ${\displaystyle \left\{X_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle \left\{Y_{t}\right\}_{t\in {\mathcal {T}}}}$

特性関数

2つの確率変数とが独立であるのは、確率ベクトルの特性関数がを満たす場合のみです。 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle (X,Y)}$

${\displaystyle \varphi _{(X,Y)}(t,s)=\varphi _{X}(t)\cdot \varphi _{Y}(s).}$

特に、それらの和の特性関数は、それらの周辺特性関数の積です

${\displaystyle \varphi _{X+Y}(t)=\varphi _{X}(t)\cdot \varphi _{Y}(t),}$

ただし、逆の含意は真ではありません。後者の条件を満たす確率変数は、劣独立と呼ばれます。

例

サイコロを振る

サイコロを1回目に振って6が出るという事象と、2回目に6が出るという事象は独立しています。対照的に、サイコロを1回目に振って6が出るという事象と、1回目と2回目の試行で出た目の合計が8になるという事象は独立していません。

カードを引く

トランプのデッキから2枚のカードを交換して引く場合、最初の試行で赤いカードを引くという事象と、2回目の試行で赤いカードを引くという事象は独立しています。対照的に、トランプのデッキから2枚のカードを交換せずに引く場合、最初の試行で赤いカードを引くという事象と、2回目の試行で赤いカードを引くという事象は独立していません。これは、赤いカードが除去されたデッキでは、赤いカードの数が比例して少なくなるためです。

ペアワイズ独立性と相互独立性

ペアワイズ独立だが、相互独立ではない事象

相互独立事象

図示された2つの確率空間を考えてみましょう。どちらの場合も、およびです。最初の空間の事象は、、、およびであるため、ペアワイズ独立ですが、3つの事象は相互に独立していません。2番目の空間の事象は、ペアワイズ独立性と相互独立性の両方を備えています。違いを説明するために、2つの事象の条件付けを考えてみましょう。ペアワイズ独立性の場合、任意の1つの事象は他の2つの事象のそれぞれから独立していますが、他の2つの事象の交差からは独立していません。 ${\displaystyle \mathrm {P} (A)=\mathrm {P} (B)=1/2}$ ${\displaystyle \mathrm {P} (C)=1/4}$ ${\displaystyle \mathrm {P} (A|B)=\mathrm {P} (A|C)=1/2=\mathrm {P} (A)}$ ${\displaystyle \mathrm {P} (B|A)=\mathrm {P} (B|C)=1/2=\mathrm {P} (B)}$ ${\displaystyle \mathrm {P} (C|A)=\mathrm {P} (C|B)=1/4=\mathrm {P} (C)}$

${\displaystyle \mathrm {P} (A|BC)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {1}{40}}}}={\tfrac {4}{5}}\neq \mathrm {P} (A)}$

${\displaystyle \mathrm {P} (B|AC)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {1}{40}}}}={\tfrac {4}{5}}\neq \mathrm {P} (B)}$

${\displaystyle \mathrm {P} (C|AB)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {6}{40}}}}={\tfrac {2}{5}}\neq \mathrm {P} (C)}$

しかし、相互に独立性がある場合、

${\displaystyle \mathrm {P} (A|BC)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {1}{16}}}}={\tfrac {1}{2}}=\mathrm {P} (A)}$

${\displaystyle \mathrm {P} (B|AC)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {1}{16}}}}={\tfrac {1}{2}}=\mathrm {P} (B)}$

${\displaystyle \mathrm {P} (C|AB)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {3}{16}}}}={\tfrac {1}{4}}=\mathrm {P} (C)}$

三重独立性はあるが、対独立性はない

3つのイベントの例を作成することが可能です。

${\displaystyle \mathrm {P} (A\cap B\cap C)=\mathrm {P} (A)\mathrm {P} (B)\mathrm {P} (C),}$

事象について

条件付き独立性

事象について

イベントが与えられた場合 、イベントとイベントは条件付きで独立です。 ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle C}$

${\displaystyle \mathrm {P} (A\cap B\mid C)=\mathrm {P} (A\mid C)\cdot \mathrm {P} (B\mid C)}$。

確率変数の場合

直感的に、2つの確率変数とが条件付きで独立している場合、が既知であれば、の値はについて追加情報を追加しません。たとえば、同じ基礎量の2つの測定値とは独立していませんが、 （2つの測定値の誤差が何らかの形で関連していない限り）が与えられた場合、条件付きで独立しています ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$ ${\displaystyle Z}$ ${\displaystyle Y}$ ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$ ${\displaystyle Z}$

条件付き独立性の正式な定義は、条件付き分布の考え方に基づいています。、、が離散確率変数である場合、次の式が成り立つとき、およびは条件付き独立であると定義されます。 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$

${\displaystyle \mathrm {P} (X\leq x,Y\leq y\;|\;Z=z)=\mathrm {P} (X\leq x\;|\;Z=z)\cdot \mathrm {P} (Y\leq y\;|\;Z=z)}$

すべての、および となる場合、となる。一方、確率変数が連続で、結合確率密度関数を持つ場合、 が与えられた場合、 と は条件付き独立である。 ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle z}$ ${\displaystyle \mathrm {P} (Z=z)>0}$ ${\displaystyle f_{XYZ}(x,y,z)}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$

${\displaystyle f_{XY|Z}(x,y|z)=f_{X|Z}(x|z)\cdot f_{Y|Z}(y|z)}$

すべての実数、および となる場合、となる。 ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle z}$ ${\displaystyle f_{Z}(z)>0}$

離散と がが与えられた場合、 となる。 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$

${\displaystyle \mathrm {P} (X=x|Y=y,Z=z)=\mathrm {P} (X=x|Z=z)}$

任意の 、およびとなる場合、となる。つまり、 と が与えられた場合の条件付き分布は、のみが与えられた場合と同じである。連続の場合の条件付き確率密度関数についても同様の式が成り立つ。 ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle z}$ ${\displaystyle \mathrm {P} (Z=z)>0}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$ ${\displaystyle Z}$

確率は事象が与えられていない条件付き確率の一種と見なすことができるため、独立性は条件付き独立性の特別な種類と見なすことができます。

歴史

1933年以前、確率論における独立性は言葉で定義されていました。例えば、ド・モアブルは次のように定義しました。「2つの事象が独立しているとは、互いに何ら関連性がなく、一方の事象の発生が他方の事象の発生を促進したり妨げたりしないことを意味する。」^[12] n個の独立した事象がある場合、それらすべてが発生する確率は、これらn個の事象の確率の積として計算されました。明らかに、この式は上記の定義の帰結であるという確信がありました。（これは乗法定理と呼ばれることもありました。）もちろん、彼の主張の証明は、より正式な暗黙の仮定なしには成り立ちません

この記事で示した独立性の定義は、1933年にコルモゴロフの確率の公理化の一部として登場した後、標準的な定義（現在ではすべての書籍で使用されています）となりました。^[13] コルモゴロフはこれをS・N・バーンスタインに帰し、1927年にロシア語で出版された出版物を引用しました。^[14]

残念ながら、バーンスタインとコルモゴロフはどちらもゲオルク・ボルマンの研究を知りませんでした。ボルマンは1901年に2つの事象^[15]、1908年にn個の事象^[16]に対して同じ定義を与えていました。後者の論文では、彼は自身の概念を詳細に研究しました。例えば、彼は最初の例を挙げて、2つの事象の独立性が相互独立性を意味しないことを示しています。今日でも、ボルマンはほとんど引用されていません。彼の研究の詳細については、ウルリッヒ・クレンゲル著の『ゲオルク・ボルマンの確率論への貢献について』^{[17]をご覧ください。}

参照

• コピュラ（統計学）
• 独立かつ同一分布する確率変数
• 平均依存性
• 正規分布し無相関であることは独立性を意味しない

参考文献

1. Russell, Stuart; Norvig, Peter (2002). Artificial Intelligence: A Modern Approach . Prentice Hall . p. 478. ISBN 0-13-790395-2。
2. Florescu, Ionut (2014).確率と確率過程. Wiley. ISBN 978-0-470-62455-5。
3. Gallager, Robert G. (2013).確率過程理論の応用. Cambridge University Press. ISBN 978-1-107-03975-9。
4. Feller, W (1971). 「確率的独立性」.確率理論とその応用入門. Wiley .
5. Papoulis, Athanasios (1991).確率、ランダム変数、および確率過程. MCGraw-Hill. ISBN 0-07-048477-5。
6. Hwei, Piao (1997).確率、ランダム変数、およびランダム過程の理論と問題. McGraw-Hill. ISBN 0-07-030644-3。
7. Amos Lapidoth (2017年2月8日). デジタル通信の基礎. Cambridge University Press. ISBN 978-1-107-17732-1。
8. Durrett, Richard (1996).確率：理論と例（第2版）.62ページ
9. E Jakeman.散乱波におけるゆらぎのモデリング. ISBN 978-0-7503-1005-5。
10. Park, Kun Il (2018).確率と確率過程の基礎と通信への応用. Springer. ISBN 978-3-319-68074-3。
11. ジョージ、グリン、「3つの事象の独立性の検定」、Mathematical Gazette 88、2004年11月、568ページ。PDF
12. 引用：グリンステッドとスネルの確率論入門。CHANCEプロジェクト。2006年7月4日版
13. コルモゴロフ、アンドレイ(1933). 『確率論の基礎』（ドイツ語）ベルリン：ユリウス・シュプリンガー訳：コルモゴロフ、アンドレイ (1956). 『確率論の基礎』（第2版）ニューヨーク：チェルシー。ISBN 978-0-8284-0023-7.
14. SN バーンスタイン著『確率論』（ロシア語）モスクワ、1927年（4版、最新1946年）
15. ゲオルク・ボルマン著『数学の生存論、数学の科学百科事典』第1巻、第2部、第4号（1901年）、852–917
16. Georg Bohlmann：Die Grundbegriffe der Wahrscheinlichkeitsrechnung in ihrer Anwendung auf die Lebensversichrung, Atti del IV. Congr. Int. dei Matem. Rom, Bd. III (1908), 244–278.
17. ウルリッヒ・クレンゲル：ゲオルク・ボルマンの確率論への貢献について（PDF; 6.4 MB）、確率統計史電子ジャーナル、2011年.

外部リンク

• ウィキメディア・コモンズにおける独立性（確率論）関連メディア

Retrieved from "https://en.wikipedia.org/w/index.php?title=Independence_(probability_theory)&oldid=1300651702"