独立性（確率論）

When the occurrence of one event does not affect the likelihood of another

独立性は、統計学や確率過程理論と同様に、確率論における基本的な概念です。2つの事象が独立、統計的に独立、あるいは確率的に独立^[1]であるとは、非公式に言えば、一方の事象の発生が他方の事象の発生確率に影響を与えない、あるいは同義語としてオッズに影響を与えないことを意味します。同様に、2つの確率変数が独立であるとは、一方の事象の実現が他方の確率分布に影響を与えないことを意味します。

2つ以上の事象の集合を扱う場合、独立性に関する2つの概念を区別する必要があります。集合内の任意の2つの事象が互いに独立している場合、その事象は「対独立」と呼ばれます。一方、事象の相互独立性（または集団独立性）とは、非公式に言えば、各事象が集合内の他の事象の任意の組み合わせから独立していることを意味します。確率変数の集合にも同様の概念が存在します。相互独立性は対独立性を意味しますが、その逆は当てはまりません。確率論、統計学、確率過程に関する標準的な文献では、特に限定し ない「独立性」は通常、「相互独立性」を指します。

意味

イベント用

2つのイベント

2つの事象と が独立である（または と表記されることが多い。後者の記号は条件付き独立性にも使用される）のは、それらの結合確率がそれらの確率の積に等しい場合のみである。 ^{[2] : p. 29  [3] : p. 10} ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle A\perp B}$ ${\displaystyle A\perp \!\!\!\perp B}$

${\displaystyle \mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B)}$

式1

${\displaystyle A\cap B\neq \emptyset }$は、2つの独立した事象とが標本空間に共通要素を持ち、互いに排他的ではないことを示しています（互いに排他的であるのは、 (iff)の場合のみ）。これが独立性を定義する理由は、条件付き確率を、事象が実際に発生した、または発生したと仮定されるという 条件下で事象が発生する確率として書き直すことで明らかになります。 ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle A\cap B=\emptyset }$ ${\displaystyle P(A\mid B)={\frac {P(A\cap B)}{P(B)}}}$ ${\displaystyle A}$ ${\displaystyle B}$

${\displaystyle \mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B)\iff \mathrm {P} (A\mid B)={\frac {\mathrm {P} (A\cap B)}{\mathrm {P} (B)}}=\mathrm {P} (A).}$

同様に

${\displaystyle \mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B)\iff \mathrm {P} (B\mid A)={\frac {\mathrm {P} (A\cap B)}{\mathrm {P} (A)}}=\mathrm {P} (B).}$

したがって、 の発生はの確率に影響を与えず、その逆も同様です。言い換えれば、と は互いに独立しています。導出された式はより直感的に思えるかもしれませんが、またはが0の場合、条件付き確率は未定義になる可能性があるため、推奨される定義ではありません。さらに、推奨される定義では、が に依存しない場合、も に依存しないことが対称性によって明らかになっています。 ${\displaystyle B}$ ${\displaystyle A}$ ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle \mathrm {P} (A)}$ ${\displaystyle \mathrm {P} (B)}$ ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle B}$ ${\displaystyle A}$

オッズ

オッズの観点から述べると、2つの事象が独立であるためには、⁠ ⁠と⁠ ⁠のオッズ比が1 (1) である必要があります。確率の場合と同様に、これは条件付きオッズが無条件オッズに等しいことと等しくなります。 ${\displaystyle A}$ ${\displaystyle B}$

${\displaystyle O(A\mid B)=O(A){\text{ and }}O(B\mid A)=O(B),}$

あるいは、あるイベントが別のイベントを前提とした場合のオッズが、別のイベントが発生しなかった場合のオッズと同じになる。

${\displaystyle O(A\mid B)=O(A\mid \neg B){\text{ and }}O(B\mid A)=O(B\mid \neg A).}$

オッズ比は次のように定義される。

${\displaystyle O(A\mid B):O(A\mid \neg B),}$

または、オッズ ${\displaystyle B}$が与えられた場合、対称的に、イベントが独立している場合にのみ 1 になります。 ${\displaystyle A}$

2つ以上のイベント

有限のイベント集合が対独立であるとは、すべてのイベント対が独立であることを意味する^[4]。つまり、すべての異なるインデックス対に対して、 ${\displaystyle \{A_{i}\}_{i=1}^{n}}$ ${\displaystyle m,k}$

${\displaystyle \mathrm {P} (A_{m}\cap A_{k})=\mathrm {P} (A_{m})\mathrm {P} (A_{k})}$

式2

有限集合の事象が互いに独立であるとは、すべての事象が他の事象のいかなる交差からも独立している場合を言う^{[4] [3] : p. 11} —つまり、すべてのk個のインデックスに対して、 ${\displaystyle k\leq n}$ ${\displaystyle 1\leq i_{1}<\dots <i_{k}\leq n}$

${\displaystyle \mathrm {P} \left(\bigcap _{j=1}^{k}A_{i_{j}}\right)=\prod _{j=1}^{k}\mathrm {P} (A_{i_{j}})}$

式3

これは独立事象の乗法則と呼ばれます。これは、すべての単一事象の確率の積のみを含む単一の条件ではなく、すべての事象のサブセットに対して成立する必要があります。

2つ以上のイベントの場合、相互に独立したイベントの集合は（定義により）2つずつ独立していますが、その逆は必ずしも真ではありません。^{[2] : p. 30}

対数確率と情報量

対数確率の観点から述べると、2 つのイベントが独立している場合、その結合イベントの対数確率は個々のイベントの対数確率の合計になります。

${\displaystyle \log \mathrm {P} (A\cap B)=\log \mathrm {P} (A)+\log \mathrm {P} (B)}$

情報理論では、負の対数確率は情報内容として解釈されるため、結合されたイベントの情報内容が個々のイベントの情報内容の合計に等しい場合にのみ、2 つのイベントは独立しています。

${\displaystyle \mathrm {I} (A\cap B)=\mathrm {I} (A)+\mathrm {I} (B)}$

詳細については、情報コンテンツ § 独立イベントの加法性を参照してください。

実数値の確率変数の場合

2つのランダム変数

2つの確率変数とが独立である場合、かつその場合のみ、それらによって生成されるπシステムの要素は独立である。つまり、任意のおよびに対して、事象と事象は独立事象である（式1で定義）。つまり、累積分布関数とを用いて、およびが独立である場合、結合した確率変数が結合累積分布関数を持つ場合のみ、独立である^{[3] ：p. 15} ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle \{X\leq x\}}$ ${\displaystyle \{Y\leq y\}}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle F_{X}(x)}$ ${\displaystyle F_{Y}(y)}$ ${\displaystyle (X,Y)}$

${\displaystyle F_{X,Y}(x,y)=F_{X}(x)F_{Y}(y)\quad {\text{for all }}x,y}$

式4

あるいは、確率密度 と結合確率密度が存在する場合、 ${\displaystyle f_{X}(x)}$ ${\displaystyle f_{Y}(y)}$ ${\displaystyle f_{X,Y}(x,y)}$

${\displaystyle f_{X,Y}(x,y)=f_{X}(x)f_{Y}(y)\quad {\text{for all }}x,y.}$

2つ以上のランダム変数

有限個の確率変数の集合が対独立であるためには、すべての確率変数の対が独立である必要があります。確率変数の集合が対独立であっても、次に定義されるように、必ずしも相互に独立であるとは限りません。 ${\displaystyle n}$ ${\displaystyle \{X_{1},\ldots ,X_{n}\}}$

有限集合の確率変数が互いに独立であるためには、任意の数列 に対して、事象が互いに独立である必要がある（式3で定義したように）ことが必要である。これは、結合累積分布関数 における以下の条件と同値である。有限集合の確率変数が互いに独立であるためには、^{[3] が成り立つ必要がある：p. 16} ${\displaystyle n}$ ${\displaystyle \{X_{1},\ldots ,X_{n}\}}$ ${\displaystyle \{x_{1},\ldots ,x_{n}\}}$ ${\displaystyle \{X_{1}\leq x_{1}\},\ldots ,\{X_{n}\leq x_{n}\}}$ ${\displaystyle F_{X_{1},\ldots ,X_{n}}(x_{1},\ldots ,x_{n})}$ ${\displaystyle n}$ ${\displaystyle \{X_{1},\ldots ,X_{n}\}}$

${\displaystyle F_{X_{1},\ldots ,X_{n}}(x_{1},\ldots ,x_{n})=F_{X_{1}}(x_{1})\cdot \ldots \cdot F_{X_{n}}(x_{n})\quad {\text{for all }}x_{1},\ldots ,x_{n}}$

式5

ここでは、事象の場合のように、確率分布がすべての可能な- 元部分集合について因数分解されることを要求する必要はありません。これは、例えば がを意味するため、必須ではありません。 ${\displaystyle k}$ ${\displaystyle n}$ ${\displaystyle F_{X_{1},X_{2},X_{3}}(x_{1},x_{2},x_{3})=F_{X_{1}}(x_{1})\cdot F_{X_{2}}(x_{2})\cdot F_{X_{3}}(x_{3})}$ ${\displaystyle F_{X_{1},X_{3}}(x_{1},x_{3})=F_{X_{1}}(x_{1})\cdot F_{X_{3}}(x_{3})}$

測度論に興味のある読者は、上記の定義における事象を事象（ は任意のボレル集合 ）に置き換えることを好むかもしれない。この定義は、確率変数の値が実数である場合の上記の定義と全く同じである。この定義には、複素数値確率変数や、任意の測定可能空間（適切なσ-代数によって与えられた位相空間を含む）に値を取る確率変数にも適用できるという利点がある。 ${\displaystyle \{X\in A\}}$ ${\displaystyle \{X\leq x\}}$ ${\displaystyle A}$

実数値ランダムベクトルの場合

2つのランダムベクトルとが独立であるとは、 ^{[5] : p. 187の ときである。} ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{m})^{\mathrm {T} }}$ ${\displaystyle \mathbf {Y} =(Y_{1},\ldots ,Y_{n})^{\mathrm {T} }}$

${\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )=F_{\mathbf {X} }(\mathbf {x} )\cdot F_{\mathbf {Y} }(\mathbf {y} )\quad {\text{for all }}\mathbf {x} ,\mathbf {y} }$

式6

ここで、 とはの累積分布関数を表し、はそれらの結合累積分布関数を表します。 と の独立性は、しばしば と表されます。 成分ごとに書き、と が独立であると言えるのは、 ${\displaystyle F_{\mathbf {X} }(\mathbf {x} )}$ ${\displaystyle F_{\mathbf {Y} }(\mathbf {y} )}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \mathbf {X} \perp \!\!\!\perp \mathbf {Y} }$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$

${\displaystyle F_{X_{1},\ldots ,X_{m},Y_{1},\ldots ,Y_{n}}(x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n})=F_{X_{1},\ldots ,X_{m}}(x_{1},\ldots ,x_{m})\cdot F_{Y_{1},\ldots ,Y_{n}}(y_{1},\ldots ,y_{n})\quad {\text{for all }}x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n}.}$

確率過程の場合

一つの確率過程について

独立性の定義は、ランダムベクトルから確率過程へと拡張することができる。したがって、独立確率過程であるためには、任意の時点における過程をサンプリングして得られるランダム変数が、任意の に対して独立ランダム変数となることが要求される。^{[6] : p. 163} ${\displaystyle n}$ ${\displaystyle t_{1},\ldots ,t_{n}}$ ${\displaystyle n}$

正式には、確率過程は独立であるとは、すべての場合とすべての場合でのみ言える。 ${\displaystyle \left\{X_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle n\in \mathbb {N} }$ ${\displaystyle t_{1},\ldots ,t_{n}\in {\mathcal {T}}}$

${\displaystyle F_{X_{t_{1}},\ldots ,X_{t_{n}}}(x_{1},\ldots ,x_{n})=F_{X_{t_{1}}}(x_{1})\cdot \ldots \cdot F_{X_{t_{n}}}(x_{n})\quad {\text{for all }}x_{1},\ldots ,x_{n}}$

式7

ここで、確率過程の独立性は、確率過程内の特性であり、2つの確率過程間の特性ではありません。 ${\displaystyle F_{X_{t_{1}},\ldots ,X_{t_{n}}}(x_{1},\ldots ,x_{n})=\mathrm {P} (X(t_{1})\leq x_{1},\ldots ,X(t_{n})\leq x_{n})}$

2つの確率過程について

2つの確率過程の独立性とは、同じ確率空間上で定義される2つの確率過程との間の性質である。正式には、2つの確率過程とが独立であるとは、すべての に対して、すべての に対して、確率ベクトルとが独立であるときを言う。^{[7] : p. 515}すなわち、 ${\displaystyle \left\{X_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle \left\{Y_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ ${\displaystyle \left\{X_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle \left\{Y_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle n\in \mathbb {N} }$ ${\displaystyle t_{1},\ldots ,t_{n}\in {\mathcal {T}}}$ ${\displaystyle (X(t_{1}),\ldots ,X(t_{n}))}$ ${\displaystyle (Y(t_{1}),\ldots ,Y(t_{n}))}$

${\displaystyle F_{X_{t_{1}},\ldots ,X_{t_{n}},Y_{t_{1}},\ldots ,Y_{t_{n}}}(x_{1},\ldots ,x_{n},y_{1},\ldots ,y_{n})=F_{X_{t_{1}},\ldots ,X_{t_{n}}}(x_{1},\ldots ,x_{n})\cdot F_{Y_{t_{1}},\ldots ,Y_{t_{n}}}(y_{1},\ldots ,y_{n})\quad {\text{for all }}x_{1},\ldots ,x_{n}}$

式8

独立σ-代数

上記の定義（式1と式2 ）はどちらも、σ-代数の独立性の次の定義によって一般化されます。を確率空間とし、とを の2つの部分σ-代数とします。と が独立であるとは、と が次の条件を満たすとき言えます。 ${\displaystyle (\Omega ,\Sigma ,\mathrm {P} )}$ ${\displaystyle {\mathcal {A}}}$ ${\displaystyle {\mathcal {B}}}$ ${\displaystyle \Sigma }$ ${\displaystyle {\mathcal {A}}}$ ${\displaystyle {\mathcal {B}}}$ ${\displaystyle A\in {\mathcal {A}}}$ ${\displaystyle B\in {\mathcal {B}}}$

${\displaystyle \mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B).}$

同様に、σ-代数の有限族（ただし、は添え字集合）は、次の場合のみ独立であるという。 ${\displaystyle (\tau _{i})_{i\in I}}$ ${\displaystyle I}$

${\displaystyle \forall \left(A_{i}\right)_{i\in I}\in \prod \nolimits _{i\in I}\tau _{i}\ :\ \mathrm {P} \left(\bigcap \nolimits _{i\in I}A_{i}\right)=\prod \nolimits _{i\in I}\mathrm {P} \left(A_{i}\right)}$

そして、σ-代数の無限族は、その有限部分族がすべて独立である場合に独立であると言われる。

新しい定義は以前の定義と非常に直接的に関連しています。

• 二つの事象が（古い意味で）独立であるのは、それらが生成するσ-代数が（新しい意味で）独立である場合に限ります。ある事象によって生成されるσ-代数は、定義により、 ${\displaystyle E\in \Sigma }$

${\displaystyle \sigma (\{E\})=\{\emptyset ,E,\Omega \setminus E,\Omega \}.}$

• 上で定義された2つの確率変数とが独立である（古い意味で）ことと、それらが生成するσ-代数が独立である（新しい意味で）ことは同じである。ある測定可能な空間に値を取る確率変数によって生成されるσ-代数は、定義により、 の任意の測定可能な部分集合 の形をとるのすべての部分集合から構成される。 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \Omega }$ ${\displaystyle X}$ ${\displaystyle S}$ ${\displaystyle \Omega }$ ${\displaystyle X^{-1}(U)}$ ${\displaystyle U}$ ${\displaystyle S}$

この定義を用いると、とが確率変数でが定数である場合、とが独立であることが容易に示せます。これは、定数確率変数によって生成されるσ-代数は自明なσ-代数であるためです。確率ゼロ事象は独立性に影響を与えないため、がPrのみでほぼ確実に定数である場合にも独立性が成立します。 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Y}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \{\varnothing ,\Omega \}}$ ${\displaystyle Y}$

プロパティ

自立

イベントがそれ自身から独立している場合、そしてその場合のみ、

${\displaystyle \mathrm {P} (A)=\mathrm {P} (A\cap A)=\mathrm {P} (A)\cdot \mathrm {P} (A)\iff \mathrm {P} (A)=0{\text{ or }}\mathrm {P} (A)=1.}$

したがって、ある事象がほぼ確実に発生するか、その補事象がほぼ確実に発生する場合にのみ、ある事象はそれ自身から独立している。この事実は、ゼロ・ワン法則を証明するときに役立つ。^[8]

期待値と共分散

とが統計的に独立な確率変数である場合、期待値演算子は次の性質を持つ。 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \operatorname {E} }$

${\displaystyle \operatorname {E} [X^{n}Y^{m}]=\operatorname {E} [X^{n}]\operatorname {E} [Y^{m}],}$^{[9] : 10ページ}

そして共分散は ゼロである。 ${\displaystyle \operatorname {cov} [X,Y]}$

${\displaystyle \operatorname {cov} [X,Y]=\operatorname {E} [XY]-\operatorname {E} [X]\operatorname {E} [Y].}$

逆は成り立ちません。2 つのランダム変数の共分散が 0 の場合、それらは依然として独立ではない可能性があります。

同様に、2つの確率過程とについても、それらが独立であれば、それらは無相関である。^{[10] ：p.151} ${\displaystyle \left\{X_{t}\right\}_{t\in {\mathcal {T}}}}$ ${\displaystyle \left\{Y_{t}\right\}_{t\in {\mathcal {T}}}}$

特性関数

2つの確率変数とが独立であるとき、そしてその場合のみ、確率ベクトルの特性関数は ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle (X,Y)}$

${\displaystyle \varphi _{(X,Y)}(t,s)=\varphi _{X}(t)\cdot \varphi _{Y}(s).}$

特に、それらの合計の特性関数は、それらの周辺特性関数の積です。

${\displaystyle \varphi _{X+Y}(t)=\varphi _{X}(t)\cdot \varphi _{Y}(t),}$

ただし、逆の含意は真ではありません。後者の条件を満たす確率変数は、劣独立と呼ばれます。

例

サイコロを振る

サイコロを1回目に振って6が出るという事象と、2回目に6が出るという事象は独立しています。対照的に、サイコロを1回目に振って6が出るという事象と、1回目と2回目の試行で出た目の合計が8になるという事象は独立ではありません。

カードを引く

トランプのデッキから2枚のカードを交換して引く場合、最初の試行で赤いカードを引くという事象と、2回目の試行で赤いカードを引くという事象は独立しています。対照的に、トランプのデッキから2枚のカードを交換せずに引く場合、最初の試行で赤いカードを引くという事象と、2回目の試行で赤いカードを引くという事象は独立していません。これは、赤いカードが除去されたデッキでは、赤いカードの数が比例して少なくなるためです。

ペアワイズおよび相互独立性

互いに独立ではないが、互いに独立していないイベント

相互に独立したイベント

図に示す2つの確率空間を考えてみましょう。どちらの場合も、およびです。最初の空間の事象は、、、およびであるため、2つに1つずつ独立していますが、3つの事象は互いに独立ではありません。2番目の空間の事象は、2つに1つずつ独立しており、かつ互いに独立しています。この違いを説明するために、2つの事象に関する条件付けを考えてみましょう。2つに1つずつ独立している場合、いずれの事象も他の2つの事象とは独立していますが、他の2つの事象の交差とは独立していません。 ${\displaystyle \mathrm {P} (A)=\mathrm {P} (B)=1/2}$ ${\displaystyle \mathrm {P} (C)=1/4}$ ${\displaystyle \mathrm {P} (A|B)=\mathrm {P} (A|C)=1/2=\mathrm {P} (A)}$ ${\displaystyle \mathrm {P} (B|A)=\mathrm {P} (B|C)=1/2=\mathrm {P} (B)}$ ${\displaystyle \mathrm {P} (C|A)=\mathrm {P} (C|B)=1/4=\mathrm {P} (C)}$

${\displaystyle \mathrm {P} (A|BC)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {1}{40}}}}={\tfrac {4}{5}}\neq \mathrm {P} (A)}$

${\displaystyle \mathrm {P} (B|AC)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {1}{40}}}}={\tfrac {4}{5}}\neq \mathrm {P} (B)}$

${\displaystyle \mathrm {P} (C|AB)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {6}{40}}}}={\tfrac {2}{5}}\neq \mathrm {P} (C)}$

しかし、相互に独立した場合には、

${\displaystyle \mathrm {P} (A|BC)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {1}{16}}}}={\tfrac {1}{2}}=\mathrm {P} (A)}$

${\displaystyle \mathrm {P} (B|AC)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {1}{16}}}}={\tfrac {1}{2}}=\mathrm {P} (B)}$

${\displaystyle \mathrm {P} (C|AB)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {3}{16}}}}={\tfrac {1}{4}}=\mathrm {P} (C)}$

三重独立性はあるが、対独立性はない

3つのイベントの例を作成することが可能です。

${\displaystyle \mathrm {P} (A\cap B\cap C)=\mathrm {P} (A)\mathrm {P} (B)\mathrm {P} (C),}$

しかし、3つのイベントのうち2つは互いに独立ではありません（したがって、イベントの集合は相互に独立ではありません）。^[11]この例は、相互独立性には、この例のように単一のイベントだけでなく、すべてのイベントの組み合わせの確率の積に対する要件が含まれることを示しています。

条件付き独立

イベント用

事象と事象は、ある事象が与えられたときに 条件付きで独立である。 ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle C}$

${\displaystyle \mathrm {P} (A\cap B\mid C)=\mathrm {P} (A\mid C)\cdot \mathrm {P} (B\mid C)}$。

ランダム変数の場合

直感的に言えば、2つの確率変数とが条件付き独立であるのは、が既知であれば、 の値がに関する追加情報を追加しない場合です。例えば、同じ基礎量の2つの測定値と は独立ではありませんが、 が与えられれば条件付き独立です（2つの測定値の誤差が何らかの形で関連している場合を除く）。 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$ ${\displaystyle Z}$ ${\displaystyle Y}$ ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$ ${\displaystyle Z}$

条件付き独立性の正式な定義は、条件付き分布の考え方に基づいています。、、が離散確率変数である場合、次の式が成り立つとき、およびは条件付き独立であると定義されます。 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$

${\displaystyle \mathrm {P} (X\leq x,Y\leq y\;|\;Z=z)=\mathrm {P} (X\leq x\;|\;Z=z)\cdot \mathrm {P} (Y\leq y\;|\;Z=z)}$

全ての に対して であり、となる。一方、確率変数が連続で、結合確率密度関数を持つ場合、 と は、次の条件が満たされる場合に条件付き独立となる。 ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle z}$ ${\displaystyle \mathrm {P} (Z=z)>0}$ ${\displaystyle f_{XYZ}(x,y,z)}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$

${\displaystyle f_{XY|Z}(x,y|z)=f_{X|Z}(x|z)\cdot f_{Y|Z}(y|z)}$

すべての実数およびに対して、が成り立ちます。 ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle z}$ ${\displaystyle f_{Z}(z)>0}$

離散的とが条件付きで独立である場合、 ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$

${\displaystyle \mathrm {P} (X=x|Y=y,Z=z)=\mathrm {P} (X=x|Z=z)}$

任意の に対して、およびの場合に成り立ちます。つまり、および が与えられた場合の条件付き分布は、のみが与えられた場合の条件付き分布と同じです。連続の場合の条件付き確率密度関数についても同様の式が成り立ちます。 ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle z}$ ${\displaystyle \mathrm {P} (Z=z)>0}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle Z}$ ${\displaystyle Z}$

確率は、いかなる事象も与えられていない条件付き確率の一種として見ることができるため、独立性は、条件付き独立性の特別な種類として見ることができます。

歴史

1933年以前、確率論における独立性は言葉で定義されていました。例えば、ド・モアブルは次のように定義しました。「二つの事象が独立しているとは、互いに何ら関連性がなく、一方の事象の発生が他方の事象の発生を促進も阻害もしないことを意味する。」^[12] n個の独立した事象がある場合、それら全てが発生する確率は、これらn個の事象の確率の積として計算されました。この式は上記の定義の帰結であるという確信があったようです。（これは乗法定理と呼ばれることもありました。）もちろん、彼の主張の証明は、より正式な暗黙の仮定なしには成り立ちません。

この論文で示された独立性の定義は、1933年にコルモゴロフの確率の公理化の一部として登場して以来、標準的な定義（現在ではすべての書籍で使用されている）となった。^[13] コルモゴロフはこれをSNバーンスタインに帰し、1927年にロシア語で出版された出版物を引用した。^[14]

残念ながら、ベルンシュタインとコルモゴロフは共にゲオルク・ボルマンの研究を知らなかった。ボルマンは1901年に2事象について^[15]、1908年にはn事象について同じ定義を与えていた^[16]。後者の論文では、彼は自身の概念を詳細に研究した。例えば、彼は最初の例を挙げて、2事象独立性が相互独立性を意味しないことを確認した。今日でも、ボルマンの引用は稀である。彼の研究に関する詳細は、ウルリッヒ・クレンゲル著『ゲオルク・ボルマンの確率論への貢献について』^{[17]に記載されている。}

参照

• コピュラ（統計）
• 独立かつ同一分布の確率変数
• 平均依存性
• 正規分布と無相関は独立性を意味するものではない

参考文献

1. ラッセル、スチュアート、ノーヴィグ、ピーター (2002). 『人工知能：現代的アプローチ』プレンティス・ホール478頁. ISBN 0-13-790395-2。
2. フロレスク、イオナット (2014).確率と確率過程。ワイリー。ISBN 978-0-470-62455-5。
3. Gallager, Robert G. (2013).確率過程理論の応用. ケンブリッジ大学出版局. ISBN 978-1-107-03975-9。
4. Feller, W (1971). 「確率的独立性」.確率論とその応用入門. Wiley .
5. パプーリス、アタナシオス (1991).確率、ランダム変数、確率過程. MCGraw Hill. ISBN 0-07-048477-5。
6. Hwei, Piao (1997). 『確率、確率変数、および確率過程の理論と問題』 McGraw-Hill. ISBN 0-07-030644-3。
7. アモス・ラピドス（2017年2月8日）『デジタルコミュニケーションの基礎』ケンブリッジ大学出版局、ISBN 978-1-107-17732-1。
8. Durrett, Richard (1996).確率：理論と例（第2版）.62ページ
9. E Jakeman.散乱波の変動のモデリング. ISBN 978-0-7503-1005-5。
10. パーク・クン・イル (2018).確率過程の基礎と通信への応用. シュプリンガー. ISBN 978-3-319-68074-3。
11. ジョージ、グリン、「3つの事象の独立性の検定」、数学ガゼット88、2004年11月、568ページ。PDF
12. グリンステッドとスネルの『確率入門』を引用。CHANCEプロジェクト。2006年7月4日版。
13. アンドレイ、コルモゴロフ(1933)。 Grundbegriffe der Wahrscheinlichkeitsrechnung (ドイツ語)。ベルリン: Julius Springer翻訳: Kolmogorov、Andrey (1956)。翻訳:確率論の基礎 (第 2 版)。ニューヨーク：チェルシー。 ISBN 978-0-8284-0023-7。
14. SN Bernstein , 確率論（ロシア語）、モスクワ、1927年（4版、最新版1946年）
15. Georg Bohlmann : Lebensversicherungsmathematik、Encyklop¨adie der mathematischen Wissenschaften、Bd I、Teil 2、Artikel ID 4b (1901)、852–917
16. Georg Bohlmann : Die Grundbegriffe der Wahrscheinlichkeitsrechnung in ihrer Anwendung auf die Lebensversichrung, Atti del IV.会議内部。デイ・マテム。ロム、Bd. III (1908)、244–278。
17. de:Ulrich Krengel: ゲオルク・ボルマンの確率論への貢献について (PDF; 6.4 MB)、確率と統計の歴史に関する電子ジャーナル、2011年。

外部リンク

• ウィキメディア・コモンズの独立性（確率論）に関連するメディア

Retrieved from "https://en.wikipedia.org/w/index.php?title=Independence_(probability_theory)&oldid=1300651702"