確率変数代数

Mathematical technique

統計学において、確率変数代数は、確率論の数学的に高度な概念に深く入り込みすぎないようにしながら、確率変数の記号操作の規則を提供します。その記号体系により、確率変数の和、積、比、一般的な関数の扱いが可能になるだけでなく、確率分布やそのような組み合わせの期待値（または期待値）、分散、共分散を求めるなどの操作も扱うことができます

原則として、確率変数の初等代数は、従来の非確率変数（または決定論的変数）の初等代数と同等です。しかし、代数演算を実行した後に得られる確率変数の確率分布に生じる変化は単純ではありません。したがって、期待値、分散、共分散、モーメントなど、確率分布のさまざまな演算子の挙動は、記号代数を用いた確率変数の挙動とは異なる場合があります。これらの演算子ごとにいくつかの重要な規則を特定することができ、初等記号代数とは別に、期待代数、分散代数、共分散代数、モーメント代数など、確率変数のさまざまなタイプの代数が得られます。

確率変数の初等記号代数

2つの確率変数とを考えると、次の代数演算が可能です。 ${\displaystyle X}$ ${\displaystyle Y}$

• 加算： ${\displaystyle Z=X+Y=Y+X}$
• 減算： ${\displaystyle Z=X-Y=-Y+X}$
• 乗算： ${\displaystyle Z=XY=YX}$
• 除算：、と仮定します。 ${\displaystyle Y\neq 0}$ ${\displaystyle Z=X/Y=X\cdot (1/Y)=(1/Y)\cdot X}$
• べき乗： ${\displaystyle Z=X^{Y}=e^{Y\ln(X)}}$

すべての場合において、各演算の結果の変数は確率変数でもあります。従来の代数演算のすべての交換法則と結合法則は、確率変数にも当てはまります。確率変数のいずれかが決定論的変数または定数値に置き換えられても、以前のすべての性質は有効のままです。 ${\displaystyle Z}$

確率変数の期待値代数

2つの確率変数間の代数演算から得られる確率変数の期待値は、以下の規則を用いて計算できます。 ${\displaystyle \operatorname {E} [Z]}$ ${\displaystyle Z}$

• 加算： ${\displaystyle \operatorname {E} [Z]=\operatorname {E} [X+Y]=\operatorname {E} [X]+\operatorname {E} [Y]=\operatorname {E} [Y]+\operatorname {E} [X]}$
• 減算： ${\displaystyle \operatorname {E} [Z]=\operatorname {E} [X-Y]=\operatorname {E} [X]-\operatorname {E} [Y]=-\operatorname {E} [Y]+\operatorname {E} [X]}$
• 乗算：。特に、とが互いに独立している場合、次の式が成り立ちます。 ${\displaystyle \operatorname {E} [Z]=\operatorname {E} [XY]=\operatorname {E} [YX]}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \operatorname {E} [XY]=\operatorname {E} [X]\cdot \operatorname {E} [Y]=\operatorname {E} [Y]\cdot \operatorname {E} [X]}$
• 除算：。特に、とが互いに独立している場合、次の式が成り立ちます。 ${\displaystyle \operatorname {E} [Z]=\operatorname {E} [X/Y]=\operatorname {E} [X\cdot (1/Y)]=\operatorname {E} [(1/Y)\cdot X]}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \operatorname {E} [X/Y]=\operatorname {E} [X]\cdot \operatorname {E} [1/Y]=\operatorname {E} [1/Y]\cdot \operatorname {E} [X]}$
• べき乗： ${\displaystyle \operatorname {E} [Z]=\operatorname {E} [X^{Y}]=\operatorname {E} [e^{Y\ln(X)}]}$

確率変数のいずれかを決定論的変数または定数値（）に置き換えても、とを考慮して、以前の特性は有効なままです。したがって、次の式が成り立ちます。 ${\displaystyle k}$ ${\displaystyle \Pr(X=k)=1}$ ${\displaystyle \operatorname {E} [X]=k}$

が確率変数の一般的な非線形代数関数として定義されている場合、次の式が成り立ちます。 ${\displaystyle Z}$ ${\displaystyle f}$ ${\displaystyle X}$

$${\displaystyle \operatorname {E} [Z]=\operatorname {E} [f(X)]\neq f(\operatorname {E} [X])}$$

この特性の例としては、以下のものがあります。

• ${\displaystyle \operatorname {E} [X^{2}]\neq \operatorname {E} [X]^{2}}$
• ${\displaystyle \operatorname {E} [1/X]\neq 1/\operatorname {E} [X]}$
• ${\displaystyle \operatorname {E} [e^{X}]\neq e^{\operatorname {E} [X]}}$
• ${\displaystyle \operatorname {E} [\ln(X)]\neq \ln(\operatorname {E} [X])}$

非線形関数の期待値の正確な値は、確率変数の特定の確率分布に依存します。 ${\displaystyle X}$

確率変数の分散代数

確率変数間の代数演算から得られる確率変数の分散は、以下の規則を用いて計算できます。 ${\displaystyle \operatorname {Var} [Z]}$ ${\displaystyle Z}$

• 加算：特に、とが互いに独立している場合、次の式が成り立ちます $${\displaystyle \operatorname {Var} [Z]=\operatorname {Var} [X+Y]=\operatorname {Var} [X]+2\operatorname {Cov} [X,Y]+\operatorname {Var} [Y].}$$ ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle \operatorname {Var} [X+Y]=\operatorname {Var} [X]+\operatorname {Var} [Y].}$$
• 減算：特に、とが互いに独立している場合、次の式が成り立ちます。つまり、独立した確率変数の場合、分散は加算と減算で同じです。 $${\displaystyle \operatorname {Var} [Z]=\operatorname {Var} [X-Y]=\operatorname {Var} [X]-2\operatorname {Cov} [X,Y]+\operatorname {Var} [Y].}$$ ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle \operatorname {Var} [X-Y]=\operatorname {Var} [X]+\operatorname {Var} [Y].}$$ $${\displaystyle \operatorname {Var} [X+Y]=\operatorname {Var} [X-Y]=\operatorname {Var} [Y-X]=\operatorname {Var} [-X-Y].}$$
• 乗算：特に、とが互いに独立している場合、次の式が成り立ちます。 $${\displaystyle \operatorname {Var} [Z]=\operatorname {Var} [XY]=\operatorname {Var} [YX].}$$ ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle {\begin{aligned}\operatorname {Var} [XY]&=\operatorname {E} [X^{2}]\cdot \operatorname {E} [Y^{2}]-{\left(\operatorname {E} [X]\cdot \operatorname {E} [Y]\right)}^{2}\\[2pt]&=\operatorname {Var} [X]\cdot \operatorname {Var} [Y]+\operatorname {Var} [X]\cdot {\left(\operatorname {E} [Y]\right)}^{2}+\operatorname {Var} [Y]\cdot {\left(\operatorname {E} [X]\right)}^{2}.\end{aligned}}}$$
• 除算：特に、とが互いに独立している場合、次の式が成り立ちます。 $${\displaystyle \operatorname {Var} [Z]=\operatorname {Var} [X/Y]=\operatorname {Var} [X\cdot (1/Y)]=\operatorname {Var} [(1/Y)\cdot X].}$$ ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle {\begin{aligned}\operatorname {Var} [X/Y]&=\operatorname {E} [X^{2}]\cdot \operatorname {E} [1/Y^{2}]-{\left(\operatorname {E} [X]\cdot \operatorname {E} [1/Y]\right)}^{2}\\[2pt]&=\operatorname {Var} [X]\cdot \operatorname {Var} [1/Y]+\operatorname {Var} [X]\cdot {\left(\operatorname {E} [1/Y]\right)}^{2}+\operatorname {Var} [1/Y]\cdot {\left(\operatorname {E} [X]\right)}^{2}.\end{aligned}}}$$
• べき乗： $${\displaystyle \operatorname {Var} [Z]=\operatorname {Var} [X^{Y}]=\operatorname {Var} [e^{Y\ln(X)}]}$$

ここで、は確率変数と間の共分散演算子を表します。 ${\displaystyle \operatorname {Cov} [X,Y]=\operatorname {Cov} [Y,X]}$ ${\displaystyle X}$ ${\displaystyle Y}$

確率変数の分散は、共分散または期待値で直接表すこともできます

$${\displaystyle \operatorname {Var} [X]=\operatorname {Cov} (X,X)=\operatorname {E} [X^{2}]-\operatorname {E} [X]^{2}}$$

確率変数のいずれかが決定論的変数または定数値（ ）に置き換えられた場合でも、および、およびを考慮すると、以前の特性は有効のままです。特殊なケースとして、確率変数と決定論的変数または定数との加算と乗算があります。ここで： ${\displaystyle k}$ ${\displaystyle \Pr(X=k)=1}$ ${\displaystyle \operatorname {E} [X]=k}$ ${\displaystyle \operatorname {Var} [X]=0}$ ${\displaystyle \operatorname {Cov} [Y,k]=0}$

• ${\displaystyle \operatorname {Var} [k+Y]=\operatorname {Var} [Y]}$
• ${\displaystyle \operatorname {Var} [kY]=k^{2}\operatorname {Var} [Y]}$

が確率変数の一般的な非線形代数関数として定義されている場合、次の式が成り立ちます。 ${\displaystyle Z}$ ${\displaystyle f}$ ${\displaystyle X}$

$${\displaystyle \operatorname {Var} [Z]=\operatorname {Var} [f(X)]\neq f(\operatorname {Var} [X])}$$

非線形関数の分散の正確な値は、確率変数の特定の確率分布に依存します。 ${\displaystyle X}$

確率変数の共分散代数

代数演算から得られる確率変数と確率変数間の共分散（）は、次の規則を使用して計算できます。 ${\displaystyle \operatorname {Cov} [Z,X]}$ ${\displaystyle Z}$ ${\displaystyle X}$

• 加算：と が互いに独立している場合、次のようになります。 $${\displaystyle \operatorname {Cov} [Z,X]=\operatorname {Cov} [X+Y,X]=\operatorname {Var} [X]+\operatorname {Cov} [X,Y].}$$ ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle \operatorname {Cov} [X+Y,X]=\operatorname {Var} [X].}$$
• 減算：と が互いに独立している場合、次のようになります。 $${\displaystyle \operatorname {Cov} [Z,X]=\operatorname {Cov} [X-Y,X]=\operatorname {Var} [X]-\operatorname {Cov} [X,Y].}$$ ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle \operatorname {Cov} [X-Y,X]=\operatorname {Var} [X].}$$
• 乗算：と が互いに独立している場合、次のようになります。 $${\displaystyle \operatorname {Cov} [Z,X]=\operatorname {Cov} [XY,X]=\operatorname {E} [X^{2}Y]-\operatorname {E} [XY]\operatorname {E} [X].}$$ ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle \operatorname {Cov} [XY,X]=\operatorname {Var} [X]\cdot \operatorname {E} [Y].}$$
• 除算（分子に関する共分散）：と が互いに独立している場合、次のようになります $${\displaystyle \operatorname {Cov} [Z,X]=\operatorname {Cov} [X/Y,X]=\operatorname {E} [X^{2}/Y]-\operatorname {E} [X/Y]\operatorname {E} [X].}$$ ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle \operatorname {Cov} [X/Y,X]=\operatorname {Var} [X]\cdot \operatorname {E} [1/Y].}$$
• 除算（分母に関する共分散）：とが互いに独立している場合、次の式が成り立ちます。 $${\displaystyle \operatorname {Cov} [Z,X]=\operatorname {Cov} [Y/X,X]=\operatorname {E} [Y]-\operatorname {E} [Y/X]\operatorname {E} [X].}$$ ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle \operatorname {Cov} [Y/X,X]=\operatorname {E} [Y]\cdot (1-\operatorname {E} [X]\cdot \operatorname {E} [1/X]).}$$
• べき乗（底に関する共分散）： $${\displaystyle \operatorname {Cov} [Z,X]=\operatorname {Cov} [X^{Y},X]=\operatorname {E} [X^{Y+1}]-\operatorname {E} [X^{Y}]\operatorname {E} [X].}$$
• べき乗（べき乗に関する共分散）： $${\displaystyle \operatorname {Cov} [Z,X]=\operatorname {Cov} [Y^{X},X]=\operatorname {E} [XY^{X}]-\operatorname {E} [Y^{X}]\operatorname {E} [X].}$$

確率変数の共分散は、期待値で直接表すこともできます。

$${\displaystyle \operatorname {Cov} (X,Y)=\operatorname {E} [XY]-\operatorname {E} [X]\operatorname {E} [Y]}$$

確率変数のいずれかを決定論的変数または定数値（）に置き換えた場合でも ${\displaystyle k}$、、およびを考慮して、以前の特性は有効です。 ${\displaystyle \operatorname {E} [k]=k}$ ${\displaystyle \operatorname {Var} [k]=0}$ ${\displaystyle \operatorname {Cov} [X,k]=0}$

が確率変数の一般的な非線形代数関数として定義されている場合、次の式が成り立ちます。 ${\displaystyle Z}$ ${\displaystyle f}$ ${\displaystyle X}$

$${\displaystyle \operatorname {Cov} [Z,X]=\operatorname {Cov} [f(X),X]=\operatorname {E} [Xf(X)]-\operatorname {E} [f(X)]\operatorname {E} [X]}$$

非線形関数の共分散の正確な値は、確率変数の特定の確率分布に依存します。 ${\displaystyle X}$

モーメントのテイラー級数展開による近似

ある確率変数のモーメントが既知である場合（または確率密度関数が既知であれば積分によって決定できる場合）、一般的な非線形関数の期待値を、次のようにモーメントのテイラー展開として近似することが可能です。 ${\displaystyle X}$ ${\displaystyle f(X)}$

$${\displaystyle f(X)=\sum _{n=0}^{\infty }{\frac {1}{n!}}\left({\frac {d^{n}f}{dX^{n}}}\right)_{X=\mu }{\left(X-\mu \right)}^{n},}$$ここで はの平均値です ${\displaystyle \mu =\operatorname {E} [X]}$ ${\displaystyle X}$

$${\displaystyle {\begin{aligned}\operatorname {E} [f(X)]&=\operatorname {E} \left[\sum _{n=0}^{\infty }{\frac {1}{n!}}\left({d^{n}f \over dX^{n}}\right)_{X=\mu }{\left(X-\mu \right)}^{n}\right]\\&=\sum _{n=0}^{\infty }{\frac {1}{n!}}\left({\frac {d^{n}f}{dX^{n}}}\right)_{X=\mu }\operatorname {E} \left[{\left(X-\mu \right)}^{n}\right]\\&=\sum _{n=0}^{\infty }{\frac {1}{n!}}\left({d^{n}f \over dX^{n}}\right)_{X=\mu }\mu _{n}(X),\end{aligned}}}$$ここで、は平均のn次のモーメントです。定義により、およびであることに注意してください。1次の項は常にゼロになりますが、閉じた形の式を得るために保持されています。 ${\displaystyle \mu _{n}(X)=\operatorname {E} [(X-\mu )^{n}]}$ ${\displaystyle X}$ ${\displaystyle \mu _{0}(X)=1}$ ${\displaystyle \mu _{1}(X)=0}$

そして、

$${\displaystyle \operatorname {E} [f(X)]\approx \sum _{n=0}^{n_{\max }}{\frac {1}{n!}}\left({\frac {d^{n}f}{dX^{n}}}\right)_{X=\mu }\mu _{n}(X),}$$ここで、テイラー展開は-次のモーメント以降は切り捨てられます。 ${\displaystyle n_{\max }}$

特に正規確率変数の関数については、標準正規分布を用いてテイラー展開を行うことができます。^[1]

$${\displaystyle f(X)=\sum _{n=0}^{\infty }{\frac {\sigma ^{n}}{n!}}\left({\frac {d^{n}f}{dX^{n}}}\right)_{X=\mu }\mu _{n}(Z),}$$ここで、は正規確率変数であり、 は標準正規分布です。したがって、 ${\displaystyle X\sim N(\mu ,\sigma ^{2})}$ ${\displaystyle Z\sim N(0,1)}$

$${\displaystyle \operatorname {E} [f(X)]\approx \sum _{n=0}^{n_{\max }}{\sigma ^{n} \over n!}\left({d^{n}f \over dX^{n}}\right)_{X=\mu }\mu _{n}(Z),}$$ここで、標準正規分布のモーメントは次のように与えられます。

$${\displaystyle \mu _{n}(Z)={\begin{cases}\prod _{i=1}^{n/2}(2i-1),&{\text{if }}n{\text{ is even}}\\0,&{\text{if }}n{\text{ is odd}}\end{cases}}}$$

同様に、正規確率変数の場合、非線形関数の分散をテイラー級数展開として近似することも可能です。

$${\displaystyle \operatorname {Var} [f(X)]\approx \sum _{n=1}^{n_{\max }}\left({\sigma ^{n} \over n!}\left({d^{n}f \over dX^{n}}\right)_{X=\mu }\right)^{2}\operatorname {Var} [Z^{n}]+\sum _{n=1}^{n_{\max }}\sum _{m\neq n}{\frac {\sigma ^{n+m}}{n!m!}}\left({d^{n}f \over dX^{n}}\right)_{X=\mu }\left({d^{m}f \over dX^{m}}\right)_{X=\mu }\operatorname {Cov} [Z^{n},Z^{m}],}$$ここで、 $${\displaystyle \operatorname {Var} [Z^{n}]={\begin{cases}\prod _{i=1}^{n}(2i-1)-\prod _{i=1}^{n/2}(2i-1)^{2},&{\text{if }}n{\text{ is even}}\\\prod _{i=1}^{n}(2i-1),&{\text{if }}n{\text{ is odd}},\end{cases}}}$$ $${\displaystyle \operatorname {Cov} [Z^{n},Z^{m}]={\begin{cases}\prod _{i=1}^{(n+m)/2}(2i-1)-\prod _{i=1}^{n/2}(2i-1)\prod _{j=1}^{m/2}(2j-1),&{\text{if }}n{\text{ and }}m{\text{ are even}}\\\prod _{i=1}^{(n+m)/2}(2i-1),&{\text{if }}n{\text{ and }}m{\text{ are odd}}\\0,&{\text{otherwise}}\end{cases}}}$$

複素確率変数の代数

確率論の代数的 公理化において、主要な概念は事象の確率ではなく、確率変数の概念です。確率分布は、各確率変数に期待値を割り当てることによって決定されます。測定空間と確率測度は、よく知られた解析学の表現定理を用いて、確率変数と期待値から生じます。代数的アプローチの重要な特徴の1つは、一見無限次元の確率分布は有限次元の確率分布よりも形式化が難しくないということです。

確率変数は、以下の特性を持つと仮定されます。

1. 複素定数は、確率変数の可能な実現値です。
2. 2つの確率変数の和は確率変数です。
3. 2つの確率変数の積は確率変数です。
4. 確率変数の加算と乗算はどちらも可換です。そして
5. 確率変数の共役の概念があり、すべての確率変数X、Yに対して( XY ) ^* = Y ^* X ^*およびX ^** = X を満たし、 Xが定数である場合は複素共役と一致する。

これは、確率変数が複素可換*-代数を形成することを意味する。X = X ^*の場合、確率変数Xは「実」と呼ばれる。

確率変数の代数A上の期待値Eは、正規化された正の線型汎関数である。これは、

1. E[ k ] = k （kは定数）である。
2. すべての確率変数Xに対してE[ X ^* X ] ≥ 0 である
3. すべての確率変数XとYについて、 E[ X + Y ] = E[ X ] + E[ Y ]。そして
4. kが定数の場合、 E[ kX ] = k E[ X ]

この設定を一般化して、代数を非可換にすることができます。これは、量子確率、 ランダム行列理論、自由確率など、非可換確率の他の分野につながります。

参照

• 確率分布間の関係
• 比分布
  • コーシー分布
  • スラッシュ分布
• 逆分布
• 積分布
• メリン変換
• 正規分布する確率変数の和
• 確率分布の畳み込みの一覧–独立した確率変数の和の確率測度は、それらの確率測度の畳み込みです。
• 全期待値の法則
• 全分散の法則
• 全共分散の法則
• 全キュムランスの法則
• 確率変数の関数のモーメントのテイラー展開
• デルタ法

参考文献

1. Hernandez, Hugo (2016). 「分散代数を用いた非線形システムにおける変動の影響のモデル化 - 理想気体の光散乱への応用」ForsChem Research Reports . 2016– 1. doi :10.13140/rg.2.2.36501.52969.

参考文献

• Whittle, Peter (2000). Probability via Expectation (4th ed.). New York, NY: Springer. ISBN 978-0-387-98955-62012年9月24日閲覧.
• Springer, Melvin Dale (1979). The Algebra of Random Variables. Wiley . ISBN 0-471-01406-02012年9月24日閲覧.
• 「測度代数」、数学百科事典、EMS Press、2001年 [1994]

Retrieved from "https://en.wikipedia.org/w/index.php?title=Algebra_of_random_variables&oldid=1304763602"