ポアソン二項分布

Probability distribution

ポアソン二項分布
パラメータ	${\displaystyle \mathbf {p} \in [0,1]^{n}}$— n回の試行ごとの成功確率
サポート	k ∈ { 0, …, n  }
PMF	${\displaystyle \sum \limits _{A\in F_{k}}\prod \limits _{i\in A}p_{i}\prod \limits _{j\in A^{c}}(1-p_{j})}$
CDF	${\displaystyle \sum \limits _{l=0}^{k}\sum \limits _{A\in F_{l}}\prod \limits _{i\in A}p_{i}\prod \limits _{j\in A^{c}}(1-p_{j})}$
平均	${\displaystyle \sum \limits _{i=1}^{n}p_{i}}$
分散	${\displaystyle \sigma ^{2}=\sum \limits _{i=1}^{n}(1-p_{i})p_{i}}$
歪度	${\displaystyle {\frac {1}{\sigma ^{3}}}\sum \limits _{i=1}^{n}(1-2p_{i})(1-p_{i})p_{i}}$
過剰尖度	${\displaystyle {\frac {1}{\sigma ^{4}}}\sum \limits _{i=1}^{n}(1-6(1-p_{i})p_{i})(1-p_{i})p_{i}}$
MGF	${\displaystyle \prod \limits _{j=1}^{n}(1-p_{j}+p_{j}e^{t})}$
CF	${\displaystyle \prod \limits _{j=1}^{n}(1-p_{j}+p_{j}e^{it})}$
PGF	${\displaystyle \prod \limits _{j=1}^{n}(1-p_{j}+p_{j}z)}$

確率論と統計学において、ポアソン二項分布は、必ずしも同一の分布に従うとは限らない独立したベルヌーイ試行の和の離散確率分布 である。この概念はシメオン・ドニ・ポアソンにちなんで名付けられた。

言い換えれば、成功確率が であるn 個の独立した「はい/いいえ」実験の集合における成功数の確率分布です。通常の二項分布は、すべての成功確率が同じ、つまり であるポアソン二項分布の特殊なケースです。 ${\displaystyle p_{1},p_{2},\dots ,p_{n}}$ ${\displaystyle p_{1}=p_{2}=\cdots =p_{n}}$

定義

確率質量関数

合計n回の試行のうちk回が成功する確率は、次の合計として表される^[1]。

${\displaystyle \Pr(K=k)=\sum \limits _{A\in F_{k}}\prod \limits _{i\in A}p_{i}\prod \limits _{j\in A^{c}}(1-p_{j})}$

ここで、は から選択できるk個の整数の部分集合全体の集合です。例えば、n  = 3 の場合、はの補集合、つまり となります。 ${\displaystyle F_{k}}$ ${\displaystyle \{1,2,3,...,n\}}$ ${\displaystyle F_{2}=\left\{\{1,2\},\{1,3\},\{2,3\}\right\}}$ ${\displaystyle A^{c}}$ ${\displaystyle A}$ ${\displaystyle A^{c}=\{1,2,3,\dots ,n\}\smallsetminus A}$

${\displaystyle F_{k}}$には要素が含まれますが、試行回数nが小さい場合（例えばn  = 30 の場合、には 10 ²⁰を超える要素が含まれます）、その和を計算することは実際には不可能です。しかし、 を計算するより効率的な方法がいくつかあります。 ${\displaystyle n!/((n-k)!k!)}$ ${\displaystyle F_{15}}$ ${\displaystyle \Pr(K=k)}$

成功確率が1に等しくない限り、再帰式 ^{[2] [3]を使用して}k回の成功確率を計算できる。

${\displaystyle \Pr(K=k)={\begin{cases}\prod \limits _{i=1}^{n}(1-p_{i})&k=0\\{\frac {1}{k}}\sum \limits _{i=1}^{k}(-1)^{i-1}\Pr(K=k-i)T(i)&k>0\\\end{cases}}}$

どこ

${\displaystyle T(i)=\sum \limits _{j=1}^{n}\left({\frac {p_{j}}{1-p_{j}}}\right)^{i}.}$

再帰式は数値的に安定していないため、 がおよそ 20 より大きい場合は使用を避ける必要があります。 ${\displaystyle n}$

代替案としては、分割統治アルゴリズム を使用する方法があります。が 2 の累乗であると仮定し、のポアソン二項式と畳み込み演算子で表すと、 となります。 ${\displaystyle n=2^{b}}$ ${\displaystyle f(p_{i:j})}$ ${\displaystyle p_{i},\dots ,p_{j}}$ ${\displaystyle *}$ ${\displaystyle f(p_{1:2^{b}})=f(p_{1:2^{b-1}})*f(p_{2^{b-1}+1:2^{b}})}$

より一般的には、ポアソン二項分布の確率質量関数は、ベクトルの畳み込みとして表すことができます。この観察から、を計算する直接畳み込み（DC）アルゴリズムが導き出されます。 ${\displaystyle P_{1},\dots ,P_{n}}$ ${\displaystyle P_{i}=[1-p_{i},p_{i}]}$ ${\displaystyle \Pr(K=0)}$ ${\displaystyle \Pr(K=n)}$

// PMFとnextPMFはインデックス0から始まる関数DC( )は ${\displaystyle p_{1},\dots ,p_{n}}$  サイズ1の新しいPMF配列を宣言する PMF[0] = [1] i = 1の場合 ${\displaystyle n}$   サイズ i + 1 の新しい nextPMF 配列を宣言する 次のPMF[0] = (1 - ) * PMF[0] ${\displaystyle p_{i}}$ nextPMF[i] = * PMF[i - 1] k = 1からi - 1までnextPMF [k] = * PMF[k - 1] + (1 - ) * PMF[k] 繰り返し ${\displaystyle p_{i}}$ ${\displaystyle p_{i}}$ ${\displaystyle p_{i}}$ PMF = 次のPMF  PMF終了関数を繰り返して返す

${\displaystyle \Pr(K=k)}$PMF[k]にDCが見つかります。DCは数値的に安定かつ正確であり、ソフトウェアルーチンとして実装すると、 に対して非常に高速です。また、 の分布によっては、 が大きい場合でも非常に高速になります。^[4] ${\displaystyle n\leq 2000}$ ${\displaystyle n}$ ${\displaystyle p_{i}}$

もう一つの可能​​性は離散フーリエ変換を使うことである。^[5]

${\displaystyle \Pr(K=k)={\frac {1}{n+1}}\sum _{\ell =0}^{n}C^{-lk}\prod _{m=1}^{n}\left(1+(C^{\ell }-1)p_{m}\right)}$

ここで、および。 ${\displaystyle C=\exp \left({\frac {2i\pi }{n+1}}\right)}$ ${\displaystyle i={\sqrt {-1}}}$

その他の手法については、ChenとLiuによる「ポアソン二項分布と条件付きベルヌーイ分布の統計的応用」^{[6]やBiscarriらによる「ポアソン二項分布関数を計算するための簡単で高速な方法」 [4]}で説明されている。

累積分布関数

累積分布関数(CDF) は次のように表されます。

${\displaystyle \Pr(K\leq k)=\sum _{\ell =0}^{k}\sum _{A\in F_{\ell }}\prod _{i\in A}p_{i}\prod _{j\in A^{c}}(1-p_{j}),}$

ここで、は から選択できるサイズのすべてのサブセットの集合です。 ${\displaystyle F_{\ell }}$ ${\displaystyle \ell }$ ${\displaystyle \{1,2,3,\ldots ,n\}}$

これは、上記の DC 関数を呼び出して、返された PMF 配列に 要素を追加することで計算できます。 ${\displaystyle 0}$ ${\displaystyle k}$

プロパティ

平均と分散

ポアソン二項分布変数はn 個の独立したベルヌーイ分布変数の合計であるため、その平均と分散はn 個のベルヌーイ分布の平均と分散の合計になります。

${\displaystyle \mu =\sum \limits _{i=1}^{n}p_{i}}$

${\displaystyle \sigma ^{2}=\sum \limits _{i=1}^{n}(1-p_{i})p_{i}}$

エントロピ

ポアソン二項分布のエントロピーに関する単純な式は存在しないが、そのエントロピーは、同じ数値パラメータと同じ平均値を持つ二項分布のエントロピーよりも上方に制約される。したがって、そのエントロピーも、同じ平均値を持つポアソン分布のエントロピーよりも上方に制約される。^[7]

シェップ・オルキン凹性予想は、ローレンス・シェップとイングラム・オルキンが1981年に提唱したもので、ポアソン二項分布のエントロピーは成功確率の凹関数であるというものです。^[8]この予想は、2015年にエルワン・ヒリオンとオリバー・ジョンソンによって証明されました。^[9]シェップ・オルキン単調性予想も、同じく1981年の論文で提唱されたもので、すべての であれば、エントロピーは で単調増加するというものです。この予想も、2019年にヒリオンとジョンソンによって証明されました。^[10] ${\displaystyle p_{1},p_{2},\dots ,p_{n}}$ ${\displaystyle p_{i}}$ ${\displaystyle p_{i}\leq 1/2}$

チェルノフ行き

ポアソン二項分布が大きくなる確率は、次のようにそのモーメント生成関数を使用して制限できます（および任意の のとき有効）。 ${\displaystyle s\geq \mu }$ ${\displaystyle t>0}$

${\displaystyle {\begin{aligned}\Pr[S\geq s]&\leq \exp(-st)\operatorname {E} \left[\exp \left[t\sum _{i}X_{i}\right]\right]\\&=\exp(-st)\prod _{i}(1-p_{i}+e^{t}p_{i})\\&=\exp \left(-st+\sum _{i}\log \left(p_{i}(e^{t}-1)+1\right)\right)\\&\leq \exp \left(-st+\sum _{i}\log \left(\exp(p_{i}(e^{t}-1))\right)\right)\\&=\exp \left(-st+\sum _{i}p_{i}(e^{t}-1)\right)\\&=\exp \left(s-\mu -s\log {\frac {s}{\mu }}\right),\end{aligned}}}$

ここで を取った。これは二項分布の裾の境界に似ている。 ${\textstyle t=\log \left(s/\mu \right)}$

関連ディストリビューション

二項分布による近似

ポアソン二項分布は、 の平均が の成功確率である二項分布で近似できます。 と の分散は、次の式で表されます。 ${\displaystyle PB}$ ${\displaystyle B}$ ${\displaystyle \mu }$ ${\displaystyle p_{i}}$ ${\displaystyle B}$ ${\displaystyle PB}$ ${\displaystyle B}$

${\displaystyle \operatorname {Var} (PB)=\operatorname {Var} (B)-\sum _{i=1}^{n}(p_{i}-\mu )^{2}}$

ご覧のとおり、が に近いほど、つまりが均質化するほど、の分散は大きくなります。すべてのが に等しいとき、 は 、となり、分散は最大になります。^[1] ${\displaystyle p_{i}}$ ${\displaystyle \mu }$ ${\displaystyle p_{i}}$ ${\displaystyle PB}$ ${\displaystyle p_{i}}$ ${\displaystyle \mu }$ ${\displaystyle PB}$ ${\displaystyle B}$ ${\displaystyle \operatorname {Var} (PB)=\operatorname {Var} (B)}$

Ehmは、との全変動距離の境界値を決定し、実質的にで近似する際に生じる誤差の境界値を与えた。 とをとの全変動距離とする。すると、 ${\displaystyle PB}$ ${\displaystyle B}$ ${\displaystyle PB}$ ${\displaystyle B}$ ${\displaystyle \nu =1-\mu }$ ${\displaystyle d(PB,B)}$ ${\displaystyle PB}$ ${\displaystyle B}$

${\displaystyle d(PB,B)\leq (1-\mu ^{n+1}-\nu ^{n+1}){\frac {\sum _{i=1}^{n}(p_{i}-\mu )^{2}}{((n+1)\mu \nu )}}}$

${\displaystyle d(PB,B)\geq C\min \left\{\,1,{\frac {1}{n\mu \nu }}\,\right\}\sum _{i=1}^{n}(p_{i}-\mu )^{2}}$

どこ。 ${\displaystyle C\geq {\frac {1}{124}}}$

${\displaystyle d(PB,B)}$0に近づく場合、そしてその場合のみ1に近づく。^[11] ${\displaystyle \operatorname {Var} (PB)/\operatorname {Var} (B)}$

ポアソン分布による近似

ポアソン二項分布は、平均 のポアソン分布で近似することもできます。バーバーとホールは、 ${\displaystyle PB}$ ${\displaystyle Po}$ ${\displaystyle \lambda =\sum _{i=1}^{n}p_{i}}$

${\displaystyle {\frac {1}{32}}\min \left\{\,{\frac {1}{\lambda }},1\,\right\}\sum _{i=1}^{n}p_{i}^{2}\leq d(PB,Po)\leq {\frac {1-e^{-\lambda }}{\lambda }}\sum _{i=1}^{n}p_{i}^{2}}$

ここで、はおよびの全変動距離である。^[12]が小さいほど、を近似することがわかる。 ${\displaystyle d(PB,B)}$ ${\displaystyle PB}$ ${\displaystyle Po}$ ${\displaystyle p_{i}}$ ${\displaystyle Po}$ ${\displaystyle PB}$

および の場合、なので、ポアソン二項分布の分散は のポアソン分布によって上方に制限され 、 が小さいほど はに近くなります。 ${\displaystyle \operatorname {Var} (Po)=\lambda =\sum _{i=1}^{n}p_{i}}$ ${\displaystyle \operatorname {Var} (PB)=\sum \limits _{i=1}^{n}p_{i}-\sum \limits _{i=1}^{n}p_{i}^{2}}$ ${\displaystyle \operatorname {Var} (\mathrm {Po} )>\operatorname {Var} (PB)}$ ${\displaystyle \lambda =\sum _{i=1}^{n}p_{i}}$ ${\displaystyle p_{i}}$ ${\displaystyle \operatorname {Var} (\mathrm {Po} )}$ ${\displaystyle \operatorname {Var} (PB)}$

計算方法

文献^[13]では、ポアソン二項分布の確率質量関数を評価する手法について議論されています。以下のソフトウェア実装はこれに基づいています。

• 論文^[13]にはRパッケージpoibinが添付されており、これを用いてポアソン二項分布のC​​DF、PMF、分位関数、および乱数生成を計算できます。PMFの計算では、DFTアルゴリズムまたは再帰アルゴリズムを指定して正確なPMFを計算できるほか、正規分布とポアソン分布を用いた近似法も指定できます。
• poibin (Python 実装) は PMF と CDF を計算でき、そのために論文に記載されている DFT メソッドを使用します。

参照

• 数学ポータル

• ル・カムの定理

参考文献

1. Wang, YH (1993). 「独立試験における成功数について」(PDF) .中央統計局. 3 (2): 295– 312.
2. Shah, BK (1994). 「独立整数値確率変数の和の分布について」. American Statistician . 27 (3): 123– 124. JSTOR  2683639.
3. Chen, XH; AP Dempster; JS Liu (1994). 「エントロピーを最大化するための重み付き有限集団サンプリング」(PDF) . Biometrika . 81 (3): 457. doi :10.1093/biomet/81.3.457.
4. ウィリアム・ビスカリ、デイブ・チャオ、ロバート・J.・ブルナー (2018年6月1日). 「ポアソン二項分布関数を計算するためのシンプルで高速な方法」.計算統計とデータ分析. 122 : 92–100 . doi :10.1016/j.csda.2018.01.007. ISSN  0167-9473. OSTI  1548776.
5. Fernandez, M.; S. Williams (2010). 「ポアソン二項式確率密度関数の閉形式表現」. IEEE Transactions on Aerospace and Electronic Systems . 46 (2): 803– 817. Bibcode :2010ITAES..46..803F. doi :10.1109/TAES.2010.5461658. S2CID  1456258.
6. Chen, SX; JS Liu (1997). 「ポアソン–二項分布と条件付きベルヌーイ分布の統計的応用」.中央統計局. 7 : 875–892 .
7. Harremoës, P. (2001). 「最大エントロピー分布としての二項分布とポアソン分布」(PDF) . IEEE Transactions on Information Theory . 47 (5): 2039– 2041. Bibcode :2001ITIT...47.2039H. doi :10.1109/18.930936.
8. シェップ、ローレンス、オルキン、イングラム (1981). 「独立ベルヌーイ確率変数の和と多項式分布のエントロピー」. ガニ、J.、ロハトギ、VK (編).確率論への貢献：ユージン・ルカーチに捧げられた論文集. ニューヨーク: アカデミック・プレス. pp.  201– 206. ISBN 0-12-274460-8. MR  0618689。
9. ヒリオン, エルワン; ジョンソン, オリバー (2015年3月5日). 「シェップ・オルキンのエントロピー凹状予想の証明」.ベルヌーイ. 23 (4B): 3638– 3649. arXiv : 1503.01570 . doi :10.3150/16-BEJ860. S2CID  8358662.
10. ヒリオン, エルワン; ジョンソン, オリバー (2019年11月9日). 「シェップ・オルキンエントロピー単調性予想の証明」. Electronic Journal of Probability . 24 (126): 1– 14. arXiv : 1810.09791 . doi : 10.1214/19-EJP380 .
11. Ehm, Werner (1991-01-01). 「ポアソン二項分布の二項近似」 .統計と確率論文集. 11 (1): 7– 16. doi :10.1016/0167-7152(91)90170-V. ISSN  0167-7152.
12. Barbour, AD; Hall, Peter (1984). 「ポアソン収束速度について」(PDF) .ケンブリッジ哲学協会数学紀要. 95 (3): 473– 480. doi :10.1017/S0305004100061806.
13. Hong, Yili (2013年3月). 「ポアソン二項分布の分布関数の計算について」.計算統計とデータ分析. 59 : 41–51 . doi :10.1016/j.csda.2012.10.006.

Retrieved from "https://en.wikipedia.org/w/index.php?title=Poisson_binomial_distribution&oldid=1319234664"