Discrete probability distribution
確率質量関数
累積分布関数
表記法 B e t a B i n ( n , α , β ) {\displaystyle \mathrm {BetaBin} (n,\alpha ,\beta )} パラメータ n ∈ N 0 — 試行回数 ( 実数 ) ( 実数 ) α > 0 {\displaystyle \alpha >0} β > 0 {\displaystyle \beta >0} 支持度 x ∈ { 0, …, n } PMF ( n x ) B ( x + α , n − x + β ) B ( α , β ) {\displaystyle {\binom {n}{x}}{\frac {\mathrm {B} (x+\alpha ,n-x+\beta )}{\mathrm {B} (\alpha ,\beta )}}\!} は ベータ 関数 B ( x , y ) = Γ ( x ) Γ ( y ) Γ ( x + y ) {\displaystyle \mathrm {B} (x,y)={\frac {\Gamma (x)\,\Gamma (y)}{\Gamma (x+y)}}} CDF { 0 , x < 0 ( n x ) B ( x + α , n − x + β ) B ( α , β ) 3 F 2 ( a ; b ; x ) , 0 ≤ x < n 1 , x ≥ n {\displaystyle {\begin{cases}0,&x<0\\{\binom {n}{x}}{\tfrac {\mathrm {B} (x+\alpha ,n-x+\beta )}{\mathrm {B} (\alpha ,\beta )}}{}_{3}\!F_{2}({\boldsymbol {a}};{\boldsymbol {b}};x),&0\leq x<n\\1,&x\geq n\end{cases}}} ここで 3 F 2 ( a ; b ; x ) は 一般化超幾何関数 3 F 2 ( 1 , − x , n − x + β ; n − x + 1 , 1 − x − α ; 1 ) {\displaystyle {}_{3}\!F_{2}(1,-x,n\!-\!x\!+\!\beta ;n\!-\!x\!+\!1,1\!-\!x\!-\!\alpha ;1)\!} 平均 n α α + β {\displaystyle {\frac {n\alpha }{\alpha +\beta }}\!} 分散 n α β ( α + β + n ) ( α + β ) 2 ( α + β + 1 ) {\displaystyle {\frac {n\alpha \beta (\alpha +\beta +n)}{(\alpha +\beta )^{2}(\alpha +\beta +1)}}\!} 歪度 ( α + β + 2 n ) ( β − α ) ( α + β + 2 ) 1 + α + β n α β ( n + α + β ) {\displaystyle {\tfrac {(\alpha +\beta +2n)(\beta -\alpha )}{(\alpha +\beta +2)}}{\sqrt {\tfrac {1+\alpha +\beta }{n\alpha \beta (n+\alpha +\beta )}}}\!} 過剰尖度 本文参照 MGF 2 F 1 ( − n , α ; α + β ; 1 − e t ) {\displaystyle _{2}F_{1}(-n,\alpha ;\alpha +\beta ;1-e^{t})\!} は 超 幾何関数 2 F 1 {\displaystyle _{2}F_{1}} CF 2 F 1 ( − n , α ; α + β ; 1 − e i t ) {\displaystyle _{2}F_{1}(-n,\alpha ;\alpha +\beta ;1-e^{it})\!} PGF 2 F 1 ( − n , α ; α + β ; 1 − z ) {\displaystyle _{2}F_{1}(-n,\alpha ;\alpha +\beta ;1-z)\!}
確率論 と 統計学 において 、 ベータ二項分布は 、非負整数の 有限 台上の離散 確率分布 の族であり、一定または既知の回数の ベルヌーイ試行 における成功確率が未知またはランダムである場合に生じます。ベータ二項分布は、 n 回の試行における成功確率 が固定ではなく、 ベータ分布からランダムに抽出される 二項分布です。 ベイズ統計 、 経験ベイズ法 、 古典統計において、 二項分布型 データの 過分散を 捉えるために 頻繁に使用されます 。
ベータ二項分布は、ディリクレ多項分布 の1次元版です。 二項分布とベータ分布は、それぞれ 多項分布 と ディリクレ分布の1変量版です。α と βが 整数である 特別な場合は、 負の超幾何分布 としても知られています 。
動機と導出
複合分布として ベータ 分布は 二項分布 の 共役分布 です。この事実は、解析的に扱いやすい 複合分布 につながり、二項分布のパラメータはベータ分布からランダムに抽出されるものと 考えることができます。将来の試行 で 表が出る数を予測することに関心があるとします 。これは次のように表されます
。 p {\displaystyle p} x {\displaystyle x} n {\displaystyle n}
f ( x ∣ n , α , β ) = ∫ 0 1 B i n ( x | n , p ) B e t a ( p ∣ α , β ) d p = ( n x ) 1 B ( α , β ) ∫ 0 1 p x + α − 1 ( 1 − p ) n − x + β − 1 d p = ( n x ) B ( x + α , n − x + β ) B ( α , β ) . {\displaystyle {\begin{aligned}f(x\mid n,\alpha ,\beta )&=\int _{0}^{1}\mathrm {Bin} (x|n,p)\mathrm {Beta} (p\mid \alpha ,\beta )\,dp\\[6pt]&={n \choose x}{\frac {1}{\mathrm {B} (\alpha ,\beta )}}\int _{0}^{1}p^{x+\alpha -1}(1-p)^{n-x+\beta -1}\,dp\\[6pt]&={n \choose x}{\frac {\mathrm {B} (x+\alpha ,n-x+\beta )}{\mathrm {B} (\alpha ,\beta )}}.\end{aligned}}} ベータ関数 の特性を用いると 、これは次のようにも表すことができます
。
f ( x ∣ n , α , β ) = Γ ( n + 1 ) Γ ( x + α ) Γ ( n − x + β ) Γ ( n + α + β ) Γ ( x + 1 ) Γ ( n − x + 1 ) Γ ( α + β ) Γ ( α ) Γ ( β ) {\displaystyle f(x\mid n,\alpha ,\beta )={\frac {\Gamma (n+1)\Gamma (x+\alpha )\Gamma (n-x+\beta )}{\Gamma (n+\alpha +\beta )\Gamma (x+1)\Gamma (n-x+1)}}{\frac {\Gamma (\alpha +\beta )}{\Gamma (\alpha )\Gamma (\beta )}}}
壷モデルとして ベータ二項分布は、 α と β が 正の 整数である 壷モデル ( ポリア壷モデル)によっても説明できます。具体的には、 α 個の 赤いボールと β 個の 黒いボールが入った壷があり 、ランダムにボールが選ばれるとします。赤いボールが1つ見つかったら、赤いボール2つを壷に戻します。同様に、黒いボールが1つ見つかったら、黒いボール2つを壷に戻します。これを n回繰り返すと、 x 個の 赤いボールが見つかる確率は、パラメータ n 、 α 、 β を持つベータ二項分布に従います 。
対照的に、無作為抽出が単純置換(観測されたボール以外のボールが壷に追加されない)の場合、分布は二項分布に従い、無作為抽出が非置換で行われる場合、分布は 超幾何分布 に従います。
モーメントと特性 最初の3つの生の モーメント は
μ 1 = n α α + β μ 2 = n α [ n ( 1 + α ) + β ] ( α + β ) ( 1 + α + β ) μ 3 = n α [ n 2 ( 1 + α ) ( 2 + α ) + 3 n ( 1 + α ) β + β ( β − α ) ] ( α + β ) ( 1 + α + β ) ( 2 + α + β ) {\displaystyle {\begin{aligned}\mu _{1}&={\frac {n\alpha }{\alpha +\beta }}\\[8pt]\mu _{2}&={\frac {n\alpha [n(1+\alpha )+\beta ]}{(\alpha +\beta )(1+\alpha +\beta )}}\\[8pt]\mu _{3}&={\frac {n\alpha [n^{2}(1+\alpha )(2+\alpha )+3n(1+\alpha )\beta +\beta (\beta -\alpha )]}{(\alpha +\beta )(1+\alpha +\beta )(2+\alpha +\beta )}}\end{aligned}}} 尖度 は
β 2 = ( α + β ) 2 ( 1 + α + β ) n α β ( α + β + 2 ) ( α + β + 3 ) ( α + β + n ) [ ( α + β ) ( α + β − 1 + 6 n ) + 3 α β ( n − 2 ) + 6 n 2 − 3 α β n ( 6 − n ) α + β − 18 α β n 2 ( α + β ) 2 ] . {\displaystyle \beta _{2}={\frac {(\alpha +\beta )^{2}(1+\alpha +\beta )}{n\alpha \beta (\alpha +\beta +2)(\alpha +\beta +3)(\alpha +\beta +n)}}\left[(\alpha +\beta )(\alpha +\beta -1+6n)+3\alpha \beta (n-2)+6n^{2}-{\frac {3\alpha \beta n(6-n)}{\alpha +\beta }}-{\frac {18\alpha \beta n^{2}}{(\alpha +\beta )^{2}}}\right].} ここで、平均は次のように表せることを示唆的に指摘し ましょう。 p = α α + β {\displaystyle p={\frac {\alpha }{\alpha +\beta }}\!}
μ = n α α + β = n p {\displaystyle \mu ={\frac {n\alpha }{\alpha +\beta }}=np\!} 分散
σ 2 = n α β ( α + β + n ) ( α + β ) 2 ( α + β + 1 ) = n p ( 1 − p ) α + β + n α + β + 1 = n p ( 1 − p ) [ 1 + ( n − 1 ) ρ ] {\displaystyle \sigma ^{2}={\frac {n\alpha \beta (\alpha +\beta +n)}{(\alpha +\beta )^{2}(\alpha +\beta +1)}}=np(1-p){\frac {\alpha +\beta +n}{\alpha +\beta +1}}=np(1-p)[1+(n-1)\rho ]\!} ここで 、このパラメータ は「クラス内」または「クラスター内」相関として知られています。この正の相関が過分散を引き起こします。のとき 、ベータ変動と二項変動を区別するための情報がなく、2つのモデルの分散が等しいことに注意してください。 ρ = 1 α + β + 1 {\displaystyle \rho ={\tfrac {1}{\alpha +\beta +1}}\!} ρ {\displaystyle \rho \;\!} n = 1 {\displaystyle n=1}
因子モーメント ベータ二項分布確率変数 Xの r 次 因子 モーメントは
E [ ( X ) r ] = n ! ( n − r ) ! B ( α + r , β ) B ( α , β ) = ( n ) r B ( α + r , β ) B ( α , β ) {\displaystyle \operatorname {E} {\bigl [}(X)_{r}{\bigr ]}={\frac {n!}{(n-r)!}}{\frac {B(\alpha +r,\beta )}{B(\alpha ,\beta )}}=(n)_{r}{\frac {B(\alpha +r,\beta )}{B(\alpha ,\beta )}}} です。
点推定値
モーメント法 モーメント法による 推定 値は、ベータ二項分布の1次モーメントと2次モーメントに注目し、それらを標本モーメントとに等しく設定することで得られます 。 m 1 {\displaystyle m_{1}} m 2 {\displaystyle m_{2}}
α ^ = n m 1 − m 2 n ( m 2 m 1 − m 1 − 1 ) + m 1 β ^ = ( n − m 1 ) ( n − m 2 m 1 ) n ( m 2 m 1 − m 1 − 1 ) + m 1 . {\displaystyle {\begin{aligned}{\widehat {\alpha }}&={\frac {nm_{1}-m_{2}}{n({\frac {m_{2}}{m_{1}}}-m_{1}-1)+m_{1}}}\\[5pt]{\widehat {\beta }}&={\frac {(n-m_{1})(n-{\frac {m_{2}}{m_{1}}})}{n({\frac {m_{2}}{m_{1}}}-m_{1}-1)+m_{1}}}.\end{aligned}}} これらの推定値は無意味に負になる場合があり、これはデータが二項分布に対して分散していないか、分散が不足していることを示す証拠です。この場合、二項分布と 超幾何分布 がそれぞれ代替候補となります。
最尤推定 閉形式の 最尤推定 は、pdfが一般的な関数( ガンマ関数 および/またはベータ関数)で構成されていることを考えると実用的ではありませんが、直接数値最適化によって簡単に見つけることができます。経験データからの最尤推定値は、多項式ポリア分布を近似するための一般的な方法を使用して計算できます。その方法は、(Minka 2003)で説明されています。RパッケージVGAMは、関数vglmを介して最尤法を介して、ベータ二項分布に従って分布する応答を持つ glm 型モデルの近似を容易にします。観測全体を通してn を 固定する必要はありません
例:性比の異質性 以下のデータは、19世紀のザクセン州 の病院記録から抽出された6115世帯の13人家族の最初の12人の子供のうちの男児の数を示しています (Sokal and Rohlf、Lindseyの59ページ)。希望する性別に達した時点で家族がランダムに停止する影響を緩和するため、13人目の子供は無視されています。
男 0 1 2 3 4 5 6 7 8 9 10 11 12 世帯 3 24 104 286 670 1033 1343 1112 829 478 181 45 7
最初の2つのサンプルモーメントは
m 1 = 6.23 m 2 = 42.31 n = 12 {\displaystyle {\begin{aligned}m_{1}&=6.23\\m_{2}&=42.31\\n&=12\end{aligned}}} and therefore the method of moments estimates are
α ^ = 34.1350 β ^ = 31.6085. {\displaystyle {\begin{aligned}{\widehat {\alpha }}&=34.1350\\{\widehat {\beta }}&=31.6085.\end{aligned}}} The maximum likelihood estimates can be found numerically
α ^ m l e = 34.09558 β ^ m l e = 31.5715 {\displaystyle {\begin{aligned}{\widehat {\alpha }}_{\mathrm {mle} }&=34.09558\\{\widehat {\beta }}_{\mathrm {mle} }&=31.5715\end{aligned}}} and the maximized log-likelihood is
log L = − 12492.9 {\displaystyle \log {\mathcal {L}}=-12492.9} from which we find the AIC
A I C = 24989.74. {\displaystyle {\mathit {AIC}}=24989.74.} The AIC for the competing binomial model is AIC = 25070.34 and thus we see that the beta-binomial model provides a superior fit to the data ie there is evidence for overdispersion. Trivers and Willard postulate a theoretical justification for heterogeneity in gender-proneness among mammalian offspring.
The superior fit is evident especially among the tails
男 0 1 2 3 4 5 6 7 8 9 10 11 12 Observed Families 3 24 104 286 670 1033 1343 1112 829 478 181 45 7 Fitted Expected (Beta-Binomial) 2.3 22.6 104.8 310.9 655.7 1036.2 1257.9 1182.1 853.6 461.9 177.9 43.8 5.2 Fitted Expected (Binomial p = 0.519215) 0.9 12.1 71.8 258.5 628.1 1085.2 1367.3 1265.6 854.2 410.0 132.8 26.1 2.3
Role in Bayesian statistics ベータ二項分布は、データに基づいて推定したい ベルヌーイ成功確率のベイズ推定において重要な役割を果たします。 独立かつ同一分布 のベルヌーイ確率変数 の サンプル をとします 。 ベイズ流に、我々の知識は不確実であり、 事前分布 によってモデル化されていると仮定します。そして、 複利計算 によって 、 事前予測分布 は p {\displaystyle p} X = { X 1 , X 2 , ⋯ X n 1 } {\displaystyle \mathbf {X} =\{X_{1},X_{2},\cdots X_{n_{1}}\}} X i ∼ Bernoulli ( p ) {\displaystyle X_{i}\sim {\text{Bernoulli}}(p)} p {\displaystyle p} p ∼ Beta ( α , β ) {\displaystyle p\sim {\text{Beta}}(\alpha ,\beta )} Y 1 = ∑ i = 1 n 1 X i {\displaystyle Y_{1}=\sum _{i=1}^{n_{1}}X_{i}}
Y 1 ∼ BetaBin ( n 1 , α , β ) {\displaystyle Y_{1}\sim {\text{BetaBin}}(n_{1},\alpha ,\beta )} です。 観察後、 事後分布 が Y 1 {\displaystyle Y_{1}} p {\displaystyle p}
f ( p | X , α , β ) ∝ ( ∏ i = 1 n 1 p x i ( 1 − p ) 1 − x i ) p α − 1 ( 1 − p ) β − 1 = C p ∑ x i + α − 1 ( 1 − p ) n 1 − ∑ x i + β − 1 = C p y 1 + α − 1 ( 1 − p ) n 1 − y 1 + β − 1 {\displaystyle {\begin{aligned}f(p|\mathbf {X} ,\alpha ,\beta )&\propto \left(\prod _{i=1}^{n_{1}}p^{x_{i}}(1-p)^{1-x_{i}}\right)p^{\alpha -1}(1-p)^{\beta -1}\\&=Cp^{\sum x_{i}+\alpha -1}(1-p)^{n_{1}-\sum x_{i}+\beta -1}\\&=Cp^{y_{1}+\alpha -1}(1-p)^{n_{1}-y_{1}+\beta -1}\end{aligned}}} ここで は 正規化定数 です 。事後分布は であると 認識します 。 C {\displaystyle C} p {\displaystyle p} B e t a ( y 1 + α , n 1 − y 1 + β ) {\displaystyle \mathrm {Beta} (y_{1}+\alpha ,n_{1}-y_{1}+\beta )}
このように、再び複利計算により、 将来の標本サイズ の 確率 変数 の合計の 事後予測分布は Y 2 {\displaystyle Y_{2}} n 2 {\displaystyle n_{2}} B e r n o u l l i ( p ) {\displaystyle \mathrm {Bernoulli} (p)}
Y 2 ∼ B e t a B i n ( n 2 , y 1 + α , n 1 − y 1 + β ) {\displaystyle Y_{2}\sim \mathrm {BetaBin} (n_{2},y_{1}+\alpha ,n_{1}-y_{1}+\beta )} です。
確率変量の生成 ベータ二項確率変量を描画するには、 単に を描画して から を描画します 。 X ∼ B e t a B i n ( n , α , β ) {\displaystyle X\sim \mathrm {BetaBin} (n,\alpha ,\beta )} p ∼ B e t a ( α , β ) {\displaystyle p\sim \mathrm {Beta} (\alpha ,\beta )} X ∼ B ( n , p ) {\displaystyle X\sim \mathrm {B} (n,p)}
B e t a B i n ( 1 , α , β ) ∼ B e r n o u l l i ( p ) {\displaystyle \mathrm {BetaBin} (1,\alpha ,\beta )\sim \mathrm {Bernoulli} (p)\,} ここで 。 p = α α + β {\displaystyle p={\frac {\alpha }{\alpha +\beta }}\,} B e t a B i n ( n , 1 , 1 ) ∼ U ( 0 , n ) {\displaystyle \mathrm {BetaBin} (n,1,1)\sim U(0,n)\,} ここでは 離散一様分布 です 。 U ( a , b ) {\displaystyle U(a,b)\,} ならば X ∼ B e t a B i n ( n , α , β ) {\displaystyle X\sim \mathrm {BetaBin} (n,\alpha ,\beta )\,} ( n − X ) ∼ B e t a B i n ( n , β , α ) {\displaystyle (n-X)\sim \mathrm {BetaBin} (n,\beta ,\alpha )\,} lim s → ∞ B e t a B i n ( n , p s , ( 1 − p ) s ) ∼ B ( n , p ) {\displaystyle \lim _{s\rightarrow \infty }\mathrm {BetaBin} (n,ps,(1-p)s)\sim \mathrm {B} (n,p)\,} ここ でで あり 、は 二項分布 です 。 p = α α + β {\displaystyle p={\frac {\alpha }{\alpha +\beta }}\,} s = α + β {\displaystyle s=\alpha +\beta \,} B ( n , p ) {\displaystyle \mathrm {B} (n,p)\,} lim n → ∞ B e t a B i n ( n , n λ , n 2 ) ∼ P o i s ( λ ) {\displaystyle \lim _{n\rightarrow \infty }\mathrm {BetaBin} (n,n\lambda ,n^{2})\sim \mathrm {Pois} (\lambda )\,} ここでは ポアソン分布 です 。 P o i s ( λ ) {\displaystyle \mathrm {Pois} (\lambda )\,} lim n → ∞ B e t a B i n ( n , 1 , n p ( 1 − p ) ) ∼ G e o m ( p ) {\displaystyle \lim _{n\rightarrow \infty }\mathrm {BetaBin} (n,1,{\frac {np}{(1-p)}})\sim \mathrm {Geom} (p)\,} ここでは 幾何分布 です 。 G e o m ( p ) {\displaystyle \mathrm {Geom} (p)\,} lim n → ∞ B e t a B i n ( n , r , n p ( 1 − p ) ) ∼ N B ( r , p ) {\displaystyle \lim _{n\rightarrow \infty }\mathrm {BetaBin} (n,r,{\frac {np}{(1-p)}})\sim \mathrm {NB} (r,p)\,} ここでは 負の二項分布 です 。 N B ( r , p ) {\displaystyle \mathrm {NB} (r,p)\,}
参照
参考文献 Minka, Thomas P. (2003). Estimating a Dirichlet distribution. Microsoft Technical Report.
外部リンク ベータ二項分布を用いた生体認証デバイスの性能評価 Fastfitには、ベータ二項分布(2次元ポリア分布の形式)をデータにフィッティングするためのMatlabコードが含まれています。 インタラクティブグラフィック:単変量分布関係 VGAM Rパッケージのベータ二項関数 Sandia National Labs Cognitive Foundry Javaライブラリのベータ二項分布