ベータ分布

ベータ
確率密度関数
ベータ分布の確率密度関数
累積分布関数
ベータ分布の累積分布関数
表記 ベータ( α , β )
パラメータα > 0形状(実数) β > 0形状(実数)
サポートまたは
PDFここで、はガンマ関数です
CDF

正規化不完全ベータ関数
平均

幾何平均の項を参照)

二重ガンマ関数は どこにありますか
中央値
最頻値

αβ > 1 の場合

α = β = 1 の領域内の任意の値

α <1またはβ <1 の場合、モードは存在しない。密度は発散する。

α ≤ 1 の場合は0 、 β ≤ 1の場合は1
分散トリガンマ関数および幾何分散のセクションを参照)
歪度
過剰尖度
エントロピー
MGF
CF合流型超幾何関数を参照)
フィッシャー情報量フィッシャー情報量行列のセクションを参照
モーメント法

確率論統計学において、ベータ分布は、アルファ( α ) とベータ( β )で表される2 つの正のパラメータによって区間 [0, 1] または (0, 1) で定義される連続確率分布の族です。これらのパラメータは、それぞれ変数の指数と 1 の補数として表示され、分布の形状を制御します。

ベータ分布は、様々な分野において、有限長の区間に限定された確率変数の挙動をモデル化するために応用されてきました。ベータ分布は、パーセンテージや割合のランダムな挙動に適したモデルです。

ベイズ推論では、ベータ分布はベルヌーイ分布、二項分布負の二項分布、および幾何分布の共役事前確率分布です。

ここで論じるベータ分布の定式化は、第一種ベータ分布とも呼ばれ、第二種ベータ分布はベータプライム分布の別名です。多変数への一般化はディリクレ分布と呼ばれます。

定義

確率密度関数

さまざまなパラメータ値に対するベータ分布のアニメーション。

ベータ分布の確率密度関数 (PDF)、または、形状パラメータ、は、次のように変数とその反射のべき関数です。

ここではガンマ関数です。ベータ関数 は、全体の確率が1になることを保証する正規化定数です。上記の式では、 は確率変数実現値(実際に発生した観測値)です。

NL JohnsonS. Kotzなど[ 1 ]の著者は、ベータ分布の形状パラメータとして、記号と(および の代わりに)を使用しています。これは、形状パラメータ と の両方が0に近づくと、極限でベータ分布がベルヌーイ分布に近づくため、ベルヌーイ分布のパラメータに伝統的に使用される記号を連想させます。

以下では、パラメータを持つベータ分布に従う確率変数を次のように表記する: [ 2 ] [ 3 ]

統計文献で使用されているベータ分布に従う確率変数の他の表記法は[ 4 ][ 5 ]である。

累積分布関数

対称ベータ分布の累積分布関数(CDF)対x、  α  =  β
歪んだベータ分布のCDF対xおよび β  =

累積分布関数

ここでは不完全ベータ関数であり、は正規化された不完全ベータ関数です。

正の整数αβに対して、ベータ分布の累積分布関数は二項分布の累積分布関数で表される。[ 6 ]

代替パラメータ化

2つのパラメータ

平均と標本サイズ

ベータ分布は、その平均μ (0 < μ < 1)と 2 つの形状パラメータの合計ν = α + β > 0 ( [ 3 ] p. 83) で再パラメータ化することもできます。ベイズの定理を二項尤度関数と事前確率に適用した結果の事後ベータ分布の形状パラメータを αPosterior と βPosterior で表すと、両方の形状パラメータの加算がサンプルサイズ = ν = α ·Posterior + β ·Posterior であると解釈できるのは、ハルデン事前確率 Beta(0,0) の場合のみです。具体的には、ベイズ (一様) 事前確率 Beta(1,1) の場合、正しい解釈はサンプルサイズ = α ·Posterior + β Posterior − 2、つまり ν = (サンプルサイズ) + 2 となります。サンプルサイズ 2よりはるかに大きい場合、これら 2 つの事前確率の差は無視できるようになります。 (詳細については、ベイズ推論のセクションを参照してください。) ν = α + βはベータ分布の「サンプル サイズ」と呼ばれますが、厳密に言えば、ベイズの定理で Haldane Beta(0,0) 事前分布を使用する場合にのみ、二項尤度関数の「サンプル サイズ」となることを覚えておく必要があります。

このパラメータ化は、ベイズパラメータ推定において有用である。例えば、複数の個人にテストを実施する場合を考える。各個人のスコア(0 ≤ θ ≤ 1)が母集団レベルのベータ分布から得られると仮定すると、重要な統計量はこの母集団レベルの分布の平均となる。平均パラメータとサンプルサイズパラメータは、形状パラメータαおよびβ[ 3 ]の関係にある。

α = μνβ = (1 − μ ) ν

このパラメータ化では、平均値に対しては情報価値のない事前確率を、正の実数に対してはサンプル サイズが独立しており、事前データや信念によって正当化される場合は漠然とした事前確率 (指数分布やガンマ分布など) を置くことができます。

モードと集中

凹型ベータ分布は、モードと「濃度」によってパラメータ化できます。モード、および濃度、は、通常の形状パラメータを次のように定義するために使用できます。[ 7 ] モード、を明確に定義するには、、または同等の が必要です。代わりに濃度を と定義すると、条件は に簡略化され、におけるベータ密度は次のように表すことができます。 ここで、 は十分な統計量、および を直接スケーリングします。また、 の極限では、分布が平坦になることにも注意してください。

平均と分散

上記のセクションでベータ分布の平均と分散の方程式として示した連立方程式を、元のパラメータαβを用いて解くと、 αβのパラメータを平均( μ)と分散(var)を 用いて表すことができます

ベータ分布のこのパラメータ化は、元のパラメータαβに基づくものよりも直感的な理解につながる可能性があります。例えば、モード、歪度、過剰尖度、微分エントロピーを平均と分散で表すと、次のようになります。

4つのパラメータ

2つの形状パラメータαβを持つベータ分布は、範囲[0,1]または(0,1)でサポートされます。分布の位置とスケールを変更するには、分布の最小値aと最大値c(c > a)を表す2つのパラメータを追加し次元変数x新しい変数y( サポート[ a , c ]または( a , c ))とパラメータaおよびcに置き換える線形変換によって変更し ます

4 パラメータのベータ分布の確率密度関数は、2 パラメータの分布に等しく、範囲 ( c  −  a ) でスケーリングされます (密度曲線の下の合計面積が確率 1 に等しくなります)。また、"y" 変数は次のようにシフトされ、スケーリングされます。

ランダム変数Yが 4 つのパラメータαβacを持つベータ分布に従うことは次のように表されます。

中心位置のいくつかの尺度は、次のように((c  −  a)によって)スケーリングされ、(aによって)シフトされます。

注意: 幾何平均と調和平均は、平均値、中央値、最頻値のように線形変換では変換できません。

Yの形状パラメータは平均と分散で次のように表される。

統計的分散尺度は、範囲( c  −  a)によって、平均偏差については線形に、分散については非線形に スケーリングされます(すでに平均を中心としているのでシフトする必要はありません) 。

歪度過剰尖度は無次元量(平均を中心とし標準偏差で正規化されたモーメント)であるため、パラメータacとは独立しており、したがって上記のXに関する式(サポート[0,1]または(0,1))と等しくなります。

性質

中心傾向の尺度

最頻値

α , β > 1のベータ分布に従う確率変数Xの最頻値、分布の最も可能性の高い値(PDF のピークに対応)であり、次の式で表されます。[ 1 ]

両方のパラメータが1未満(αβ <1)の場合、これは反モード、つまり確率密度曲線の最低点です。[ 8 ]

α = βとすると、モードの式は 1/2 に簡略化され、α = β > 1 の場合にモード(αβ < 1の場合は反モード)が分布の中心にあることが示されます。これらのケースでは対称です。αβの任意の値に対するモードケースの完全なリストについては、この記事の「形状」セクションを参照してください。 これらのケースの多くでは、密度関数の最大値は、一方または両方の端で発生します。 場合によっては、端で発生する密度関数の(最大)値は有限です。 たとえば、α = 2、β = 1 (またはα = 1、β = 2)の場合、密度関数は、両端で有限である直角三角形の分布になります。 他の多くの場合、一方の端に特異点があり、密度関数の値が無限大に近づきます。例えば、 α = β = 1/2の場合、ベータ分布は簡略化されて逆正弦分布となる。数学者の間では、これらのケースのいくつか、および端(x = 0、x = 1)をモードと呼べるかどうかについて議論がある。[ 9 ] [ 2 ]

1 ≤ α ≤ 5 および 1 ≤ β ≤ 5のベータ分布の最頻値

中央値

0 ≤ α ≤ 5および0 ≤ β ≤ 5におけるベータ分布の中央値
ベータ分布の(平均値-中央値)とアルファおよびベータ(0~2)

ベータ分布の中央値は、正規化された不完全ベータ関数が成り立つ唯一の実数です。任意のαβの値に対して、ベータ分布の中央値を表す一般的な閉形式表現は存在しません。 パラメータαβの特定の値に対する閉形式表現は以下のとおりです。

  • 対称的なケースでは、 α = β、中央値 = 1/2 です。
  • α = 1かつβ > 0の場合、中央値(この場合はべき関数分布鏡像となる)
  • α > 0 かつβ = 1の場合、中央値 = (この場合はべき関数分布[ 9 ]
  • α = 3、β = 2の場合、中央値 = 0.6142724318676105...となり、 4次方程式1 − 8 x 3 + 6 x 4 = 0の実数解は[0,1]にあります。
  • α = 2、β = 3の場合、中央値 = 0.38572756813238945... = 1−median(Beta(3, 2))

以下は、1 つのパラメータが有限 (ゼロ以外) で、もう 1 つのパラメータがこれらの制限に近づく場合の制限です。

αとβが1以上の場合のベータ分布の中央値の妥当な近似値は、次の式で与えられる[ 10 ]。

α , β ≥ 1の場合、この近似値の相対誤差絶対誤差を中央値で割ったもの)は4%未満であり、α ≥ 2 およびβ ≥ 2 のいずれの場合も1%未満です。平均値と最頻値の差で割った 絶対誤差も同様に小さい値です。

1 ≤ α ≤ 5および1 ≤ β ≤ 5におけるベータ分布の絶対値[(中央値-近似値)/中央値]1 ≤ α ≤ 5および1 ≤ β ≤ 5のベータ分布の絶対値[(中央値-類似度)/(平均-最頻値)]

平均

0 ≤ α ≤ 5および0 ≤ β ≤ 5におけるベータ分布の平均

2つのパラメータαβを持つベータ分布の確率変数Xの期待(平均)(μ )は、これらのパラメータの比β / αのみの関数である:[ 1 ]

上記の式においてα = βとするとμ = 1/2となり、α = βの場合には平均が分布の中心に位置する、つまり対称であることがわかります。また、上記の式から以下の極限が得られます。

したがって、β / α → 0、またはα / β → ∞の場合、平均は右端x = 1に位置します。これらの限界比では、ベータ分布は、右端 x = 1 に確率1でディラックのデルタ関数のスパイクを持つ1退化分布となり、それ以外の場所では確率0となります。右端x = 1には100%の確率(絶対確実性)が集中します。

同様に、β / α → ∞、またはα / β → 0の場合、平均は左端のx = 0に位置します。ベータ分布は、左端のx = 0に確率1でディラックのデルタ関数のスパイクを持つ1点退化分布となり、それ以外の場所では確率は0となります。左端のx = 0には100%の確率(絶対確実性)が集中しています。以下は、一方のパラメータが有限(非ゼロ)で、もう一方のパラメータがこれらの限界に近づく場合の限界です。

典型的な単峰性分布(最頻値が中心に位置し、最頻値の両側に変曲点があり、裾が長い分布)(Beta( αβ )がα , β >2 )の場合、標本平均値(位置の推定値として)は標本中央値ほど堅牢ではないことが知られていますが、均一または「U字型」の双峰性分布(Beta( αβ )がα , β≤1)の場合、最頻値が分布の両端に位置する場合、その逆になります。MostellerとTukeyが述べているように([ 11 ] p.207)、2つの極端な観測値の平均にはすべての標本情報が使用されます。これは、裾の短い分布では、極端な観測値により多くの重みが与えられるべきであることを示しています。対照的に、分布の端にモードを持つ「U 字型」の双峰性分布(Beta( αβ )がα , β ≤ 1)の中央値は、サンプル中央値によって極端なサンプル観測が考慮されなくなるため、堅牢ではないということになります。この実際の応用は、ランダム ウォークなどで発生します。ランダム ウォークで最後に原点を訪れた時間の確率は、逆正弦分布Beta(1/2, 1/2) として分布するためです。[ 5 ] [ 12 ]ランダム ウォークの実現値の平均は、中央値(この場合は不適切なサンプル測定推定値)よりもはるかに堅牢な推定値です。

幾何平均

ベータ分布の(平均 − 幾何平均)とαおよびβの関係(0から2)。幾何平均におけるαβの非対称性を示す
ベータ分布の幾何平均 紫 = G ( x )、黄 = G (1 −  x )、小さい方の値はαβ
ベータ分布の幾何平均。紫 = G ( x )、黄色 = G (1 −  x )、前列にαβの大きい値

確率変数Xを持つ分布の幾何平均G Xの対数はln( X )の算術平均、またはそれと同等の期待値である。

ベータ分布の場合、期待値の積分は次のようになります。

ここでψディガンマ関数です。

したがって、形状パラメータαβを持つベータ分布の幾何平均は、次のようにαβの二重ガンマ関数の指数になります。

形状パラメータが等しいベータ分布(α = β)の場合、歪度 = 0、最頻値 = 平均値 = 中央値 = 1/2 となるが、幾何平均は1/2未満(0 < G X < 1/2)となる。これは、対数変換によってXの値がゼロに近づくにつれて ln( X ) が負の無限大に大きく近づくのに対し、X → 1の場合には ln( X ) がゼロに向かって平坦化することから、 Xの値がゼロに近づくにつれて強く重み付けされるためである。

直線α = βに沿って、次の制限が適用されます。

以下は、1 つのパラメータが有限 (ゼロ以外) で、もう 1 つのパラメータがこれらの制限に近づいている場合の制限です。

添付のグラフは、形状パラメータαβ が0から2までの平均と幾何平均の差を示しています。αβが無限大に近づくにつれて両者の差は0に近づき、 αβの値が0に近づくにつれて差は大きくなりますが、形状パラメータαβに関して幾何平均が明らかに非対称であることが分かります。β とαの大きさを入れ替えた場合よりも、αの値が小さい場合の方が幾何平均と平均の差は大きくなります

NLJohnsonS.Kotz [ 1 ]は、二ガンマ関数ψ ( α )≈ln( α −1/2)の対数近似を提案しており、 これは幾何平均の次の近似値をもたらす。

この近似における相対誤差の数値は次のとおりです。 [ ( α = β = 1): 9.39% ]; [ ( α = β = 2): 1.29% ]; [ ( α = 2、β = 3): 1.51% ]; [ ( α = 3、β = 2): 0.44% ]; [ ( α = β = 3): 0.51% ]; [ ( α = β = 4): 0.26% ]; [ ( α = 3、β = 4): 0.55% ]; [ ( α = 4、β = 3): 0.24% ]。

同様に、幾何平均が1/2になるために必要な形状パラメータの値を計算することができます。パラメータβの値が与えられた場合、幾何平均が1/2になるために必要なもう1つのパラメータ αの値はいくらでしょうか?答えは、(β > 1の場合)、必要なαの値はβ → ∞のにつれてβ + 1/2に近づくということです。たとえば、これらのカップルはすべて同じ 1/2 の幾何平均を持ちます: [ β = 1, α = 1.4427 ]、[ β = 2, α = 2.46958 ]、[ β = 3, α = 3.47943 ]、[ β = 4, α = 4.48449 ]、[ β = 5, α = 5.48756 ]、[ β = 10、α = 10.4938 ]、[ β = 100、α = 100.499 ]。

幾何平均の基本的な性質は、他の平均では誤りであることが証明できるが、

このため、正規化された結果、つまり基準値に対する比率として提示された結果を平均化する場合、幾何平均が唯一の正しい平均となります。 [ 13 ] これは、ベータ分布がパーセンテージのランダムな挙動に適したモデルであり、特に割合の統計的モデリングに適しているためです。幾何平均は最尤推定において中心的な役割を果たします。「パラメータ推定、最尤」のセクションを参照してください。実際には、最尤推定を行う際には、ランダム変数 X に基づく幾何平均G X の他に、もう1つの幾何平均が自然に現れます。それは、線形変換(1 − X )に基づく幾何平均で、 Xの鏡像であり、G (1− X )と表記されます。

直線α = βに沿って、次の制限が適用されます。

以下は、1 つのパラメータが有限 (ゼロ以外) で、もう 1 つのパラメータがこれらの制限に近づいている場合の制限です。

おおよその値は次のとおりです。

G XG 1− X はどちらも非対称ですが、両方の形状パラメータが等しい場合(α = β )、幾何平均は等しくなります:G X = G (1− X )。この等式は、両方の幾何平均の間に見られる以下の対称性から導き出されます。

調和平均

0 < α  < 5および0 <  β  < 5におけるベータ分布の調和平均 
ベータ分布の調和平均とαおよびβの関係(0~2)
ベータ分布の調和平均 紫 = H ( X )、黄色 = H (1 −  X )、前列のαβが小さい値
ベータ分布の調和平均:紫 = H ( X )、黄色 = H (1 −  X )、αβの値が前にある

確率変数Xを持つ分布の調和平均H X )の逆数は、 1/ Xの算術平均、すなわちその期待値である。したがって、形状パラメータαβを持つベータ分布の調和平均H X )は次のようになる。

α < 1のベータ分布の調和平均 (H X )は定義いません。これは、定義式が形状パラメータα が1 未満の 場合に [0, 1] で制限されないためです。

上記の式で α = βとすると、

α = βの場合、調和平均は 0 ( α = β = 1) から 1/2 ( α = β → ∞) の範囲にあることがわかります。

以下は、1 つのパラメータが有限 (ゼロ以外) で、もう 1 つのパラメータがこれらの制限に近づいている場合の制限です。

4パラメータの場合の最尤推定では、幾何平均に加えて調和平均が重要な役割を果たします。実際、4パラメータの場合の最尤推定では、確率変数Xに基づく調和平均H Xに加えて、もう1つの調和平均が自然に現れます。それは、 Xの鏡像である線形変換 (1 −  X ) に基づく調和平均で、 H 1 −  Xと表されます。

β < 1のベータ分布の調和平均(H(1−X))は定義て ません。これは、その定義式が、形状パラメータβが1未満の場合に[0, 1]で有界ではないためです。

上記の式で α = βとすると、

α = βの場合、調和平均は 0 ( α = β = 1) から 1/2 ( α = β → ∞) の範囲にあることがわかります。

以下は、1 つのパラメータが有限 (ゼロ以外) で、もう 1 つのパラメータがこれらの制限に近づいている場合の制限です。

H XH 1− X はどちらも非対称ですが、両方の形状パラメータが等しい場合(α = β )、調和平均は等しくなります:H X = H 1− X。この等式は、両方の調和平均の間に見られる以下の対称性から導き出されます。

統計的分散の尺度

分散

パラメータαβを持つベータ分布の確率変数Xの分散(平均を中心とした2次モーメント)、次の式で表される。[ 1 ] [ 14 ]

上記の式で α = βとすると、

α = βの場合、分散はα = βが増加するにつれて単調に減少することを示しています。この式でα = β = 0と設定すると、最大分散 var( X ) = 1/4 [ 1 ]が求められますが、これは極限に近づいたα = β = 0の場合にのみ発生します。

ベータ分布は、平均μ (0 < μ < 1)と標本サイズν = α + βν > 0) でパラメータ化することもできます(平均と標本サイズのサブセクションを参照)。

このパラメータ化を使用すると、平均μとサンプルサイズνに関して分散を次のように表すことができます。

ν = α + β > 0であるため、 var( X ) < μ (1 − μ )になります。

対称分布の場合、平均は分布の中央、μ = 1/2にあるため、次のようになります。

また、上記の式から、次の限界値(指定された変数のみが限界値に近づく)が得られます。

幾何分散と共分散

対数幾何分散とαおよびβ
対数幾何分散とαおよびβ

ランダム変数Xを持つ分布の幾何分散の対数 ln(var GX ) は、 Xの幾何平均ln( G X ) を中心としたXの対数の2次モーメントです。

したがって、幾何分散は次のようになります。

フィッシャー情報行列と対数尤度関数の曲率には、反映された変数1 −  Xの幾何分散の対数と、 Xと1 −  Xの間の幾何共分散の対数が次のように表されます。

ベータ分布の場合、高次の対数モーメントは、ベータ分布を2つのガンマ分布の比として表現し、積分微分することで導出できます。これらは高次のポリガンマ関数で表すことができます。「対数変換された確率変数のモーメント」のセクションを参照してください。対数変数の分散とln Xおよびln(1− X ) の 共分散は、以下のとおりです。

ここで、三ガンマ関数(ψ 1 ( α )と表記)は、ポリガンマ関数の2番目であり、二ガンマ関数の導関数として定義されます。

したがって、

添付のグラフは、形状パラメータαおよびβに対する対数幾何分散および対数幾何共分散を示しています。グラフは、形状パラメータαおよびβが2より大きい場合、対数幾何分散および対数幾何共分散が0に近くなることを示しています。また、形状パラメータαおよびβが1未満の場合は、対数幾何分散の値が急激に増加します。対数幾何分散は、形状パラメータのすべての値に対して正の値です。対数幾何共分散は、形状パラメータのすべての値に対して負の値であり、 αおよびβが1未満の 場合は大きな負の値になります。

以下は、1 つのパラメータが有限 (ゼロ以外) で、もう 1 つのパラメータがこれらの制限に近づいている場合の制限です。

2 つのパラメータが変化する制限:

ln(var GX ) と ln(var G (1 −  X ) ) はどちらも非対称ですが、形状パラメータが等しい場合、つまりα = βの場合、ln(var GX ) = ln(var G (1− X ) ) が成り立ちます。この等式は、両方の対数幾何分散の間に示される次の対称性から導かれます。

対数幾何共分散は対称です。

平均値の周りの平均絶対偏差

αとβが0から5の範囲にあるベータ分布の絶対偏差と標準偏差の比
平均0 ≤ μ ≤ 1、サンプルサイズ0 < ν ≤ 10のベータ分布の平均絶対偏差と標準偏差の比

形状パラメータαβを持つベータ分布の平均絶対偏差は次式で表される: [ 9 ]

平均値の周りの平均絶対偏差は、最頻値の両側に裾と変曲点を持つベータ分布、すなわちαβ > 2のBeta( α、  β )分布において、標準偏差よりも統計的分散より堅牢 な推定値となります。これは、平均からの二乗偏差ではなく、線形(絶対)偏差に依存するためです。したがって、平均からの非常に大きな偏差の影響は、標準偏差ほど過度に重み付けされません。

NLJohnsonS.Kotz [ 1 ]は、ガンマ関数スターリング近似を用いて、形状パラメータの値が1より大きい場合の次の近似値を導出した(この近似値の相対誤差はα = β = 1の場合にわずか-3.5%であり、 α → ∞、β → ∞のにつれてゼロに減少する)。

極限α → ∞、β → ∞ では、平均絶対偏差と標準偏差の比(ベータ分布の場合)は、正規分布の同じ測度の比 と等しくなります。α = β = 1の場合、この比は に等しくなるため、α = β = 1 からαβ → ∞ にかけて8.5 % 減少します。α = β = 0 の場合、標準偏差は平均の周りの平均絶対偏差と正確に等しくなります。したがって、この比は、α = β = 0 から α = β = 1 にかけて 15% 減少し α = β = 0からα β かけて25%減少します。ただし、α → 0 またはβ → 0 のような歪んだベータ分布の場合、標準偏差と平均絶対偏差の比は無限大に近づきます(ただし、それぞれ個別には 0 に近づきます)。これは、平均絶対偏差標準偏差よりも速く 0 に近づくためです。

平均μとサンプルサイズν = α + β > 0 に関するパラメータ化を使用すると、

α = μνβ = (1 − μ ) ν

平均値の周りの平均絶対偏差は、平均値μと標本サイズνを使って次のように表すことができます。

対称分布の場合、平均は分布の中央、μ = 1/2 にあるため、次のようになります。

また、上記の式から、次の限界値(指定された変数のみが限界値に近づく)が得られます。

平均絶対差

ベータ分布の 平均絶対差は次のとおりです

ベータ分布のジニ係数は相対平均絶対差の半分です。

歪度

分散と平均の関数としてのベータ分布の歪度

ベータ分布の歪度(平均を中心とした三次モーメントを分散の3/2乗で正規化した値)は[ 1 ]である。

上記の式でα = βとすると、γ 1 = 0 となり、 α = βの場合、分布は対称であり、したがって歪度はゼロであることが再び示されます。α < βの場合は正の歪度(右側) 、 α > βの場合は負の歪度(左側)となります。

平均μとサンプルサイズν = α + βによるパラメータ化を使用すると、

歪度は平均μと標本サイズνで次のように表すことができます。

歪度は、次のように分散varと平均μだけで表すこともできます。

添付の歪度を分散と平均の関数としてプロットすると、最大分散 (1/4) が歪度ゼロおよび対称条件 ( μ = 1/2) と結びついていること、また平均がどちらかの端にあるときに歪度 (正または負の無限大) が最大になり、確率分布の「質量」が端に集中している (最小分散) ことがわかります。

標本サイズν = α + βと分散 var に関して歪度の二乗を表す次の式は、 4つのパラメータのモーメント推定法に役立ちます。

この式は、 α = βの場合に歪度がゼロになることを正しく示しています。その理由は、その場合(§ 分散を参照)次のとおりです。

対称的なケース(α = β)では、全範囲にわたって歪度 = 0 となり、次の制限が適用されます。

非対称の場合(αβ)には、上記の式から次の限界値(注目する変数のみが限界値に近づく)が得られます。

尖度

分散と平均の関数としてのベータ分布の過剰尖度

ベータ分布は音響解析においてギアの損傷を評価するために適用されており、ベータ分布の尖度はギアの状態を示す良い指標であることが報告されている。[ 15 ]尖度は、人の足音によって発生する地震信号を他の信号と区別するためにも使用されている。地上を移動する人や他の物体は地震波という形で連続信号を生成するため、それらが生成する地震波に基づいて異なる物体を区別することができる。尖度は衝撃信号に敏感であるため、車両、風、騒音などによって生成される他の信号よりも、人の足音によって生成される信号に対してはるかに敏感である。[ 16 ] 残念ながら、尖度の表記法は標準化されていない。 Kenney と Keeping [ 17 ]は過剰尖度を表す 記号 γ 2を使用しているが、Abramowitz と Stegun [ 18 ]は 異なる用語を使用している。尖度(平均を中心とした4次モーメントを分散の2乗で正規化したもの)と過剰尖度の混同を避けるため[ 19 ] 、記号を使用する場合は次のように表記する。[ 9 ] [ 20 ]

上記の式で α = βとすると、

したがって、対称ベータ分布の場合、過剰尖度は負の値となり、{ α = β } → 0 の極限で最小値 -2 から増加し、{ α = β } → ∞ の極限で最大値 0 に近づきます。-2 は、あらゆる分布(ベータ分布だけでなく、あらゆる種類の分布)が達成できる過剰尖度の最小値です。この最小値は、すべての確率密度がx = 0 とx = 1の両端に完全に集中し、その間に何も存在しないときに達成されます。つまり、両端で確率が 1/2 ずつ等しくなる 2 点ベルヌーイ分布です(コイントス:詳細については、以下の「歪度の二乗で制限される尖度」のセクションを参照してください)。尖度を確率分布の「潜在的な外れ値」(または「潜在的なまれな極端な値」)の尺度として説明することは、ベータ分布を含むすべての分布に当てはまります。ベータ分布において、極値が稀に発生する場合、尖度は高くなります。そうでない場合、尖度は低くなります。α βの歪んだベータ分布では、モードから離れた側で時折極値が発生するため、過剰尖度は無制限の正の値に達する可能性があります(特に、有限βでα → 0 の場合、または有限αでβ → 0 の場合)。尖度は最小となり、質量密度が両端に均等に集中し(したがって平均が中央に位置し)、両端の間には確率質量密度は存在しません。

平均μとサンプルサイズν = α + βによるパラメータ化を使用すると、

過剰尖度は平均μと標本サイズνを用いて次のように表すことができます。

過剰尖度は、分散 var とサンプル サイズνという 2 つのパラメータだけで次のように表すこともできます。

分散varと平均μに関しては次のようになります。

過剰尖度を分散と平均の関数としてプロットすると、過剰尖度の最小値 (-2、これはあらゆる分布の過剰尖度の最小値) が、分散の最大値 (1/4) および対称条件、つまり平均が中点 ( μ = 1/2) で発生することと密接に関係していることがわかります。これは、歪度がゼロで、 α = β = 0の対称ケースで発生します。極限では、これは、ディラックのデルタ関数の各端x = 0 およびx = 1で確率が 1/2 で等しく、その他のすべての場所で確率がゼロである 2 点ベルヌーイ分布です(コインを投げるとき、コインの一方の面はx = 0 で、もう一方の面はx = 1 です)。分散が最大になるのは、分布が二峰性であり、両端の 2 つのモード (スパイク) の間に何も存在しないためです。過剰尖度は最小です。つまり、確率密度の「質量」は平均でゼロとなり、両端の2つのピークに集中します。過剰尖度は、確率密度関数が両端に2つのスパイクを持つとき(分布のいずれの場合も)、最小値に達します。つまり、2つのピークの間に何もない、2つのピークを持つ状態です。

一方、プロットは、平均がどちらかの端(μ = 0 またはμ = 1)に近い極端に歪んだケースでは、分散はゼロに近く、分布の平均がどちらかの端に近づくと過剰尖度が急速に無限大に近づくことを示しています。

あるいは、過剰尖度は、歪度の二乗とサンプル サイズ ν という 2 つのパラメータだけで次のように表すこともできます。

この最後の式から、カール・ピアソン[ 21 ]が1世紀以上前にベータ分布について発表したのと同じ極限を得ることができます(後述の「歪度の2乗で制限される尖度」の項を参照)。上記の式でα  +  β  =  ν = 0と設定すると、ピアソンの下限値が得られます(この境界値(過剰尖度 + 2 − 歪度2 = 0) を下回る歪度と過剰尖度の値は どの分布でも発生しないため、カール・ピアソンはこの境界値より下の領域を「不可能領域」と適切に呼びました)。α + β  =  ν  →  ∞の極限は、 ピアソンの上限値を決定します。

したがって:

ν  =  α  +  βの値は、 ν が0 から無限大 (0 <  ν < ∞) までの範囲にあり 、過剰尖度と二乗歪度の平面におけるベータ分布の全領域にわたります。

対称的な場合(α  =  β)には、次の制限が適用されます。

非対称の場合(α  ≠  β)には、上記の式から次の極限(注目する変数のみが極限に近づく)が得られます。

特性関数

特性関数(対称関数)の場合、α  =  βは25から0の範囲
Re(特性関数)対称ケースα  =  βは0から25の範囲
Re(特性関数) β = α  + 1/2; α は25から0の範囲
Re(特性関数) α  =  β  + 1/2; βは25から0の範囲
Re(特性関数) α  =  β  + 1/2; βは0から25の範囲

特性関数は確率密度関数のフーリエ変換である。ベータ分布の特性関数はクンマーの合流型超幾何関数(第一種)である。[ 1 ] [ 18 ] [ 22 ]

ここで

は上昇階乗です。t = 0の場合の特性関数の値は 1です

また、特性関数の実部と虚部は変数tの原点に関して次の対称性を持ちます。

対称的なケースα = βでは、ベータ分布の特性関数がベッセル関数に簡略化されます。これは、特別なケースα + β = 2 αでは、合流型超幾何関数(第 1 種) が、次のようにクンマーの第 2 変換を使用してベッセル関数(第 1 種の修正ベッセル関数)に簡略化されるためです。

添付のグラフでは、対称 ( α = β ) および歪んだ ( αβ ) 場合のベータ分布の特性関数の実部(Re)が表示されています。

その他のモーメント

モーメント生成関数

また、モーメント生成関数[ 1 ] [ 9 ]

特にM X ( α ; β ; 0) = 1 です。

高次モーメント

モーメント生成関数を用いると、k次の生のモーメントは[ 1 ]の係数 で与えられる

モーメント母関数の級数における(指数級数)項の乗算

ここで、( x ) ( k )は階乗を表す ポッホハマー記号である。これは再帰的に次のように書くこともできる。

モーメント生成関数は正の収束半径を持つので、ベータ分布はそのモーメントによって決定される。[ 23 ]

変換された確率変数のモーメント

線形変換、積、反転した確率変数のモーメント

変換された確率変数[ 1 ]に対して、以下の期待値を示すこともできる。ここで、確率変数Xはパラメータαβを持つベータ分布に従う:X ~ Beta( αβ )。変数1 − Xの期待値は 、 Xに基づく期待値の鏡面対称性を持つ :

ベータ分布の確率密度関数の鏡面対称性により、変数Xと1 −  Xに基づく分散は同一であり、Xの共分散(1 −  Xは分散の負である:

これらは反転変数の期待値です(これらは調和平均に関連しています。§調和平均を参照してください)。

変数Xをその鏡像X /(1 −  X )で割る次の変換は、「逆ベータ分布」またはベータプライム分布(第2種ベータ分布またはピアソンのタイプVIとも呼ばれる)の期待値をもたらす。 [ 1 ]

これらの変換された変数の分散は、対応する変数を中心とした2次モーメントの期待値として積分によって得ることができます。

変数Xの分散をその鏡像(X /(1− X))で割ると、「逆ベータ分布」またはベータプライム分布(第2種ベータ分布またはピアソンのタイプVIとも呼ばれる)の分散が得られる。[ 1 ]

共分散は次のとおりです。

  これらの期待値と分散は、4パラメータのフィッシャー情報行列(§ フィッシャー情報量) に現れます

対数変換された確率変数のモーメント
logit( X ) = ln( X /(1 − X )) (縦軸) と0から1の領域におけるX (横軸) のプロット。ロジット変換は興味深いもので、通常、様々な形状(J字型を含む)をロジット変数上の(通常は歪んだ)ベル型密度に変換し、元の変数上の端の特異性を除去することができる。

この節では、対数変換の期待値(最尤推定に有用。§パラメータ推定、最尤推定 を参照)について論じる。以下の対数線形変換は、幾何平均G Xおよび G 1− Xと関連している( § 幾何平均 を参照)。

ここで、ディガンマ関数ψ ( α ) はガンマ関数対数導関数として定義されます。[ 18 ]

ロジット変換は興味深いもので、[ 24 ]様々な形状(J字型を含む)をロジット変数上の(通常は歪んだ)ベル型密度に変換し、元の変数上の端の特異点を除去することができる。

ジョンソン[ 25 ]は、ロジット変換された変数ln( X /1−  X ) の分布を、そのモーメント生成関数と形状パラメータの大きな値に対する近似を含めて考察した。この変換は、元の変数Xに基づく有限台[0, 1]を、実数直線の両方向(−∞, +∞)における無限台へと拡張する。ベータ変量のロジットはロジスティックベータ分布に従う。

高次の対数モーメントは、ベータ分布を2つのガンマ分布の比として表現し、積分微分することで導出できます。高次のポリガンマ関数を用いて次のように表すことができます。

したがって、対数変数の分散とln( X )とln(1− X ) の共分散は次のようになります。

ここで、三ガンマ関数(ψ 1 ( α )と表記)は、ポリガンマ関数の2番目であり、二ガンマ関数の導関数として定義されます。

対数変換された変数Xと (1 −  X )の分散と共分散は一般に異なります。これは、対数が負の無限大に近づくにつれて変数がゼロに近づくため、対数変換によって元の変数Xと (1 −  X ) の鏡面対称性が破壊されるためです。

これらの対数分散と共分散は、ベータ分布のフィッシャー情報行列の要素です。また、対数尤度関数の曲率の尺度でもあります(最尤推定のセクションを参照)。

対数逆変数の分散は対数変数の分散と同一です。

また、ロジット変換された変数の分散は

情報量(エントロピー)

ベータ分布に従う確率変数X ~ Beta( αβ )が与えられたとき、X微分エントロピーは( natsで測定)[ 26 ]確率密度関数の対数の負の期待値である。

ここで、f ( x ; α , β )はベータ分布の 確率密度関数である。

ガンマ関数ψ は、オイラーの調和数の積分公式の結果として微分エントロピーの式に現れ、この積分から次の式が得られます。

ベータ分布の微分エントロピーは、αとβが0より大きいすべての値に対して負になります。ただし α = β =  1  (この値ではベータ分布は一様分布 と同じ)の場合には、微分エントロピーは最大値の0に達します。すべての事象が等確率であるときに不確実性が最大になるため、ベータ分布が一様分布と等しくなるときにエントロピーが最大になると予想されます。

αまたはβが0 に近づくと、微分エントロピーは最小値の負の無限大に近づきます。αまたはβ (いずれかまたは両方)が 0 に近づくと、秩序が最大になります。つまり、すべての確率密度が端に集中し、端の間に位置するポイントでは確率密度が 0 になります。 同様に、αまたはβ (いずれかまたは両方)が無限大に近づくと、微分エントロピーは最小値の負の無限大に近づき、秩序が最大になります。αまたはβのいずれかが無限大に近づき(もう一方は有限)、すべての確率密度が端に集中し、その他の場所では確率密度が 0 になります。 両方の形状パラメータが等しく(対称的なケース)、α = βであり、それらが同時に無限大に近づくと、確率密度は中央のx = 1/2 に集中したスパイク(ディラックのデルタ関数)になり 、したがって中央のx  = 1/2 で確率が 100% になり、その他の場所では確率が 0 になります。

(連続分布の場合の)微分エントロピーは、シャノンが最初の論文(そこでは「連続分布のエントロピー」と名付けた)の結論部分で導入されました。この論文では、彼は離散エントロピーを定義しました。[ 27 ] それ以来、微分エントロピーは離散エントロピーの無限小極限から無限大のオフセットだけ異なる可能性があることが知られており、したがって微分エントロピーは負の値になることがあります(ベータ分布の場合のように)。本当に重要なのは、エントロピーの相対的な値です。

2つのベータ分布に従う確率変数X 1  ~ Beta( αβ )とX 2 ~ Beta( α , β )が与えられたとき、クロスエントロピーは(ナット単位で測定)[ 28 ]

クロスエントロピーは、2つの仮説間の距離を測定する誤差指標として用いられてきた。[ 29 ] [ 30 ] クロスエントロピーの絶対値は、2つの分布が同一の場合に最小となる。これは、対数最大尤度[ 28 ]に最も関連性の高い情報指標である(「パラメータ推定:最大尤度推定」のセクションを参照)。

相対エントロピー、あるいはカルバック・ライブラー情報量D KL ( X 1 || X 2 ) は、分布が実際には X 1 ~ Beta( α , β ) であるにもかかわらず、分布が X 2 ~ Beta( α ′ , β ′ )あると仮定すること効率示す尺度です。これは以下のように定義されます(単位は nats)。

相対エントロピー、すなわちカルバック・ライブラー情報は常に非負です。以下に数値例をいくつか示します。

  • X 1 ~ Beta(1, 1) およびX 2 ~ Beta(3, 3); D KL ( X 1 || X 2 ) = 0.598803; D KL ( X 2 || X 1 ) = 0.267864; h ( X 1 ) = 0; h ( X 2 ) = −0.267864
  • X 1 ~ Beta(3, 0.5) およびX 2 ~ Beta(0.5, 3); D KL ( X 1 || X 2 ) = 7.21574; D KL ( X 2 || X 1 ) = 7.21574; h ( X 1 ) = −1.10805; h ( X 2 ) = −1.10805。

カルバック・ライブラー情報とは、個々のベータ分布Beta(1, 1)とBeta(3, 3)が対称だがエントロピーh(X 1)≠h(X 2)が異なる場合、D KL ( X 1 || X 2 )≠D KL (X 2 || X 1 )で対称ではない情報です。カルバック情報の大きさは、高い(微分)エントロピーから低い(微分)エントロピーへ向かうか、それともそのによって変わります。上記数値カルバック情報分布 Beta(1, 1)ではなく(ベル型の)Beta(3, 3)であると仮定することの非効率性の大きさを表しています。 Beta(1, 1)の「h」エントロピーはBeta(3, 3)の「h」エントロピーよりも高い。これは、一様分布Beta(1, 1)が最大の無秩序性を持つためである。カルバック・ダイバージェンスは、エントロピーが減少する方向、つまり(一様)Beta(1, 1)分布が(ベル型)Beta(3, 3)分布であると仮定する方向(逆の場合ではない)で測定した場合、2倍以上(0.267864ではなく0.598803)となる。この限定された意味では、カルバック・ダイバージェンスは熱力学第二法則と整合する。

カルバック・ライブラー情報量は、等しい微分エントロピーh(X1)=h ( X2 )持つ歪んだケースBeta( 3,0.5 )とBeta(0.5,3)に対して対称D KL ( X1 || X2 ) = D KL ( X2 || X1 )です

対称条件:

上記の定義と、ベータ分布が持つ 鏡面対称性f ( x ; α , β ) = f (1 − x ; α , β ) から導かれます

統計的指標間の関係

平均値、最頻値、中央値の関係

1 < α < βの場合、最頻値 ≤ 中央値 ≤ 平均値となる。[ 10 ]最頻値(αβ > 1の場合のみ)と平均値をαβで表すと次のようになる。

1 < β < αの場合、不等式の順序は逆になります。α 、β > 1 の場合平均値と中央値の絶対距離は、xの最大値と最小値の距離の 5% 未満です。一方、α = 1 およびβ = 1 という(病的な)ケースでは、平均値と最頻値の絶対距離はxの最大値と最小値の距離の 50% に達する可能性があり、この値ではベータ分布は一様分布に近づき、微分エントロピーは最大値に近づき、したがって「無秩序」は最大になります。

たとえば、α = 1.0001、β = 1.00000001の場合:

  • モード = 0.9999; PDF(モード) = 1.00010
  • 平均 = 0.500025; PDF(平均) = 1.00003
  • 中央値 = 0.500035; PDF(中央値) = 1.00003
  • 平均 − 最頻値 = −0.499875
  • 平均値 − 中央値 = −9.65538 × 10 −6

ここで、PDF は確率密度関数の値を表します。

平均、幾何平均、調和平均の関係

:0 < α = β < 5のベータ分布の平均、中央値、幾何平均、調和平均

算術平均と幾何平均の不等式から、幾何平均は平均値よりも低いことがわかります。同様に、調和平均は幾何平均よりも低くなります。添付の​​グラフは、 α = βの場合、α = β の値に関わらず、平均値と中央値はどちらも1/2に等しく、最頻値もα = β > 1 の場合に1/2に等しいことを示しています。しかし、幾何平均と調和平均は1/2よりも低く、α = β 方向に漸近的にのみこの値に近づきます。

歪度の2乗で囲まれた尖度

ベータ分布のαおよびβパラメータと過剰尖度および二乗歪度

フェラー[ 5 ]が指摘したように、ピアソンシステムではベータ確率密度はタイプ Iとして表示されます(ベータ分布とピアソンのタイプ I 分布の違いは表面的なものに過ぎず、尖度と歪度の関係に関する以下の議論には影響しません)。カール・ピアソンは、1916 年に発表された論文[ 21 ]の図 1 で、縦軸 (縦座標)に尖度、横軸 (横座標) に歪度の 2 乗 をとったグラフを示し、その中でいくつかの分布が表示されました。[ 31 ]ベータ分布が占める領域は、 (歪度2、尖度)平面、または (歪度2、過剰尖度)平面で次の 2 つの によって囲まれます。

あるいは、同等に、

強力なデジタルコンピュータが存在しなかった時代に、カール・ピアソンは更なる境界を正確に計算し、[ 32 ] [ 21 ]、例えば「U字型」分布と「J字型」分布を分離しました。下限境界線(過剰尖度 + 2 − 歪度2 = 0)は、形状パラメータαβの両方の値がゼロに近い、歪んだ「U字型」ベータ分布によって生成されます。上限境界線(過剰尖度 − (3/2) 歪度2 = 0)は、パラメータの1つが非常に大きく、もう1つのパラメータが非常に小さい、極端に歪んだ分布によって生成されます。 カール・ピアソンは[ 21 ]、この上限のライン(過剰尖度 − (3/2)歪度2 = 0)はピアソン分布 III との交点でもあることを示し、ピアソン分布 III は一方向(正の無限大に向かって)に無制限のサポートを持ち、ベル型または J 型になる可能性があると示しました。彼の息子であるエゴン・ピアソンは[ 31 ] 、ベータ分布(ピアソン分布 I と同等)がこの境界(過剰尖度 − (3/2)歪度2 = 0)に近づくにつれて、(尖度/歪度 2 乗平面内で)が占める領域は、非心カイ 2 乗分布と共有されることを示しました。カール・ピアソン[ 33 ](Pearson 1895、pp. 357、360、373–376)は、ガンマ分布がピアソン III 型分布であることも示しました。したがって、ピアソンのタイプIII分布のこの境界線はガンマ線として知られています。(これは、ガンマ分布の過剰尖度が6/ kであり、歪度の2乗が4/ kであるという事実から示されます。したがって、ガンマ分布はパラメータ「k」の値に関わらず、(過剰尖度−(3/2)歪度2 = 0)が常に満たされます)。ピアソンは後に、カイ2乗分布はピアソンのタイプIIIの特別なケースであり、この境界線を共有すると指摘しました(カイ2乗分布の過剰尖度が12/ kであり、歪度の2乗が8/ kであるという事実から明らかです。したがって、(過剰尖度−(3/2)歪度2 = 0)がパラメータ「k」の値に関わらず常に満たされます)。これは、カイ2乗分布X ~ χ 2 ( k) はガンマ分布の特殊なケースであり、パラメータ化 X ~ Γ(k/2, 1/2) を持ちます。ここで、k はカイ 2 乗分布の「自由度の数」を指定する正の整数です。

上限付近のベータ分布の例(過剰尖度 − (3/2) 歪度2 = 0)は、α = 0.1、β = 1000 で与えられ、この場合、比 (過剰尖度)/(歪度2 ) = 1.49835 は、下から上限の 1.5 に近づきます。下限付近のベータ分布の例(過剰尖度 + 2 − 歪度2 = 0)は、α = 0.0001、β = 0.1 で与えられ、この場合、式 (過剰尖度 + 2)/(歪度2 ) = 1.01621 は、上から下限の 1 に近づきます。αβの両方が対称的に 0 に近づく極小限界では、過剰尖度は -2 で最小値に達します。この最小値は、下側の境界線が垂直軸(縦軸)と交差する点で発生します。(ただし、ピアソンの元のチャートでは、縦軸は過剰尖度ではなく尖度であり、上方向ではなく下方向に向かって増加します)。

歪度と過剰尖度の値が下限値(過剰尖度 + 2 − 歪度2 = 0)を下回る分布は発生しないため、カール・ピアソンはこの境界より下の領域を「不可能領域」と適切に呼びました。この「不可能領域」の境界は、パラメータαβ がゼロに近づく(対称または歪んだ)双峰性 U 字型分布によって決定され、したがってすべての確率密度が両端x = 0、1 に集中し、その間にはほとんど何も存在しません。α ≈ β ≈ 0 の場合、確率密度は両端 x = 0 と x = 1 に集中するためこの「不可能境界ベルヌーイ分布によって決定され、この分布では、2 つの唯一の可能な結果が、それぞれ確率pq = 1 −  pで発生します。この限界境界に対称性α = βで近づく場合、歪度 ≈ 0、過剰尖度 ≈ −2(これはあらゆる分布で起こり得る最小の過剰尖度)、確率はpq ≈ 1/2 となる。この限界境界に歪度で近づく場合、過剰尖度 ≈ −2 + 歪度2となり、確率密度は一方の端に他方の端よりも集中し(中間の領域はほとんどない)、左端の確率はx = 0、右端の確率はx = 1 となる。

対称性

すべての記述はαβ >0 を条件としています

  • 確率密度関数の反射対称性
  • 累積分布関数の反射対称性とユニタリー並進
  • モード反射対称性とユニタリー並進
  • 中線反射対称性とユニタリー並進
  • 平均反射対称性とユニタリー並進
  • 幾何平均はそれぞれ個別には非対称であるが、 Xに基づく幾何平均とその反射1− Xに基づく幾何平均の間には次の対称性が適用される。
  • 調和平均はそれぞれ個別には非対称であるが、 Xに基づく調和平均とその反射1− Xに基づく調和平均の間には次の対称性が適用される。
  • 分散対称性
  • 幾何分散はそれぞれ個別には非対称であるが、Xに基づく対数幾何分散とその反射1− Xに基づく対数幾何分散の間には次の対称性が当てはまる。
  • 幾何学的共分散対称性
  • 平均対称性の周りの平均絶対偏差
  • 歪度歪対称性
  • 過剰尖度対称性
  • 実部特性関数の対称性(変数「 t 」の原点に関して)
  • 虚数部特性関数の歪対称性(変数「 t 」の原点に関して)
  • 絶対値特性関数の対称性(変数「 t 」の原点に関して)
  • 微分エントロピー対称性
  • 相対エントロピー(カルバック・ライブラー情報とも呼ばれる)対称性
  • フィッシャー情報行列対称性

確率密度関数の幾何学

変曲点

変曲点の位置とαおよびβの関係。変曲点が1つある領域を示しています
変曲点の位置とαおよびβの関係。2つの変曲点がある領域を示す。

形状パラメータαとβの特定の値に対して、確率密度関数は変曲点を持ち、そこで曲率が符号を変える。これらの変曲点の位置は、分布の 分散または広がりの尺度として有用である。

次の量を定義します。

変曲点は、形状パラメータαβの値に応じて次のように 発生します[ 1 ] [ 8 ] [ 9 ] [ 20 ] 。

  • α>2、β>2)分布はベル型(αβの場合は対称、それ以外は歪んでいる)で、モードから等距離に2つの変曲点がある。

  • α = 2、β > 2)分布は単峰性で、正に歪んでおり、右側に裾があり、1つの変曲点が最頻値の右側に位置します。

  • α>2、β=2)分布は単峰性で、負に歪んでおり、左側に分布し、最頻値の左側に1つの変曲点があります。

  • (1 < α < 2, β > 2, α + β > 2) この分布は単峰性で、正に歪んでおり、右側に分布し、1つの変曲点が最頻値の右側に位置します。

  • (0 < α < 1, 1 < β < 2) この分布は左端x = 0 に最頻値を持ち、正の右裾分布となる。最頻値の右側に変曲点が1つ存在する。

  • α>2、1<β<2)分布は、負に歪んだ単峰性の左側分布であり、最頻値の左側に1つの変曲点がある。

  • (1 < α < 2, 0 < β < 1) この分布は右端x = 1 に最頻値を持ち、負の左裾分布となる。最頻値の左側に変曲点が1つ存在する。

残りの(対称および歪んだ)領域には変曲点はありません:U字型:(αβ <1)、逆U字型:(1< α <2、1< β <2)、逆J字型(α <1、β >2)、またはJ字型:(α >2、β <1)

添付のグラフは、変曲点の位置(縦軸は0から1まで)とαおよびβ(横軸は0から5まで)の関係を示しています。α = 1、β = 1、α = 2、β = 2の線と交差する面には大きな切れ目が見られますこれは、これらの値においてベータ分布が2モードから1モード、そして無モードへと変化するためです。

図形

対称ベータ分布のxおよびα  =  βに対する0から30までのPDF
対称ベータ分布の x およびα  =  βに対する0 から 2 までのPDF
歪んだベータ分布のxβ  = 2.5 αに対する0から9までのPDF
歪んだベータ分布のxとβ  = 5.5 αに対する0から9までのPDF
歪んだベータ分布のxとβ  = 8αに対する0から10までのPDF

ベータ密度関数は、2つのパラメータαβの値に応じて、多種多様な形状をとることができます。ベータ分布が(わずか2つのパラメータを用いて)このように多様な形状をとることができるという特性は、実測値のモデル化に広く応用されている理由の一つです。

対称(α = β
  • 密度関数は1/2 を中心に対称です(青と青緑のプロット)。
  • 中央値 = 平均 = 1/2。
  • 歪度 = 0。
  • 分散 = 1/(4(2 α + 1))
  • α = β < 1
    • U字型(青いプロット)
    • 双峰性:左モード = 0、右モード = 1、反モード = 1/2
    • 1/12 < var( X ) < 1/4 [ 1 ]
    • −2 < 過剰尖度( X ) < −6/5
    • α = β = 1/2は逆正弦分布である
      • var( X ) = 1/8
      • 過剰尖度( X ) = −3/2
      • CF = リンク (t) [ 34 ]
    • α = β → 0 は、ディラックのデルタ関数の両端x = 0 とx = 1で確率 1/2 が等しく、それ以外の場合は確率がゼロとなる2 点ベルヌーイ分布です。コインを投げる場合、片方の面はx = 0、もう片方の面はx = 1 となります。
      • これより低い値に到達することは、どの分布でも不可能です。
      • 微分エントロピーは最小値−∞に近づく
  • α = β = 1
  • α = β > 1
    • 対称単峰性
    • モード = 1/2
    • 0 < var( X ) < 1/12 [ 1 ]
    • −6/5 < 過剰尖度( X ) < 0
    • α = β = 3/2は半楕円分布[0, 1]である。ウィグナー半円分布[ 35 ]を参照。
      • var( X ) = 1/16です。
      • 過剰尖度( X ) = −1
      • CF = 2 ジンク (t)
    • α = β = 2は放物線[0, 1]分布である。
      • var( X ) = 1/20
      • 過剰尖度( X ) = −6/7
      • CF = 3 Tinc (t) [ 36 ]
    • α = β > 2 はベル型で、変曲点はモードの両側に位置する。
      • 0 < 変数( X ) < 1/20
      • −6/7 < 過剰尖度( X ) < 0
    • α = β → ∞ は、ディラックのデルタ関数のスパイクが中点x = 1/2 で確率 1 で出現し、それ以外の場所では確率 0 となる1 点退化分布です。x = 1/2という一点に 100% の確率(絶対確実性)が集中しています。
      • 微分エントロピーは最小値−∞に近づく
歪んでいる(αβ

密度関数は歪んでいます。パラメータ値を交換すると、初期曲線の鏡像(反転)が得られます。より具体的な例をいくつか挙げます。

  • α < 1、β < 1
    • U字型
    • α < βの場合は正の歪み、 α > βの場合は負の歪み
    • 二峰性:左モード = 0、右モード = 1、反モード =
    • 0 < 中央値 < 1。
    • 0 < 変数( X ) < 1/4
  • α > 1、β > 1
    • 単峰性(マゼンタとシアンのプロット)、
    • α < βの場合は正の歪み、 α > βの場合は負の歪み
    • 0 < 中央値 < 1
    • 0 < 変数( X ) < 1/12
  • α < 1、β ≥ 1
    • 逆J字型で右尾部を持つ。
    • 正に歪んだ
    • 厳密に減少する凸型
    • 最頻値 = 0
    • 0 < 中央値 < 1/2。
    • (最大分散は、またはα = Φ の黄金比共役で発生します)
  • α ≥ 1、β < 1
    • 左尻尾のJ字型、
    • 負に歪んだ
    • 厳密に増加、
    • 最頻値 = 1
    • 1/2 < 中央値 < 1
    • (最大分散は、またはβ = Φ の黄金比共役で発生します)
  • α = 1, β > 1
    • 正に歪んだ
    • 厳密に減少する(赤いプロット)、
    • 反転した(鏡像の)べき乗関数分布
    • 平均 = 1 / ( β + 1 )
    • 中央値 = 1 - 1/2 1/ β
    • 最頻値 = 0
    • α = 1, 1 < β < 2
      • 凹面
      • 1/18 < var( X ) < 1/12
    • α = 1、β = 2
      • 傾きが-2の直線、左端が直角の直角三角分布( x = 0)
      • var( X ) = 1/18
    • α = 1, β > 2
      • 逆J字型で右尾部を持つ。
      • 0 < var( X ) < 1/18
  • α > 1, β = 1
    • 負に歪んだ
    • 厳密に増加(緑のプロット)、
    • べき乗関数分布[ 9 ]
    • 平均 = α / (α + 1)
    • 中央値 = 1/2 1/α
    • 最頻値 = 1
    • 2 > α > 1、β = 1
      • 凹面
      • 1/18 < 変数( X ) < 1/12
    • α = 2、β = 1
      • 傾き+2の直線、右端が直角の直角三角分布( x = 1)
      • var( X ) = 1/18
    • α > 2、β = 1
      • J字型で、左端が凸型
      • 0 < var( X ) < 1/18

変換

  • X ~ Beta( α , β )ならば1 − X ~ Beta( β , α )は鏡像対称性を持つ
  • X ~ Beta( α , β )の場合、 。ベータプライム分布は「第2種ベータ分布」とも呼ばれます。
  • の場合、 は一般化ロジスティック分布 を持ち、密度 となります。ここで、はロジスティック シグモイドです。
  • X ~ Beta( α , β )ならば.
  • およびのとき、 の密度が および の密度であるとき、は超幾何関数である。[ 37 ]
  • X ~ Beta( n /2, m /2)の場合、( n > 0およびm > 0と仮定)、Fisher–Snedecor F分布が適用されます。
  • するとmin + X (max − min) ~ PERT(min, max, m , λ )となり、ここでPERTはPERT分析で使用されるPERT分布を示し、mは最も可能性の高い値です。[ 38 ]伝統的に[ 39 ] PERT分析ではλ = 4です。
  • X ~ Beta(1, β )ならば、 X ~ Kumaraswamy 分布(パラメータ (1, β ))
  • X ~ Beta( α , 1)ならば、 X ~ Kumaraswamy 分布(パラメータは ( α , 1))
  • X ~ Beta( α , 1)ならば−ln( X ) ~ Exponential( α )

特殊なケースと限定的なケース

0から始まる1次元のランダムウォークの8つの実現例:原点への最後の訪問の時間の確率はBeta(1/2, 1/2)として分布する
ベータ(1/2, 1/2):逆正弦分布確率密度は、ベイズ推論におけるベルヌーイ分布または二項分布の不確実性を表すためにハロルド・ジェフリーズによって提案され、現在ではジェフリーズの事前分布: p −1/2 (1 −  p ) −1/2と呼ばれることが多い。この分布は、いくつかのランダムウォークの基本定理にも現れる。
  • その区間の密度は1で、Beta(1, 1) ~ U(0, 1)となる。
  • Beta(n, 1) ~ U(0, 1)を持つn 個の独立した逆関数の最大値。この区間で密度がn x n –1である標準べき関数分布と呼ばれることもあります。 
  • Beta(1, n) ~その区間で密度がn (1 −  x ) n −1であるU(0, 1)を持つn個の独立した逆関数の最小値。
  • X ~ Beta(3/2, 3/2)かつr > 0のとき、2 rX  r  ~ウィグナー半円分布となります
  • Beta(1/2, 1/2) は逆正弦分布と等価です。この分布は、ベルヌーイ分布と 二項分布のジェフリーズ事前確率でもあります。
  • 指数分布
  • ガンマ分布
  • が大きい場合、正規分布となります。より正確に言うと、 の場合、n 増加するにつれて、は平均 0、分散 の正規分布に収束します。

他の分布から派生

  • 一様分布から得られたn個のサンプルのk番目の順序統計量はベータランダム変数U ( k ) ~Beta( k , n +1− k )である。[ 40 ]
  • ガンマ分布: X ~ Gamma(α, θ) とY ~ Gamma(β, θ) が独立している場合、 です。
  • カイ二乗分布:と が独立であれば、 となります。
  • 一様分布のべき変換:X ~ U(0, 1)かつα>0ならばX 1 / α ~ Beta ( α , 1 )となる。
  • コーシー分布X ~ コーシー(0, 1)ならば

他のディストリビューションとの組み合わせ

  • X ~ Beta( α , β )かつY ~ F(2 β ,2 α )ならば すべてのx > 0に対して成り立ちます。

他の分配との複合

一般化

  • 多変数への一般化、すなわち多変量ベータ分布は、ディリクレ分布と呼ばれます。ディリクレ分布の単変量周辺分布はベータ分布を持ちます。ディリクレ分布が多項式分布およびカテゴリ分布と共役であるのと全く同じように、ベータ分布は二項分布およびベルヌーイ分布と共役です
  • ピアソンタイプ I 分布は、ベータ分布と同一です (ベータ分布の 4 つのパラメータによるパラメータ化でも実行できる任意のシフトと再スケーリングを除く)。
  • ベータ分布は、次の条件を満たす非心ベータ分布の特殊なケースです
  • 一般化ベータ分布は、ベータ分布を特殊なケースとして持つ 5 つのパラメータの分布ファミリです。
  • 行列変量ベータ分布は、正定値行列の分布です。

統計的推論

パラメータ推定

モーメント法

2つの未知パラメータ

2つの未知のパラメータ( [0,1]区間でサポートされるベータ分布の)は、モーメント法を用いて推定できます。最初の2つのモーメント(標本平均と標本分散)は次のように表されます。

標本平均推定値で あり、

標本分散推定値とする。モーメント法によるパラメータ推定値は

分布がランダム変数Xで[0, 1]以外の既知の区間、例えばランダム変数Yで[ a , c ]で必要な場合は、上記の形状パラメータの2つの式でをとを置き換えます(以下の「4つの未知のパラメータ」のセクションを参照)。[ 41 ]ここで、

4つの未知のパラメータ
パラメータ推定値と(標本)過剰尖度および(標本)二乗歪度ベータ分布の解

カール・ピアソンが開発したモーメント法を用いて、最初の4つの中心モーメント(平均、分散、歪度、過剰尖度)の標本値と母集団値を等しくすることで、([ ac ]区間でサポートされるベータ分布の4つのパラメータについては、 「代替パラメータ化、4つのパラメータ」のセクションを参照)4つのパラメータすべてを推定することができる。[ 1 ] [ 42 ] [ 43 ]過剰尖度は、歪度の2乗と標本サイズν = α + β(前のセクション「尖度」を参照)で次のように表される。

この式を使って、歪度の2乗と過剰尖度を用いて標本サイズν=α+βを次のように解くことができる。[ 42 ]

これは、ある軸の歪度の2乗の座標と他の軸の過剰尖度の座標で定義された空間(カール・ピアソン[ 21 ]によって最初に行われた)におけるベータ分布の以前に導出された極限境界間の比(係数3を乗じた値)である(§歪度の2乗で制限された尖度を参照)。

歪度がゼロの場合は、α = βであり、したがってν = 2 α = 2 βであり、したがってα = β = ν /2 であるため、すぐに解くことができます。

(過剰尖度は、歪度がゼロのベータ分布では負の値となり、範囲は -2 から 0 です。したがって、サンプルの形状パラメータは正の値となり、形状パラメータがゼロに近づき過剰尖度が -2 に近づく場合はゼロになり、形状パラメータが無限大に近づき過剰尖度がゼロに近づく場合は無限大になります)。

標本歪度がゼロでない場合、2つの連立方程式を解く必要があります。歪度と過剰尖度はパラメータに依存しないため、2つの既知変数(標本歪度と標本過剰尖度)と2つの未知数(形状パラメータ)を含む連立方程式を解くことで、標本歪度と標本過剰尖度からパラメータを一意に決定できます。

その結果、次のような解決策が得られた。[ 42 ]

ここで、解は次のように取られます: (負の) サンプル歪度 < 0 の場合、および(正の) サンプル歪度 > 0 の場合。

添付のグラフは、これら2つの解を、水平軸に(標本過剰尖度)と(標本歪度の二乗)をとり、垂直軸に形状パラメータをとった空間における面として示しています。これらの面は、上記の式で規定されているように、標本過剰尖度が標本歪度の二乗で制限されるという条件によって制約されています。2つの面は、歪度ゼロで定義される右端で交わります。この右端では、両方のパラメータが等しく、分布はα = β < 1の場合は対称U字型、α = β = 1の場合は一様、1 < α = β < 2の場合は逆U字型、α = β > 2の場合は釣鐘型となります。また、これらの面は、「不可能境界」線(過剰尖度 + 2 - 歪度2 = 0)で定義される前端(下端)でも交わります。この前方(下側)境界に沿って、両方の形状パラメータはゼロに近づき、確率密度は一方の端に他方の端よりも集中し(中間の領域は実質的に存在しない)、左端の確率はx = 0、右端の確率はx = 1となる。2つの面は後方端に向かってさらに離れる。この後方端では、面パラメータは互いに大きく異なる。例えば、BowmanとShentonが指摘しているように[ 44 ] 、直線(標本過剰尖度 - (3/2)(標本歪度) 2 = 0)(青とベージュが交わる後方端のJ字型部分)の近傍でのサンプリングは「危険なほどカオスに近い」。なぜなら、その直線では、推定値ν = α + βの上の式の分母がゼロとなり、したがって、その直線に近づくにつれてνは無限大に近づくからである。 BowmanとShenton [ 44 ]は、「高次のモーメントパラメータ(尖度と歪度)は(その線付近では)極めて不安定である。しかし、平均値と標準偏差はかなり信頼できる」と述べている。したがって、問題は、過剰尖度が歪度の2乗の(3/2)倍に近づくような、非常に歪んだ分布に対する4パラメータ推定の場合である。この境界線は、パラメータの1つが非常に大きく、もう1つのパラメータが非常に小さい、極端に歪んだ分布によって生成される。数値例とこの後方境界線(標本過剰尖度 - (3/2)(標本歪度) 2 = 0)に関する詳細なコメントについては、「歪度の2乗で制限される尖度」を参照のこと。Karl Pearson自身も[ 45 ]で述べているように、この問題は、実際にはあまり発生しない、形状パラメータの値が大きく異なる非常に歪んだJ字型(または鏡像J字型)の分布でのみ発生するため、実用上はそれほど重要ではないかもしれません。実際に発生する通常の歪んだベル型分布では、このパラメータ推定の問題は発生しません。

残りの2つのパラメータは、標本平均と標本分散を用いて様々な方程式を用いて決定することができる。[ 1 ] [ 42 ] 一つの代替案として、標本分散と標本尖度に基づいて支持区間の範囲を計算する方法がある。この目的のために、範囲、標本分散と標本サイズ ν に関して過剰尖度を表す方程式を解くことができる(§ 尖度および§ 代替パラメータ化、4つのパラメータ を参照)。

次を得る:

別の方法としては、標本分散と標本歪度に基づいて支持区間の範囲を計算することです。 [ 42 ] この目的のために、範囲を用いて、標本分散と標本サイズνで歪度の2乗を表す式を解くことができます(「歪度」および「代替パラメータ化、4つのパラメータ」のセクションを参照)。

入手するには:[ 42 ]

残りのパラメータは、サンプル平均と以前に得られたパラメータから決定できます。

そして最後に、。

上記の式では、サンプルモーメントの推定値として、たとえば次の式を取ることができます。

標本歪度の推定値G 1標本尖度の推定値G 2は、 DAP / SASPSPP / SPSSExcelで使用されています。ただし、 BMDPでは使用されず、( [ 46 ]によると) 1998 年のMINITABでも使用されていませんでした。実際、 Joanes と Gill は 1998 年の研究[ 46 ]で、 BMDPMINITAB(当時) で使用されている歪度と尖度の推定値は正規標本では分散と平均二乗誤差が小さいが、 DAP / SASPSPP / SPSSで使用されている歪度と尖度の推定値、つまりG 1G 2は、非常に歪んだ分布の標本では平均二乗誤差が小さいと結論付けています。このため、上記の式では「標本の歪度」などについて明記し、歪度と尖度の最適な推定値は歪度の大きさに依存する(JoanesとGill [ 46 ]で示されているように)ため、ユーザーは問題に応じて最適な推定値を選択する必要があることを明確にしています。

最大尤度

2つの未知パラメータ
α  =  β  = 2におけるベータ分布の最大値に対する最大値(結合対数尤度/ N )
α  =  β  ∈ {0.25,0.5,1,2,4,6,8}におけるベータ分布の最大値(結合対数尤度/ N )

ガンマ分布の最尤推定値の場合と同様に、ベータ分布の最尤推定値は、形状パラメータの任意の値に対して一般的な閉形式の解を持ちません。X 1 , ..., X N がそれぞれベータ分布に従う独立確率変数である場合Niid観測値に対する結合対数尤度関数はようになります。

形状パラメータに関する最大値を見つけるには、形状パラメータに関する偏微分を取り、式をゼロに設定して形状パラメータの 最大尤度推定値を生成します。

ここで:

ψ(α)で表される二重ガンマ関数は、ガンマ関数対数微分として定義されているため:[ 18 ]

接線勾配がゼロの値が(鞍点や最小値ではなく)最大値となることを保証するには、曲率が負であるという条件も満たす必要がある。これは、形状パラメータに関する2次偏微分が負であることを満たすことを意味する。

前の式を使用すると、これは次の式と同等になります。

ここで、三ガンマ関数(ψ 1 ( α )と表記)は、ポリガンマ関数の2番目であり、二ガンマ関数の導関数として定義されます。

これらの条件は、対数変換された変数の分散が正であると述べることと同等です。

したがって、最大の負の曲率の条件は次のステートメントと同等です。

あるいは、最大の負の曲率の条件は、幾何平均G XG (1−X)の次の対数微分が正であると述べることと同等です。

これらの傾きは確かに正ですが、他の傾きは負です。

αβに対する平均値と中央値の傾きは、同様の符号挙動を示します。

形状パラメータに関する偏微分が最大値でゼロになるという条件から、平均対数尤度に対する次の最大尤度推定方程式の連立方程式が得られる。これを逆行列で表すと、サンプルX 1 , ..., X Nの対数の(既知の)平均に関する(未知の)形状パラメータ推定値が得られる。[ 1 ]

ここで、 は標本幾何平均の対数、 はXの鏡像 である (1 − X )に基づく 標本幾何平均の対数であると認識します。 については、 が成り立ちます 。

形状パラメータ推定値のディガンマ関数を含むこれらの連立方程式は、例えばBeckmanら[ 47 ]が行ったような数値手法で解く必要がある。Gnanadesikanらはいくつかのケースについて数値解を与えている。[ 48 ] NLJohnsonS.Kotz [ 1 ]は、 「小さすぎない」形状パラメータ推定値の場合、ディガンマ関数の対数近似を使用して反復解の初期値を取得できることを示唆している。この近似から得られる方程式は正確に解くことができるためである。

これにより、反復解の初期値(サンプル幾何平均による推定形状パラメータ)は次のようになります。

あるいは、モーメント法によって提供される推定値は、二重ガンマ関数に関する最大尤度結合方程式の反復解の初期値として使用することもできます。

分布が[0, 1]以外の既知の区間、例えば[ a , c ]の確率変数Xで求められる場合、最初の式の ln( X i )を次のように置き換えます。

2番目の式のln(1− X i )を次のように 置き換える。

(以下の「代替パラメータ化、4 つのパラメータ」セクションを参照してください)。

形状パラメータの1つが既知であれば、問題は大幅に簡素化されます。以下のロジット変換を用いて、未知の形状パラメータを解くことができます( となる歪んだケース、そうでない場合、対称なケースでは、1つが既知であれば両方のパラメータが既知です)。

このロジット変換は、変数Xをその鏡像(X /(1- X))で割る変換の対数であり、サポート[0, +∞]を持つ「逆ベータ分布」またはベータプライム分布(第2種ベータ分布またはピアソンのタイプVIとも呼ばれる)になります。「対数変換されたランダム変数のモーメント」のセクションで以前に説明したように、ジョンソン[ 25 ]によって研究されたロジット変換は、元の変数Xに基づく有限サポート[0, 1]を実数線(-∞、+∞)の両方向で無限サポートに拡張します。

例えば、が既知である場合、未知のパラメータはこの式の右辺の 逆[ 49 ]二ガンマ関数によって得ることができる。

特に、形状パラメータの1つが1の値を持つ場合、例えば(境界サポート[0,1]のべき関数分布)の場合、式中の恒等式ψ( x + 1) = ψ( x ) + 1/ xを使用すると、未知のパラメータの最大尤度推定値は[ 1 ]とまったく同じに なります。

ベータは[0, 1]のサポートを持つので、 であり、したがってであり、したがって

結論として、ベータ分布の形状パラメータの最尤推定値は (一般に) 標本の幾何平均、およびXの鏡像である (1− X ))に基づく標本の幾何平均の複雑な関数です。モーメント法で 2 つの形状パラメータを推定するために平均に加えて分散が必要なのに、最尤法で 2 つの形状パラメータを推定するために (対数または幾何) 分散は必要なく、幾何平均だけで十分なのはなぜか、という疑問が生じるかもしれません。その答えは、平均は幾何平均ほど多くの情報を提供しないためです。等しい形状パラメータα  =  βを持つベータ分布の場合、平均は、形状パラメータの値に関係なく、したがって統計的分散 (分散) の値に関係なく、正確に 1/2 になります。一方、等しい形状パラメータα  =  βを持つベータ分布の幾何平均は、形状パラメータの値に依存するため、より多くの情報が含まれます。また、ベータ分布の幾何平均は平均が満たす対称条件を満たさないため、Xに基づく幾何平均と(1 −  X )に基づく幾何平均の両方を使用することで、最大尤度法は分散を使用せずに 両方のパラメータα  =  βの最良の推定値を提供することができます。

Ni iid観測値ごとの結合対数尤度は、十分な統計量(サンプル幾何平均) の観点から次のように表すことができます。

標本の幾何平均の値を固定して、 N 個の観測値あたりの結合対数尤度をプロットすることで、尤度関数が形状パラメータ α と β の関数としてどのように振舞うかを見ることができます。このようなプロットでは、形状パラメータ推定値は尤度関数の最大値に対応します。すべての尤度関数が α = β = 1 で交差していることを示す添付のグラフを参照してください。これは、最大エントロピーを与える形状パラメータの値に対応します (最大エントロピーは形状パラメータが 1 に等しい場合、つまり一様分布の場合に発生します)。プロットから、尤度関数は形状パラメータ推定値の値が 0 に近い場合に鋭いピークを示しますが、形状パラメータ推定値の値が 1 より大きい場合、尤度関数は非常に平坦になり、ピークがあまり明確でないことがわかります。明らかに、ベータ分布の最大尤度パラメータ推定法は、形状パラメータ推定値の値が大きくなるにつれてピーク定義の不確実性が増大するため、形状パラメータ推定値が大きい場合にはあまり受け入れられなくなります。尤度関数の曲率の表現が幾何分散で表されていることに注目すれば、同じ結論に達することができる。

これらの分散(ひいては曲率)は、形状パラメータαとβの値が小さい場合、はるかに大きくなります。しかし、形状パラメータα、β > 1の場合、分散(ひいては曲率)は平坦になります。同様に、この結果はクラメール・ラオ境界から導かれます。なぜなら、ベータ分布のフィッシャー情報行列成分はこれらの対数分散だからです。クラメール・ラオ境界は、αの任意の不偏推定値の分散がフィッシャー情報量逆数によって制限されることを示しています。

したがって、対数分散が減少するにつれて、α と β が増加すると推定値の分散が増加します。

また、サンプル幾何平均の対数に対するディガンマ関数式を使用して、N iid観測値ごとの結合対数尤度を次のように表すこともできます。

この式はクロスエントロピーの負数と同一です(「情報量(エントロピー)」のセクションを参照)。したがって、N iid観測値ごとに形状パラメータの結合対数尤度の最大値を求めることは、形状パラメータの関数としてベータ分布のクロスエントロピーの最小値を求めることと同一です。

クロスエントロピーは次のように定義されます。

4つの未知のパラメータ

この手順は、2つの未知パラメータの場合と同様です。Y 1 、…、Y N がそれぞれ4つのパラメータを持つベータ分布に従う独立確率変数である場合Niid観測値の結合対数尤度関数はようになります。

形状パラメータに関する最大値を見つけるには、形状パラメータに関する偏微分を取り、式をゼロに設定して形状パラメータの 最大尤度推定値を生成します。

これらの方程式は、4つのパラメータの最大尤度推定値に基づいて、次の4つの連立方程式(最初の2つの方程式は幾何平均、次の2つの方程式は調和平均)として再構成できます。

サンプル幾何平均付き:

パラメータは、非線形な方法(1/ N乗)で幾何平均式の中に埋め込まれます。これにより、反復計算のための初期値近似値であっても、一般に閉じた形式の解は得られません。1 つの代替案として、反復計算の初期値として、4 パラメータの場合のモーメント法の解から得られた値を使用する方法があります。さらに、調和平均の式は に対してのみ明確に定義されるため、4 パラメータの場合の形状パラメータが 1 より小さい場合の最大尤度解は得られません。4 パラメータの場合のフィッシャー情報行列は、 α、β > 2 の場合のみ正定値です(詳細については、「4 パラメータの場合のフィッシャー情報行列」のセクションを参照)。これは、変曲点がモードのいずれかの側に位置するベル型(対称または非対称)ベータ分布の場合です。次のフィッシャー情報成分(対数尤度関数の曲率の期待値を表す)は、次の値で 特異点を持ちます。

(詳細については、フィッシャー情報行列のセクションを参照してください。)したがって、一様分布(Beta(1, 1, a , c ))や逆正弦分布(Beta (1/2, 1/2, a , c ))など、4パラメータベータ分布族に属するよく知られた分布に対しては、厳密に最尤推定を行うことはできません。 NLJohnsonS.Kotz [ 1 ]は調和平均の式を無視し、代わりに「aとcが未知で、ac、α、βの最尤推定値が必要な場合は、上記の手順(2つの未知パラメータの場合、XはX = ( Y  −  a )/( c  −  a )に変換されます)を、 acの一連の試行値を使用して繰り返すことで、最大尤度( acが与えられた場合)が可能な限り大きくなるペア(ac )が得られるまで繰り返すことができます」と提案しています(ここでは、明確にするために、パラメータの表記法を現在の表記法に翻訳しています)。

フィッシャー情報行列

確率変数Xの確率密度をf(x;α)とする対数尤度関数未知で推定される)パラメータαに関する偏微分をスコアと呼ぶ。スコアの2次モーメントをフィッシャー情報と 呼ぶ

スコアの期待値ゼロなので、フィッシャー情報もスコアの平均を中心とした 2 番目のモーメント、つまりスコアの 分散になります。

対数尤度関数がパラメータαに関して2回微分可能であり、特定の正則性条件下では、[ 50 ]フィッシャー情報は次のようにも表される(これは計算目的にはより便利な形式であることが多い)。

したがって、フィッシャー情報量は、対数尤度関数 のパラメータαに関する2次導関数の期待値の負の値である。したがって、フィッシャー情報量は、αの対数尤度関数の曲率の尺度である。曲率が低い(したがって曲率半径が大きい)平坦な対数尤度関数曲線はフィッシャー情報量が低い。一方、曲率が大きい(したがって曲率半径が小さい)対数尤度関数曲線はフィッシャー情報量が高い。フィッシャー情報行列がパラメータの評価で計算される場合(「観測されたフィッシャー情報行列」)、それは真の対数尤度曲面を2次項まで考慮したテイラー級数近似で置き換えることと同等である。[ 51 ] フィッシャー情報量の文脈における「情報」という言葉は、パラメータに関する情報を指す。例えば、推定値、十分性、推定量の分散特性などの情報である。 Cramér -Rao境界は、フィッシャー情報の逆数がパラメータαの 任意の推定値の分散の下限値であることを示しています。

パラメータαの推定値を推定できる精度は、対数尤度関数のフィッシャー情報量によって制限される。フィッシャー情報量は、分布のパラメータを推定する際に生じる最小誤差の尺度であり、パラメータに関する2つの対立仮説を区別するために必要な実験の分解能の尺度とみなすことができる。[ 52 ]

N個のパラメータ がある場合

フィッシャー情報は、N × Nの正半正定値対称行列、つまりフィッシャー情報行列の形を取り、その典型的な要素は次のとおりです。

一定の規則性条件下では、[ 50 ]フィッシャー情報行列は次のような形式でも表すことができ、計算にはより便利な場合が多い。

X 1 , ..., X N のiidランダム変数を用いて、 X 1 , ..., X N の側面を持つN次元の「箱」を構築することができる。CostaとCover [ 53 ] は、(シャノン)微分エントロピーh ( X )は典型的な集合の体積(真のエントロピーに近い標本エントロピーを持つ)に関連し、フィッシャー情報はこの典型的な集合の面に関連していることを示す。

2つのパラメータ

形状パラメータαβでパラメータ化されたベータ分布を持つX 1、…、X N 個の独立確率変数について、 N個のiid観測値の結合対数尤度関数は次のようになります

したがって、 N iid観測値ごとの結合対数尤度関数は

2パラメータの場合、フィッシャー情報量は4つの成分(対角成分2つと非対角成分2つ)を持ちます。フィッシャー情報行列は対称行列であるため、これらの非対角成分のうち1つは独立です。したがって、フィッシャー情報行列は3つの独立成分(対角成分2つと非対角成分1つ)を持ちます。

AryalとNadarajah [ 54 ]は4パラメータの場合のフィッシャーの情報行列を計算し、そこから2パラメータの場合の行列は次のように得られる。

フィッシャー情報行列は対称なので

フィッシャー情報量成分は、対数幾何分散および対数幾何共分散に等しい。したがって、これらは、二ガンマ関数の導関数として定義されるポリガンマ関数の2番目である、ψ 1 (α) と表記される三ガンマ関数として表すことができる。

これらの導関数は§でも導出されます。対数尤度関数の 2つの未知パラメータとプロットもこのセクションで示されています。§幾何分散と共分散には、フィッシャー情報行列の成分(形状パラメータαとβの関数としての対数幾何分散と対数幾何共分散)のプロットと詳細な説明が含まれています。§ 対数変換されたランダム変数のモーメントには、対数変換されたランダム変数のモーメントの式が含まれています。フィッシャー情報成分との画像は§幾何分散に示されています。

フィッシャー情報行列の行列式は興味深いものです(例えば、ジェフリーズの事前確率の計算など)。フィッシャー情報行列の個々の要素の式から、ベータ分布に対するフィッシャー(対称)情報行列の行列式は次のようになります。

シルベスターの基準(対角要素がすべて正であるかどうかをチェックする)から、2 つのパラメータの場合のフィッシャー情報行列は正定値であることがわかります(形状パラメータが正のα  > 0 および β > 0であるという標準条件下で )。

4つのパラメータ
α  =  β対範囲 ( c  −  a ) および指数 α  =  βのフィッシャー情報I ( a , a )
α  =  βのフィッシャー情報I ( α , a ) と範囲 ( c  −  a ) および指数α  =  β

Y 1、...、Y N がそれぞれ4 つのパラメータ(指数αβ、およびa(分布範囲の最小値)、c(分布範囲の最大値))を持つベータ分布に従う独立したランダム変数である場合(「代替パラメータ化」、「4 つのパラメータ」のセクション)、確率密度関数は次のようになります。

Ni iid観測値 ごとの結合対数尤度関数は次の通りである。

4パラメータの場合、フィッシャー情報量は4×4=16成分を持つ。そのうち12個の非対角成分(合計4×4 - 対角成分4)を持つ。フィッシャー情報行列は対称行列であるため、これらの成分の半分(12/2=6)は独立である。したがって、フィッシャー情報行列は6個の独立した非対角成分と4個の対角成分、つまり10個の独立した成分を持つ。AryalとNadarajah [ 54 ]は、 4パラメータの場合のフィッシャー情報行列を次のように計算した。

上記の式では、式 var[ln( X )] = ln(var GX )でYの代わりにXを使用してもエラーにはなりません。 対数幾何分散と対数幾何共分散に関する式は、2 つのパラメーターX ~ Beta( αβ ) パラメーター化の関数として出現します。これは、4 つのパラメーターの場合に指数 ( αβ ) について偏微分を取ると、2 つのパラメーターの場合と同じ式が得られるためです。つまり、4 つのパラメーターのフィッシャー情報行列のこれらの項は、分布の範囲の最小値aと最大値cとは無関係です。対数尤度関数を指数αβについて二重微分したときにゼロでない項は、ベータ関数の対数の 2 次微分 ln(B( αβ )) のみです。この項は、分布の範囲の最小値aと最大値cとは無関係です。 「最大尤度」、「2 つの未知のパラメータ」、「4 つの未知のパラメータ」というタイトルのセクションにもこの事実が示されています。

N個のi.idサンプルに対するフィッシャー情報量は、個々のフィッシャー情報量のN倍である(式11.279、Cover and Thomas [ 28 ]の394ページ)。(AryalとNadarajah [ 54 ]は、 N = 1の単一観測値を用いてフィッシャー情報量の以下の成分を計算し、 N個の観測値ごとの対数尤度の導関数を考慮した場合と同じ結果を導出した。さらに、以下ではAryalとNadarajahの誤った式を修正した。)

フィッシャー情報行列の下2つの対角成分は、パラメータa(分布の範囲の最小値)に関して: 、パラメータc(分布の範囲の最大値)に関して: は、それぞれ指数α > 2およびβ > 2に対してのみ定義されます。最小値aのフィッシャー情報行列成分は、指数αが2から上方に近づくにつれて無限大に近づき、最大値cのフィッシャー情報行列成分は、指数βが2から上方に近づくにつれて無限大に近づきます。

4パラメータの場合のフィッシャー情報行列は、最小値aと最大値cの個々の値には依存せず、範囲全体(c  −  a )のみに依存します。さらに、範囲( c  −  a )に依存するフィッシャー情報行列の成分は、その逆数(または逆数の2乗)のみに依存するため、範囲( c  −  a )が増加するとフィッシャー情報量は減少します。

添付の画像は、フィッシャー情報量成分とを示しています。フィッシャー情報量成分との画像は、§ 幾何分散に示されています 。これらのフィッシャー情報量成分はすべて盆地のように見え、盆地の「壁」はパラメータの低い値に位置しています。

次の 4 パラメータベータ分布のフィッシャー情報量成分は、2 パラメータX ~ Beta(α, β)で表現できます。これは、変換された比率 ((1 −  X )/ X ) とその鏡像 ( X /(1 −  X )) の期待値であり、範囲 ( c  −  a ) でスケールされており、解釈に役立つ可能性があります。

これらは、「逆ベータ分布」またはベータプライム分布(第2種ベータ分布またはピアソンのタイプVIとも呼ばれる)[ 1 ]とその鏡像の期待値であり、範囲(c  −  a)でスケーリングされています。

また、以下のフィッシャー情報成分は、調和(1/X)分散または比率変換変数((1-X)/X)に基づく分散で次のように表現できます。

これらの期待値については、「線形変換された、積および反転されたランダム変数のモーメント」セクションを参照してください。

フィッシャーの情報行列の行列式は興味深いものです(例えば、ジェフリーズの事前確率の計算など)。個々の要素の式から、4つのパラメータを持つベータ分布のフィッシャーの(対称)情報行列の行列式は次のようになります。

シルベスターの基準(対角要素がすべて正であるかどうかを確認)を用い、対角成分とがα=2およびβ=2で特異点を持つことから、4パラメータの場合のフィッシャー情報行列はα>2およびβ>2に対して正定値となる。α>2およびβ>2の場合、ベータ分布は(対称または非対称の)ベル型となるため、フィッシャー情報行列は、変曲点がモードの両側に位置するベル型(対称または非対称)ベータ分布に対してのみ正定値となる。したがって、4パラメータベータ分布族に属する重要な分布、例えば放物線分布(Beta(2,2,a,c))や一様分布(Beta(1,1,a,c))は、4パラメータの場合に爆発する(無限大に近づく)フィッシャー情報量成分( )を持ちます(ただし、これらのフィッシャー情報量成分はすべて2パラメータの場合に定義されています)。4パラメータウィグナー半円分布(Beta(3/2,3/2, a , c ))とアークサイン分布(Beta(1/2,1/2, a , c ))は、4パラメータの場合に負のフィッシャー情報量行列式を持ちます。

ベイズ推論

一様分布確率密度は、ベイズ推論における事前確率の無知を表すためにトーマス・ベイズによって提案さまし

ベイズ推論においてベータ分布が用いられるのは、二項分布ベルヌーイ分布を含む)と幾何分布共役事前確率分布族を提供するからである。ベータ分布の定義域は確率として捉えることができ、実際、ベータ分布は確率値pの分布を記述するためにしばしば用いられる。[ 24 ]

ベイズ推論において事前パラメータ値の無知を表す事前確率として使用されるベータ分布の例としては、Beta(1,1)、Beta(0,0)、Beta(1/2,1/2) などがあります。

継承のルール

ベータ分布の古典的な応用例は、18世紀にピエール・シモン・ラプラス[ 55 ]が日の出問題 を扱う過程で導入した継承の法則である。これは、確率 p でn 回の条件付き独立ベルヌーイ試行s 回の成功があった場合次の試行での期待値の推定値は であると述べている。この推定値はpについての事後分布の期待値、すなわち Beta( s +1, ns +1) であり、 pについて一様な事前確率(すなわち Beta(1, 1)) を仮定し、p がn 回の試行でs 回の成功を生成したことを観察した場合にベイズの定理によって与えられる。ラプラスの継承の法則は著名な科学者から批判されてきた。RT Cox は、ラプラスによる日の出問題への継承の法則の適用( [ 56 ] p. 89) を「原理の適切な使用の茶番」と評した。ケインズは([ 57 ]第30章、382ページ)「実にこれは愚かな定理であり、これを受け入れること自体が信用できない」と述べている。カール・ピアソン[ 58 ]は、n回の試行でn回の成功があった後、次の( n + 1)回の試行が成功する 確率は わずか50%であることを示したが、これはジェフリーズのような科学者によって低すぎると考えられ、提案された科学法則を検証するための実験という科学的プロセスの代表としては受け入れられない。ジェフリーズ([ 59 ] 128ページ)(C・D・ブロード[ 60 ]の功績)が指摘するように、ラプラスの連続則は、次の試行で成功確率((n+1)/(n+2))が高くなる一方で、さらに(n +1)回のサンプルが同程度の大きさで成功する確率は中程度(50%)に過ぎない。パークス[ 61 ]が指摘するように、「継承の法則自体は受け入れがたいものである。この法則は次の試行に確率を割り当てるが、これは実際に観測された連なりが平均的な連なりであり、常に平均的な連なりの終わりにいるという仮定を意味する。平均的な連なりの途中にいると仮定する方が合理的であると思われるだろう。明らかに、両方の確率が合理的な信念と一致するためには、より高い値が必要である。」ラプラスの継承の法則のこれらの問題が、ハルデイン、パークス、ジェフリーズらに、他の形式の事前確率を模索する動機を与えた(次の§ ベイズ推論を参照)。ジェインズによれば、[ 52 ]継承の法則の主な問題は、s=0またはs=nの場合には有効ではないということである(その有効性の分析については、 継承の法則を参照)。

ベイズ・ラプラス事前確率(ベータ(1,1))

ベータ分布は、Beta(1,1)、すなわち分布の定義域内のすべての値が等しい密度を持つ一様確率密度において、最大微分エントロピーを達成します。この一様分布Beta(1,1)は、トーマス・ベイズ[ 62 ]によって(「多大な疑念を抱きつつ」)事前確率分布として提案され、正しい事前分布に関する無知を表明しました。この事前分布は、ピエール=シモン・ラプラスによって(彼の著作から判断すると、ほとんど疑念を抱くことなく[ 55 ])採用され、20世紀前半の文献では「ベイズ=ラプラス則」または「逆確率」の「ラプラス則」としても知られています。19世紀後半から20世紀初頭にかけて、科学者たちは、一様で「等しい」確率密度という仮定は、実際の関数(例えば、線形スケールと対数スケールのどちらが最適か)と使用されるパラメータ化に依存することを認識しました。特に、有限サポートを持つ分布の端点付近(例えば、初期サポートがx = 0である分布の場合、x = 0付近)の挙動には特別な注意が必要でした。ケインズ([ 57 ] Ch.XXX、p.381)は、0と1の間のすべての値が等確率であるというベイズの一様事前確率(Beta(1,1))の使用を次のように批判しました。「したがって、経験からわかることは、0と1の近傍において、統計的比率が非常に顕著に集まっていること、つまり、0の近傍における正の理論と正の性質間の相関の統計的比率、そして1の近傍における負の理論と負の性質間の相関の統計的比率が顕著に集まっていることです。」

ハルデーンの事前確率(Beta(0,0))

: ハルデン事前確率は、事前情報について全く無知であることを表します。つまり、実験が成功か失敗かという物理的な可能性さえも不明です。α, β → 0 のとき、ベータ分布は2点ベルヌーイ分布に近づき、すべての確率密度が両端、つまり0と1に集中し、その間の値は存在しません。コイントス:コインの片面が0、もう片面が1です。

ベータ(0,0)分布はJBSハルデイン[ 63 ]によって提案され完全な不確実性を表す事前確率はp −1 (1− p ) −1に比例するべきであると示唆した。関数p −1 (1− p ) −1 は、両方の形状パラメータが 0 に近づくにつれて、ベータ分布の分子の極限と見なすことができます (α、β → 0)。ベータ関数 (ベータ分布の分母) は、両方のパラメータが 0 に近づくにつれて (α、β → 0)、無限大に近づきます。したがって、ベータ関数で割ったp −1 (1− p ) −1は、α、β → 0 として、両端の 0 と 1 で確率が 1/2 で等しく、中間の確率がない 2 点ベルヌーイ分布に近づきます。コインを投げるようなものです。コインの片方の面が 0 でもう一方の面が 1 になります。ハルデン事前確率分布 Beta(0,0) は、両端の特異点のために積分 (0 から 1) が 1 に厳密に収束しないため、「不適切な事前分布」です。ただし、サンプル サイズが非常に小さい場合を除き、事後確率を計算する場合はこれが問題になりません。さらに、ゼルナー[ 64 ]は、対数オッズ尺度(ロジット変換)では、ハルデイン事前分布が一様平坦事前分布であることを指摘している。ロジット変換された変数ln( p /1−  p )(定義域(−∞,∞))上の一様事前確率が定義域[0,1]上のハルデイン事前分布と等価であるという事実は、ハロルド・ジェフリーズが著書『確率論』初版(1939年)で指摘した( [ 59 ] p.123)。ジェフリーズは次のように書いている。「確かに、ベイズ・ラプラス則を極限まで推し進めると、誰の考え方とも一致しない結果に至ります。(ハルデイン)則dx / ( x (1−  x ))は、反対方向に行き過ぎています。この則は、ある特性に関してあるサンプルがあるタイプである場合、母集団全体がそのタイプである確率が1であるという結論に至ります。」 「均一」はパラメータ化に依存するという事実から、ジェフリーズは異なるパラメータ化の下で不変となる事前分布の形式を模索することになった。

ジェフリーズの事前確率(ベルヌーイ分布または二項分布の場合はBeta(1/2,1/2))

ベータ分布のジェフリーズ事前確率:フィッシャーの情報行列の行列式の平方根:形状パラメータα、βの三ガンマ関数ψ 1の関数である。
成功 = "s"、失敗 = "f" のサンプルにおける、s /( s + f ) = 1/2、s + f = {3,10,50}の事後ベータ密度。3つの異なる事前確率関数(Haldane (Beta(0,0)、Jeffreys (Beta(1/2,1/2))、Bayes (Beta(1,1)))に基づく)に基づく。この図は、サンプルサイズが50の場合、事後分布の事前分布にほとんど差がないことを示しています(p  = 1/2付近でより顕著なピークが見られます)。非常に小さなサンプルサイズでは、有意な差が現れます(サンプルサイズが3の場合、分布はより平坦になります)。
成功 = "s"、失敗 = "f" のサンプルに対する、s /( s + f ) = 1/4、s + f ∈ {3,10,50}の事後ベータ密度。3つの異なる事前確率関数、Haldane (Beta(0,0)、Jeffreys (Beta(1/2,1/2))、Bayes (Beta(1,1))に基づく。この図は、サンプルサイズが50の場合、事後分布の事前分布にほとんど差がないことを示しています(p = 1/4付近でより顕著なピークが見られます)。非常に小さなサンプルサイズでは有意差が現れます(サンプルサイズが3の退化したケースでは非常に歪んだ分布です。この退化したありそうもないケースでは、Haldane事前分布は逆「J」字型になり、最頻値はp = 1/4 ではなくp = 0になります)。十分なサンプリングデータ がある場合、Bayes (Beta(1,1))、Jeffreysの3つの事前分布は、 (Beta(1/2,1/2))とHaldane(Beta(0,0))は同様の事後確率密度を生成するはずです。
成功 = s、失敗 = fs /( s + f ) = 1/4、s + f ∈ {4,12,40} のサンプルの事後ベータ密度。3つの異なる事前確率関数(Haldane (Beta(0,0)、Jeffreys (Beta(1/2,1/2))、Bayes (Beta(1,1)))に基づく)に基づく。この図は、サンプルサイズが40の場合、事後分布の事前分布にほとんど差がない(p  = 1/4付近でより顕著なピークを示す)ことを示している。非常に小さなサンプルサイズでは、有意な差が見られる。

Harold Jeffreys [ 59 ] [ 65 ]は、再パラメータ化に対して不変であるべき、フィッシャーの情報行列の行列式の平方根に比例する、情報を持たない事前確率尺度の使用を提案した。ベルヌーイ分布の場合、これは次のように示される。確率p ∈ [0, 1] で「表」になり、確率 1 − pで「裏」になるコインの場合、与えられた (H,T) ∈ {(0,1), (1,0)} に対して、確率はp H (1 − p ) Tである。T = 1 − Hなのでベルヌーイ分布はp H (1 − p ) 1 − Hである。p唯一のパラメータとすると、ベルヌーイ分布の対数尤度は次のようになる。

フィッシャー情報行列には 1 つのコンポーネントしかありません (パラメーターがpのみであるためスカラーです)。したがって、次のようになります。

同様に、n回のベルヌーイ試行を伴う二項分布の場合、

したがって、ベルヌーイ分布、二項分布の場合、ジェフリーズ事前分布はに比例し、これはドメイン変数x = p、形状パラメータ α = β = 1/2 を持つベータ分布、つまり逆正弦分布に比例します。

次のセクションでは、正規化定数が事後確率のベイズの定理で打ち消されるため、ジェフリーズの事前分布の正規化定数は最終結果には無関係であることを示します。したがって、Beta(1/2,1/2) は、ベルヌーイ分布と二項分布の両方のジェフリーズの事前分布として使用されます。次のセクションで示すように、この式をベイズの定理の事前確率と尤度を掛けたものとして使用すると、事後確率はベータ分布になります。ただし、ジェフリーズの事前分布はベルヌーイ分布と二項分布の場合は に比例しますが、ベータ分布の場合は に比例しないことを認識することが重要です。ベータ分布のジェフリーズの事前分布は、ベータ分布のフィッシャー情報量の行列式で与えられます。これは、§ フィッシャー情報行列に示すように、形状パラメータ α と β の三ガンマ関数ψ 1 の関数であり、次のように表されます。

前述のように、ベルヌーイ分布と二項分布の Jeffreys 事前分布は、ベルヌーイ分布と二項分布のパラメータpの関数として盆地のように見える1 次元曲線である逆正弦分布Beta(1/2,1/2)に比例します。盆地の壁は、p がp → 0 およびp → 1の端で特異点に近づくことによって形成され、Beta(1/2,1/2) は無限大に近づきます。ベータ分布の Jeffreys 事前分布は、ベータ分布の形状パラメータ α と β の関数として、2 つの壁のみが角 α = β = 0 で交わり、他の 2 つの壁がない、盆地のように見える2 次元表面(3 次元空間に埋め込まれた) です。この 2 次元表面の 2 つの隣接する壁は、形状パラメータ α と β が α、β → 0 で (トリガンマ関数の) 特異点に近づくことで形成されます。α、β → ∞ では壁はありません。これは、この場合、ベータ分布のフィッシャーの情報行列の行列式が 0 に近づくためです。

次のセクションでは、ジェフリーズの事前確率により、ハルデン事前確率とベイズ事前確率の事後確率結果の中間の事後確率 (二項尤度関数を乗算した場合) が得られることが示されます。

ジェフリーズの事前分布は解析的に得るのが難しい場合があり、場合によっては存在しない(非対称三角分布のような単純な分布関数でさえ)。バーガー、ベルナルド、サンは2009年の論文[ 66 ]で、 (ジェフリーズの事前分布とは異なり)非対称三角分布に対して存在する参照事前確率分布を定義した。彼らは参照事前分布の閉形式の表現を得ることはできないが、数値計算ではそれが(適切な)事前分布によってほぼ完全に適合することが示されている。

ここで、 θ はサポート [0, 1] を持つ非対称三角分布の頂点変数です (これは、Wikipedia の三角分布の記事にある次のパラメータ値に対応します: 頂点c = θ、左端a = 0、右端b = 1)。 Berger らはまた、Beta(1/2,1/2) が非対称三角分布の正確な Berger–Bernardo–Sun 参照事前分布である可能性があるという経験的議論も行っています。 そのため、Beta(1/2,1/2) はベルヌーイ分布と二項分布の Jeffreys 事前分布であるだけでなく、プロジェクト管理と PERT分析でプロジェクトタスクのコストと期間を説明するために使用される分布である非対称三角分布 (Jeffreys 事前分布は存在しない) の Berger–Bernardo–Sun 参照事前分布でもあると思われます。

クラークとバロン[ 67 ]は、連続正事前分布の中で、ジェフリーズ事前分布(存在する場合)は、サイズnのサンプルとパラメータ間のシャノン相互情報量を漸近的に最大化し、したがってジェフリーズ事前分布は最も情報量の少ない事前分布(シャノン情報量として測定される情報量)であることを証明している。この証明は、 iid乱数 に対する確率密度関数間のカルバック・ライブラー距離の検討に基づいている。

異なる事前確率の選択が事後ベータ分布に与える影響

ランダム変数Xの母集団からサンプルを抽出し、n 回のベルヌーイ試行n  =  s  +  fでs 回の成功とfの失敗を得た場合、x  =  p (以下の式の表記 x = p は、ドメイン x が二項分布のパラメーター p の値を表すことを強調します) 与え られパラメーターsおよびfの尤度関数は次の二項分布になります。

事前確率情報に関する信念が、パラメータα  Prior とβ  Prior を 持つベータ分布によって適切に近似される場合、次のようになります。

連続事象空間におけるベイズの定理によれば、事後確率密度は、事前確率と尤度関数(証拠sおよびf  =  n  −  sが与えられた場合)の積で与えられ、次のように曲線の下の面積が 1 になるように正規化されます。

項係数

は事後確率の分子と分母の両方に現れ、積分変数xに依存しないため打ち消され、最終結果には無関係です。同様に、事前確率の正規化係数であるベータ関数 B(αPrior,βPrior) も打ち消され、最終結果には無関係です。正規化されていない事前確率を用いても同じ事後確率が得られます。

正規化係数がすべて打ち消されるためです。そのため、正規化定数が打ち消されるため、複数の著者(ジェフリーズ自身を含む)は、正規化されていない事前式を使用しています。事後確率の分子は、事前確率と尤度関数の(正規化されていない)積となり、分母はその積分値(0から1)となります。分母のベータ関数B( s  +  α  Prior,  n  −  s  +  β  Prior)は、事後確率全体が1に積分されることを保証するための正規化定数として現れます。

成功回数と総試行回数の比s / nは二項分布の場合に十分な統計量であり、次の結果に関連します。

ベイズの事前確率(Beta(1,1))の場合、事後確率は次のようになります。

ジェフリーズの事前確率(Beta(1/2,1/2))の場合、事後確率は次のようになります。

ハルデン事前確率(Beta(0,0))の場合、事後確率は次のようになります。

上記の式から、s / n = 1/2の場合、上記3つの事前確率はすべて、 事後確率の平均 = 最頻値 = 1/2で同じ位置になります。s / n < 1/2の場合以下 の事前確率を用いた事後確率の平均は、ベイズ事前確率の平均 > ジェフリーズ事前確率の平均 > ハルデン事前確率の平均となります。s / n > 1/2の場合、これら不等式 の順序は逆転し、ハルデン事前確率が最大の事後平均となります。ハルデン事前確率Beta(0,0)は、平均(「次の」試行における成功確率の期待値)が成功回数と総試行回数の比s / nに等しい事後確率密度となります。したがって、ハルデン事前確率は、次の試行における期待値が最大尤度に等しい事後確率となります。ベイズ事前確率Beta(1,1)はs / n(最大尤度) の比と同一のモードを持つ事後確率密度をもたらします。

試行の100%が成功した場合(s  =  n)ベイズ事前確率Beta(1,1)は、事後期待値が継承則(n  + 1)/(n  + 2)に等しくなります。一方、ハルデン事前確率Beta(0,0)は、事後期待値が1(次の試行で絶対的に成功する確率)になります。ジェフリーズ事前確率は、事後期待値が(n  + 1/2)/(n  + 1)に等しくなります。パークス[ 61 ](303ページ)は次のように指摘している。「これは新しい継続のルールを提供し、取るべき『合理的な』立場を表現している。つまり、n回の成功が途切れることなく続いた後、次の試行の確率は平均的な実行のおよそ半分を終えたという仮定、つまり(2n  +2)回の試行に1回の失敗が予想されるという仮定に等しいと仮定する。ベイズ・ラプラス則は、平均的な実行のほぼ終わり、つまり(n +  2)回の試行に1回の失敗が予想されることを示唆している。この比較は、『合理性』の観点から、明らかに新しい結果(現在ジェフリーズ事前分布と呼ばれているもの)に有利である。」

逆に、試行の100%が失敗に終わった場合(s  = 0)、ベイズ事前確率Beta(1,1)は次の試行における成功の事後期待値が1/( n  + 2)に等しくなるのに対し、ハルデン事前確率Beta(0,0)は次の試行における成功の事後期待値が0(次の試行で絶対的に失敗する確実性)になる。ジェフリーズ事前確率は次の試行における成功の事後期待値が(1/2)/( n  + 1)に等しくなるが、パークス[ 61 ] (p.303)はこれを「ベイズ・ラプラスの結果1/( n + 2)よりもはるかに合理的に遠い結果である」と指摘している 。

Jaynes [ 52 ]は、(一様事前分布Beta(1,1)について) s  = 0またはs  =  nの場合のこれらの式の使用について疑問を呈している。なぜなら、積分が収束しないからである(Beta(1,1)はs  = 0またはs  =  nの場合に不適切な事前分布である)。実際には、ベイズ事前分布の両端の間にモードが存在するために必要な条件0<s<nは通常満たされており、したがってベイズ事前分布(0 <  s  <  nである限り)は、領域の両端の間に位置する事後モードをもたらす。

継承の法則のセクションで述べたように、K. ピアソンは、n回の試行でn回成功した後、次の ( n + 1 ) 回の試行がすべて成功する事後確率(ベイズBeta(1,1)分布を事前確率として用いる場合)は、 n の値に関わらず、正確に1/2であることを示した。ハルデンBeta(0,0)分布を事前確率として用いる場合、この事後確率は1(n回の試行 でn回成功した後、次の ( n + 1 ) 回の試行がすべて成功するという絶対的な確実性 )である。 Perks [ 61 ] (p.303)は、現在Jeffreys事前分布として知られているものについて、この確率は(( n  +1/2)/( n  +1))(( n  +3/2)/( n  +2))...(2n +  1/2)/( 2n  +1)となり、n  =1、2、3に対して15/24、315/480、9009/13440となり、nが無限大に近づくにつれて急速に限界値に近づくことを示しています。パークスは、現在ジェフリーズ事前分布として知られているものが、「ベイズ・ラプラスの結果や、ジェフリーズが否定した(ハルデン)代替則(確率として確実性を与える)の結果よりも明らかに『合理的』である」と述べている。これは明らかに帰納法の過程と非常によく対応している。それが目的にとって『絶対的に』合理的であるかどうか、つまり、1に達するという不合理性がなく、かつ十分な大きさであるかどうかは、他者が判断すべき問題である。しかし、その結果は、サンプリング実験前の完全な無関心と知識の欠如という仮定に依存していることを認識する必要がある。

以下は、これら 3 つの事前確率分布で得られた事後分布の分散です。

ベイズの事前確率(Beta(1,1))の場合、事後分散は次のようになります。

ジェフリーズの事前確率(Beta(1/2,1/2))の場合、事後分散は次のようになります。

ハルデン事前確率(Beta(0,0))の場合、事後分散は次のようになる。

したがって、Silvey [ 50 ]が指摘したように、 nが大きい場合、分散は小さく、したがって事後分布は非常に集中しているのに対し、想定された事前分布は非常に拡散しています。これは、漠然とした事前知識が(ベイズの定理により)有益な実験によってより正確な事後知識に変換されるため、期待される結果と一致しています。n が小さい場合、ハルデン事前分布 Beta(0,0) は事後分散が最大になり、ベイズ事前分布 Beta(1,1) はより集中した事後分散になります。ジェフリーズ事前分布 Beta(1/2,1/2) は、他の 2 つの中間の事後分散になります。n が増加するにつれて、分散は急速に減少し、3 つの事前分布すべての事後分散がほぼ同じ値に収束します(n → ∞ で分散がゼロに近づきます)。ハルデン事前確率Beta(0,0)は、平均(「次の」試行における成功確率の期待値)が成功回数と総試行回数の比s/nと同一である事後確率密度をもたらすという前の結果を思い出すと、上記の式から、ハルデン事前確率Beta(0,0)も、最大尤度推定s/nとサンプルサイズ(§ 分散) で表される分散と同一の事後確率密度をもたらすことがわかります。

平均μ  =  s / n、サンプルサイズ ν  =  nです。

ベイズ推論において、二項分布に事前分布Beta( αPrior , βPrior )を用いることは、観測された成功と失敗の実際の数に「成功」​​の疑似観測値(αPrior − 1)と「失敗」の疑似観測値( βPrior − 1)を加算し、実際の観測値と疑似観測値の両方における成功の割合で二項分布のパラメータpを推定することと等価である一様事前分布Beta(1,1)は、Beta(1,1)では(αPrior − 1) = 0かつ(βPrior − 1) = 0となるため、疑似観測値を加算(または減算)しない。Haldane事前分布Beta ( 0,0)はそれぞれ1つの疑似観測値を減算し、Jeffreys事前分布Beta(1/2,1/2)は成功の疑似観測値(1/2)と同数の失敗を減算する。この減算は事後分布を平滑化する効果があります。成功率が50%でない場合(s / n  ≠ 1/2)、α Priorとβ Priorの値が1未満(したがって、( α Prior − 1)と( β Prior − 1)が負)の場合、スパース性、つまりパラメータpが0または1に近づく分布が有利になります。実際には、α Priorとβ Priorの値が0から1の間であれば、それらが一緒に作用して集中パラメータとして機能します。

添付のプロットは、サンプルサイズn  ∈ {3,10,50}、成功s  ∈ { n /2, n /4}、Beta( α Prior, β Prior) ∈ {Beta(0,0),Beta(1/2,1/2),Beta(1,1)} の事後確率密度関数を示しています。また、n  = {4,12,40}、成功s  = { n /4}、Beta( α Prior, β Prior) ∈ {Beta(0,0),Beta(1/2,1/2),Beta(1,1)} の場合も示されています。最初のプロットは、成功s ∈ {n/2}、平均 = モード = 1/2 の対称的なケースを示しており、2 番目のプロットは、 s  ∈ { n /4} の歪んだケースを示しています。これらの画像は、サンプルサイズが50の場合、事後分布において事前分布間にほとんど差がないことを示しています(p  = 1/2付近でより顕著なピークが見られます)。非常に小さなサンプルサイズでは、有意差が見られます(特に、サンプルサイズが3の退化したケースでは、分布がより平坦になります)。したがって、成功率s  = { n /4}の歪んだケースでは、小さなサンプルサイズにおいて、対称的なケースよりも事前分布の選択による影響が大きいことがわかります。対称分布の場合、ベイズ事前分布Beta(1,1)は最もピークが高く、事後分布が最も高い分布となり、ハルデン事前分布Beta(0,0)は最も平坦でピークが最も低い分布となります。ジェフリーズ事前分布Beta(1/2,1/2)はそれらの中間に位置します。ほぼ対称で、それほど歪んでいない分布の場合、事前分布の影響は同様です。サンプル サイズが非常に小さい場合 (この場合はサンプル サイズが 3) および分布が歪んでいる場合 (この例ではs  ∈ { n /4})、ハルデイン事前分布は、左端に特異点を持つ逆 J 字型の分布になる可能性があります。ただし、これは退化した場合にのみ発生します (この例ではn  = 3 なのでs  = 3/4 < 1 となり、ハルデイン事前分布の事後分布のモードが両端の間に位置するためには s が 1 より大きくなければならないため退化した値となり、s  = 3/4 は整数でないため尤度に対する二項分布の初期仮定に違反します)。また、これはサンプル サイズが妥当な一般的な場合 (両端の間にモードが存在するために必要な条件 1 <  s  <  n  − 1 が満たされる場合) には問題になりません。

ジェインズ[ 52 ]は著書の第12章(385ページ)で、ハルデン事前分布Beta(0,0)は完全な無知の事前知識状態を表し、実験が成功か失敗のどちらをもたらすかが物理的に可能かどうかさえわからないが、ベイズ(一様)事前分布Beta(1,1)は2つの結果の両方が可能であるとわかっている場合に適用されると主張している。ジェインズは次のように述べている。「ベイズ・ラプラス事前分布(Beta(1,1))は完全な無知の状態を表すのではなく、1つの成功と1つの失敗を観察した知識状態を表すと解釈する…少なくとも1つの成功と1つの失敗が分かれば、実験は物理的可能性という意味で真の2値実験であるとわかる。」ジェインズ[ 52 ]はジェフリーズの事前分布Beta(1/2,1/2)については特に論じていない(ジェインズの著書[ 52 ]の181ページ、423ページ、第12章での「ジェフリーズの事前分布」についてのジェインズの論じは、代わりにジェフリーズが1939年版の著書[59]で導入した不適切で正規化されていない事前分布「1/pdp」について言及いる。これ はジェフリーズが現在ジェフリーズの不変事前分布として知られるもの、すなわちフィッシャーの情報行列の行列式の平方根を導入する7年前のことである。 「1/p」はジェフリーズ(1946)の指数分布に対する不変事前分布であり、ベルヌーイ分布や二項分布に対するものではない)。しかし、上記の議論から、ジェフリーズベータ(1/2,1/2)事前分布はハルデンベータ(0,0)事前分布とベイズベータ(1,1)事前分布の中間の知識状態を表すことがわかります。

同様に、カール・ピアソンは1892年の著書『科学の文法』[ 68 ] [ 69 ](1900年版144ページ)の中で、ベイズ(ベータ(1,1))一様事前分布は完全な無知事前分布ではなく、事前情報によって「無知を均等に分配する」ことが正当化される場合にのみ使用すべきであると主張した。ピアソンは次のように書いている。「しかし、我々が立てたと思われる唯一の仮定は、自然について何も知らない以上、ルーティンとアノミー(ギリシャ語のανομία、つまり「なし」と「法則」に由来)は、等しく起こりうると考えるべきだ、というものである。しかし、この仮定を立てることさえ、実際には正当化されていなかった。なぜなら、それは自然に関して我々が持っていない知識を伴うからである。我々は、コインの構造と挙動に関する一般的な経験を用いて、表と裏の確率は等しいと主張するが、自然について何も知らない以上、ルーティンが等しく起こりうると経験に基づいて主張する権利はない。規範と違反は、どちらも等しく起こりうる。無知な我々は、経験に先立って、自然はあらゆるルーティン、あらゆるアノミー(無規範性)、あるいはその両者のあらゆる割合の混合から成り立つ可能性があり、そしてそれらはすべて等しく起こりうることを考慮すべきである。経験後のこれらの構成のうちどれが最も起こりうるかは、明らかにその経験がどのようなものであったかによって決まる。

十分なサンプリングデータがあり、事後確率モードが領域の両端x  = 0またはx  = 1)に位置していない場合、ベイズ(Beta(1,1))、ジェフリーズ(Beta(1/2,1/2))、ハルデン(Beta(0,0))の3つの事前分布は、同様の事後確率密度を生成するはずである。そうでない場合、Gelmanら[ 70 ](p.65)が指摘するように、「利用可能なデータが非常に少なく、非情報事前分布の選択が違いを生む場合、事前分布に関連情報を入れるべきである」、あるいはBerger [ 4 ](p.125)が指摘するように、「異なる合理的な事前分布が実質的に異なる答えを生み出す場合、単一の答えがあると述べるのは正しいだろうか結論が事前の信念に依存する科学的不確実性があることを認める方が良いのではないか?」。

発生と応用

順序統計

ベータ分布は順序統計理論において重要な応用を持っています。基本的な結果は、連続一様分布から得られたn個の標本のうちk番目に小さいものの分布はベータ分布に従うということです。[ 40 ]この結果は次のように要約されます

このことから、そして確率積分変換に関連する理論を応用することで、任意の連続分布から任意の個々の順序統計量の分布を導くことができる。[ 40 ]

主観論理

標準的な論理では、命題は真か偽かのどちらかであるとみなされます。対照的に、主観論理では、人間は現実世界に関する命題が絶対的に真か偽かを絶対的に確実に判断することはできないと仮定します。主観論理では、2値事象の事後確率推定値はベータ分布で表すことができます。[ 71 ]

ウェーブレット解析

ウェーブレットは、振幅がゼロから始まり、増加し、その後ゼロに戻る波のような振動です。通常、すぐに減衰する「短い振動」として視覚化できます。ウェーブレットは、音声信号や画像など、さまざまな種類のデータから情報を抽出するために使用できます。したがって、ウェーブレットは、信号処理に役立つ特定の特性を持つように意図的に作成されています。ウェーブレットは時間と周波数の両方で局在化しますが、標準的なフーリエ変換は周波数のみで局在化します。したがって、標準的なフーリエ変換は定常プロセスにのみ適用できますが、ウェーブレットは定常プロセスに適用できます。連続ウェーブレットはベータ分布に基づいて構築できます。ベータウェーブレット[ 72 ]は、2つの形状パラメータαとβによって形状が微調整される ハールウェーブレットのソフトな変種と見なすことができます

集団遺伝学

ボールディング・ニコルズモデルは、集団遺伝学で使用されるベータ分布の2パラメータです。[ 73 ]これは、細分化された集団の構成要素における 対立遺伝子頻度 の統計的記述です

ここで、F2 つの集団間の (ライトの) 遺伝距離です。

プロジェクト管理:タスクコストとスケジュールのモデリング

ベータ分布は、最小値と最大値で定義された区間内で発生するように制約された事象をモデル化するために使用できます。このため、ベータ分布は三角分布とともに、 PERTクリティカルパス法(CPM)、共同費用スケジュールモデリング(JCSM)、その他のプロジェクト管理/制御システム において、タスクの完了までの時間とコストを記述するために広く使用されています。プロジェクト管理においては、ベータ分布の平均標準偏差を推定するために、簡略化された計算が広く用いられています。 [ 39 ]

ここで、 aは最小値、cは最大値、bは最も可能性の高い値 ( α > 1 およびβ > 1の場合のモード) です。

上記の平均値 の推定値はPERT 3 点推定値として知られており、次のβの値のいずれに対しても正確です(これらの範囲内の任意の α に対して)。

β = α > 1 (対称ケース) 、標準偏差歪度= 0、過剰尖度=

または

β = 6 − α(5 > α > 1(歪んだケース)の場合)、標準偏差

歪度過剰尖度

上記の標準偏差の推定値σ ( X )=( ca )/6は、 αβが以下のいずれの値であっても正確です。

α = β = 4(対称)、歪度= 0、過剰尖度= −6/11。
β = 6 − αかつ(右側、正の歪度)、歪度過剰尖度= 0
β = 6 − αかつ(左側、負の歪度)、歪度過剰尖度= 0

そうでなければ、αとβの他の値を持つベータ分布の近似値としては不十分であり、平均で40%、分散で549%の平均誤差を示す。[ 74 ] [ 75 ] [ 76 ]

ランダム変量生成

XYが 独立で、かつ

したがって、ベータ変量を生成するアルゴリズムの1つは、Xがパラメータ(α, 1)を持つガンマ変量であり、Yパラメータ(β, 1)を持つ独立ガンマ変量であるときに、を生成することです。[ 77 ] 実際、ここでとが独立しており、です。とがおよびから独立している場合、とはから独立しています。これは、独立変数とランダム変数の積がランダム変数であることを示しています。

また、n個の一様分布変量のk次の順序統計量は なので、 αβが小さな整数の場合の代替案は、α + β − 1個の一様変量を生成し、αから数えて1番目に小さいものを選択することである。[ 40 ]

ベータ分布を生成するもう一つの方法は、ポリア壷モデルです。この方法では、α個の「黒」ボールとβ個の「白」ボールが入った「壷」から始め、一様に復元抽出を行います。試行ごとに、最後に抽出したボールの色に応じてボールが1つ追加されます。漸近的に、黒と白のボールの割合はベータ分布に従って分布し、実験を繰り返すたびに異なる値が生成されます。

逆変換サンプリングを使用することもできます。

ベータ分布の正規近似

α ~ β かつαβ >> 1のベータ分布は平均1/2、分散1/(4(2 α + 1))の正​​規分布に近似する。α ≥ βの場合、正規分布の近似値は、αの逆数の対数の立方根を取ることで改善できる[ 78 ] [ 79 ]

歴史

トーマス・ベイズは、1763年にリチャード・プライスによって出版された死後論文[ 62 ]の中で、ベルヌーイ試行における成功確率の密度としてベータ分布を得ました(§応用、ベイズ推論を参照)。しかし、この論文ではベータ分布のモーメントの分析やその特性の議論は行われていません

カール・ピアソンはベータ分布をピアソン分布のタイプIの解として解析した。

ベータ分布に関する最初の体系的な現代的議論は、おそらくカール・ピアソンによるものである。[ 80 ] [ 81 ]ピアソンの論文[ 21 ] [ 33 ]では、ベータ分布は微分方程式の解として表現されている。この方程式はピアソンのタイプI分布であり、任意のシフトと再スケーリングを除けば本質的にはピアソンのタイプI分布と同一である(ベータ分布とピアソンのタイプI分布は、適切なパラメータの選択によって常に等しくなる)。実際、第二次世界大戦前の数十年間のいくつかの英語の書籍や雑誌記事では、ベータ分布をピアソンのタイプI分布と呼ぶのが一般的であった。 ウィリアム・P・エルダートンは、 1906年のモノグラフ「頻度曲線と相関」[ 42 ]の中で、ベータ分布をピアソンのタイプI分布としてさらに分析し、4パラメータの場合のモーメント法の詳細な議論、U字型、J字型、ねじれたJ字型、「三角帽子型」、水平および斜めの直線の場合の図(エルダートンはこれを「三角帽子型」と表現している)などを掲載している。エルダートンは「私は主にピアソン教授に恩義を感じていますが、その恩義は公式に感謝の意を表すことが不可能なほどのものです」と記している。 エルダートンは1906年のモノグラフ[ 42 ]の中で、ベータ分布に関する膨大な情報を提供しており、最頻値として選択された分布の起源式や、タイプIからタイプVIIまでの他のピアソン分布に関する式も提供している。エルダートンはまた、ベータ関数とガンマ関数に関する付録(「II」)を含む多数の付録も掲載している。後の版では、エルダートンは平均として選択された分布の起源に関する方程式と、ピアソン分布 VIII から XII の分析を追加しました。

ボウマンとシェントン[ 44 ]は、「フィッシャーとピアソンは(パラメータ)推定のアプローチ、特にベータ分布の場合の(ピアソンの)モーメント法と(フィッシャーの)最大尤度法に関して意見の相違があった」と述べている。また、ボウマンとシェントンによれば、「タイプI(ベータ分布)モデルが論争の中心となったのは、全くの偶然だった。4つのパラメータを持つ、これより難しいモデルを見つけるのは難しかっただろう」という。フィッシャーとカール・ピアソンの長年にわたる公的な対立は、権威ある雑誌に掲載された多くの論文で追うことができる。例えば、ベータ分布の4つのパラメータの推定、そしてフィッシャーによるピアソンのモーメント法の恣意性に関する批判については、ピアソンの論文「モーメント法と最尤法」[ 45 ](ロンドン大学ユニバーシティ・カレッジを退職して3年後に発表。ユニバーシティ・カレッジの職はフィッシャーとピアソンの息子エゴンが分担していた)を参照のこと。ピアソンは次のように記している。「私は(コシャイの1933年王立統計学会誌掲載論文を)読んだが、これは私の知る限り、現在出版されているフィッシャー教授の手法の適用例の中で唯一のものである。驚いたことに、その手法は、まず(ピアソン)モーメント法によって頻度曲線の定数を求め、次にフィッシャーが「最尤法」と呼ぶものによって更なる近似値を重ね合わせることで、曲線定数の『より効率的な値』を得るという彼の主張に基づいている。」

統計学の歴史に関するデイヴィッドとエドワーズによる論文[ 82 ]では、ベータ分布に関する最初の現代的な扱いについて1911年[ 83 ]に言及しており、ジニ係数を考案したイタリアの統計学者人口統計学者社会学者であるコラード・ジニ によって標準となったベータの呼称が使われている。N.L .ジョンソンS.コッツは、 統計科学における主要な歴史上の人物に関する包括的で非常に情報量の多いモノグラフ[ 84 ]の中で、コラード・ジニ[ 85 ] を「初期のベータ分布のパラメータを導き出す問題を、いわゆる経験的ベイズ法の出現を予見する手法を取り上げて扱った初期のベイズ主義者」と評価している。

参考文献

  1. ^ a b c d e f g h i j k l m n o p q r s t u v w x yジョンソン、ノーマン・L.; コッツ、サミュエル; バラクリシュナン、N. (1995). 「第25章 ベータ分布」.連続一変量分布第2巻(第2版). Wiley. ISBN 978-0-471-58494-0
  2. ^ a bコリン・ローズ、マレー・D・スミス (2002). MATHEMATICAによる数理統計. Springer. ISBN 978-0387952345
  3. ^ a b c Kruschke, John K. (2011).ベイズ統計解析の実践:RとBUGSを使ったチュートリアル. Academic Press / Elsevier. p. 83. ISBN 978-0123814852
  4. ^ a bバーガー、ジェームズ・O. (2010).統計的意思決定理論とベイズ分析(第2版). シュプリンガー. ISBN 978-1441930743
  5. ^ a b cウィリアム・フェラー (1971).確率論とその応用入門 第2巻. Wiley. ISBN 978-0471257097
  6. ^ワズワース、GP(1960年)『確率と確率変​​数入門』ニューヨーク:マグロウヒル、  52ページ
  7. ^ Kruschke, John K. (2015). 『ベイズ統計データ分析の実践:R、JAGS、Stanを使ったチュートリアル』Academic Press / Elsevier. ISBN 978-0-12-405888-0
  8. ^ a bワズワース、ジョージ・P.、ジョセフ・ブライアン (1960)。確率と確率変​​数入門。マグロウヒル
  9. ^ a b c d e f gグプタ、アルジュン・K.編 (2004).ベータ分布とその応用ハンドブック. CRC Press. ISBN 978-0824753962
  10. ^ a b Kerman, Jouni (2011). 「ベータ分布の中央値の閉形式近似」arXiv : 1111.0433 [ math.ST ]
  11. ^ Mosteller, Frederick、John Tukey (1977). 『データ分析と回帰:統計学第2講座』Addison-Wesley Pub. Co. Bibcode : 1977dars.book.....M . ISBN 978-0201048544
  12. ^ウィリアム・フェラー(1968年)『確率論とその応用入門』第1巻(第3版)ワイリー社ISBN 978-0471257080
  13. ^フィリップ・J・フレミング、ジョン・J・ウォレス「統計で嘘をつかない方法:ベンチマーク結果を正しく要約する方法」Communications of the ACM、29(3):218–221、1986年3月。
  14. ^ 「NIST/SEMATECH 統計手法の電子ハンドブック 1.3.6.6.17. ベータ分布」国立標準技術研究所情報技術研究所2012年4月. 2016年5月31日閲覧
  15. ^ Oguamanam, DCD; Martin, HR; Huissoon, JP (1995). 「ベータ分布のギア損傷解析への応用について」.応用音響. 45 (3): 247– 261. doi : 10.1016/0003-682X(95)00001-P .
  16. ^ Zhiqiang Liang; Jianming Wei; Junyu Zhao; Haitao Liu; Baoqing Li; Jie Shen; Chunlei Zheng (2008年8月27日). 尖度の統計的意味と地震信号に基づく人物識別への新たな応用」 . Sensors . 8 (8): 5106– 5119. Bibcode : 2008Senso...8.5106L . doi : 10.3390/s8085106 . PMC 3705491. PMID 27873804 .  
  17. ^ Kenney, JF, および E.S. Keeping (1951). 『統計数学 パート2』第2版. D. Van Nostrand Company Inc.{{cite book}}: CS1 maint: multiple names: authors list (link)
  18. ^ a b c dアブラモウィッツ、ミルトン、アイリーン・A・ステガン (1965).数式、グラフ、表付き数学関数ハンドブック. ドーバー. ISBN 978-0-486-61272-0
  19. ^ Weisstein, Eric W. 「Kurtosis」 . MathWorld - Wolfram Web Resource . 2012年8月13日閲覧
  20. ^ a bパニック、マイケル・J (2005). 『初等的視点からの高度統計学』 アカデミック・プレス. ISBN 978-0120884940
  21. ^ a b c d e fピアソン、カール(1916). 「進化論への数学的貢献 XIX:歪度変動に関する回想録第2補遺」 .王立協会哲学論文集 A. 216 ( 538–548 ) : 429–457 .書誌コード: 1916RSPTA.216..429P . doi : 10.1098/rsta.1916.0009 . JSTOR 91092 
  22. ^グラドシュテイン、イズライル・ソロモノヴィッチ;ヨシフ・モシェヴィッチ・リジク;ジェロニムス、ユーリ・ヴェニアミノヴィッチ;ツェイトリン、ミハイル・ユリエヴィッチ;ジェフリー、アラン (2015) [2014 年 10 月]。ツウィリンガー、ダニエル。モル、ヴィクトル・ユーゴー(編)。インテグラル、シリーズ、および製品の表。 Scripta Technica, Inc. による翻訳 (第 8 版)。Academic Press, Inc. ISBN 978-0-12-384933-5 LCCN  2014010276
  23. ^ビリングスリー、パトリック (1995) . 「第30章 モーメント法」.確率と測度(第3版). Wiley-Interscience. ISBN 978-0-471-00710-4
  24. ^ a b MacKay, David (2003).情報理論、推論、学習アルゴリズム. Cambridge University Press; 初版.書誌コード: 2003itil.book.....M . ISBN 978-0521642989
  25. ^ a b Johnson, NL (1949). 「並進法によって生成された頻度曲線のシステム」(PDF) . Biometrika . 36 ( 1–2 ): 149–176 . doi : 10.1093/biomet/36.1-2.149 . hdl : 10338.dmlcz/ 135506 . PMID 18132090 
  26. ^ Verdugo Lazo, ACG; Rathie, PN (1978). 「連続確率分布のエントロピーについて」IEEE Trans. Inf. Theory . 24 (1): 120– 122. doi : 10.1109/TIT.1978.1055832 .
  27. ^シャノン、クロード・E. (1948). 「通信の数学的理論」.ベルシステム技術ジャーナル. 27 (4): 623– 656. doi : 10.1002/j.1538-7305.1948.tb01338.x .
  28. ^ a b c Cover, Thomas M. and Joy A. Thomas (2006). 『情報理論の要素 第2版』(Wileyシリーズ 電気通信と信号処理) . Wiley-Interscience; 第2版. ISBN 978-0471241959
  29. ^プランケット、キム、ジェフリー・エルマン (1997)。『生得性の再考:コネクショニストシミュレーションのためのハンドブック(ニューラルネットワークモデリングとコネクショニズム)』ブラッドフォードブック、166ページ。ISBN 978-0262661058{{cite book}}: CS1 maint: multiple names: authors list (link)
  30. ^ナラパティ、ラメシュ (2006).平滑化ディリクレ分布:情報検索におけるクロスエントロピーランキングの理解(論文). マサチューセッツ大学アマースト校コンピュータサイエンス学部
  31. ^ a bピアソン、エゴン・S.(1969年7月)。「頻度曲線の利用の発展を通して辿る歴史的考察」 THEMIS統計分析研究プログラム、技術報告書38。海軍研究局、契約番号N000014-68-A-0515(プロジェクトNR 042–260)。
  32. ^ Hahn, Gerald J.; Shapiro, S. (1994). Statistical Models in Engineering (Wiley Classics Library) . Wiley-Interscience. ISBN 978-0471040651
  33. ^ a bピアソン、カール(1895). 「進化の数学的理論への貢献 II:均質物質における歪んだ変化」 .王立協会哲学論文集. 186 : 343–414 .書誌コード: 1895RSPTA.186..343P . doi : 10.1098/rsta.1895.0010 . JSTOR 90649 
  34. ^ Buchanan, K.; Rockway, J.; Sternberg, O.; Mai, NN (2016年5月). 「円形テーパーランダムアレイを用いたレーダーアプリケーションのための和差ビームフォーミング」 . 2016 IEEE Radar Conference (RadarConf) . pp.  1– 5. doi : 10.1109/RADAR.2016.7485289 . ISBN 978-1-5090-0863-6. S2CID  32525626 .
  35. ^ Buchanan, K.; Flores, C.; Wheeland, S.; Jensen, J.; Grayson, D.; Huff, G. (2017年5月). 「円形テーパーランダムアレイを用いたレーダーアプリケーションのための送信ビームフォーミング」. 2017 IEEE Radar Conference (RadarConf) . pp.  0112– 0117. doi : 10.1109/RADAR.2017.7944181 . ISBN 978-1-4673-8823-8. S2CID  38429370 .
  36. ^ Ryan, Buchanan, Kristopher (2014-05-29). 「非周期的(ランダム)フェーズドアレイの理論と応用{{cite web}}: CS1 maint: multiple names: authors list (link)
  37. ^ Pham-Gia, T. (2000年1月). 「独立ベータ変数の比率の分布とその応用」 . Communications in Statistics - Theory and Methods . 29 (12): 2693– 2715. doi : 10.1080/03610920008832632 . ISSN 0361-0926 . 2024年11月13日閲覧. 
  38. ^エレリアス・ベラスコ、ホセ・マヌエル、エレリアス・プレゲスエロ、ラファエル、ルネ・ファン・ドルプ、ヨハン。 (2011年)。 PERT 平均と分散を再検討します。 European Journal of Operational Research (210)、p. 448–451。
  39. ^ a b Malcolm, DG; Roseboom, JH; Clark, CE; Fazar, W. (1958年9月~10月). 「研究開発プログラム評価への手法の応用」.オペレーションズ・リサーチ. 7 (5): 646– 669. doi : 10.1287/opre.7.5.646 . ISSN 0030-364X . 
  40. ^ a b c d David、HA、Nagaraja、HN (2003)注文統計(第 3 版)。ニュージャージー州ワイリー、458 ページ。ISBN 0-471-38926-9
  41. ^ 「1.3.6.6.17. ベータ版配布www.itl.nist.gov
  42. ^ a b c d e f g hエルダートン、ウィリアム・ペイリン (1906).頻度曲線と相関関係チャールズ・アンド・エドウィン・レイトン (ロンドン).
  43. ^エルダートン、ウィリアム・ペイリン、ノーマン・ロイド・ジョンソン (2009). 『度数曲線の体系』ケンブリッジ大学出版局. ISBN 978-0521093361
  44. ^ a b c Bowman, KO ; Shenton, LR (2007). 「ベータ分布、モーメント法、Karl PearsonとRA Fisher」(PDF) . Far East J. Theo. Stat . 23 (2): 133– 164
  45. ^ a bピアソン, カール (1936年6月). 「モーメント法と最大尤度法」. Biometrika . 28 (1/2): 34– 59. doi : 10.2307/2334123 . JSTOR 2334123 . 
  46. ^ a b c Joanes, DN; CA Gill (1998). 「標本の歪度と尖度の指標の比較」. The Statistician . 47 (Part 1): 183– 189. doi : 10.1111/1467-9884.00122 .
  47. ^ Beckman, RJ; GL Tietjen (1978). 「ベータ分布の最大尤度推定」. Journal of Statistical Computation and Simulation . 7 ( 3–4 ): 253– 258. doi : 10.1080/00949657808810232 .
  48. ^ Gnanadesikan, R., Pinkham and Hughes (1967). 「最小順序統計量によるベータ分布パラメータの最大尤度推定」. Technometrics . 9 (4): 607– 620. doi : 10.2307/1266199 . JSTOR 1266199 . {{cite journal}}: CS1 maint: multiple names: authors list (link)
  49. ^ Fackler, Paul. 「逆ディガンマ関数(Matlab)」ハーバード大学工学応用科学部. 2012年8月18日閲覧
  50. ^ a b cシルベイ, SD (1975).統計的推論. チャップマンとハル. p. 40. ISBN 978-0412138201
  51. ^ Edwards, AWF (1992).尤度. ジョンズ・ホプキンス大学出版局. ISBN 978-0801844430
  52. ^ a b c d e f Jaynes, ET (2003).確率論、科学の論理. Cambridge University Press. ISBN 978-0521592710
  53. ^コスタ、マックス、カバー、トーマス(1983年9月)。エントロピー・パワー不等式とブルン・ミンコフスキー不等式の類似性について(PDF)。スタンフォード大学統計学部、技術レポート48{{cite book}}: CS1 maint: multiple names: authors list (link)
  54. ^ a b c Aryal, Gokarna; Saralees Nadarajah (2004). 「ベータ分布の情報行列」(PDF) . Serdica Mathematical Journal (ブルガリア科学アカデミー) . 30 : 513– 526.
  55. ^ a bラプラス、ピエール・シモン、侯爵(1902年)。確率に関する哲学的エッセイ。ニューヨーク:J. Wiley、ロンドン:Chapman & Hall。ISBN 978-1-60206-328-0{{cite book}}: ISBN / Date incompatibility (help)CS1 maint: multiple names: authors list (link)
  56. ^コックス、リチャード・T. (1961).確率推論の代数. ジョンズ・ホプキンス大学出版局. ISBN 978-0801869822{{cite book}}: ISBN / Date incompatibility (help)
  57. ^ a bケインズ、ジョン・メイナード (2010) [1921]. 『確率論:哲学と科学史のつながり』ワイルドサイド・プレス. ISBN 978-1434406965
  58. ^ピアソン、カール (1907).「過去の経験が未来への期待に与える影響について」.哲学雑誌. 6 (13): 365–378
  59. ^ a b c dジェフリーズ、ハロルド(1998年)『確率論』オックスフォード大学出版局、第3版。ISBN 978-0198503682
  60. ^ Broad, CD (1918年10月). 「帰納法と確率の関係について」. MIND, 心理学と哲学の季刊誌. 27 (新シリーズ) (108): 389– 404. doi : 10.1093/mind/XXVII.4.389 . JSTOR 2249035 . 
  61. ^ a b c dパークス, ウィルフレッド (1947年1月). 「逆確率に関するいくつかの考察(新たな無差別則を含む)」 .アクチュアリー協会誌. 73 (2): 285– 334. doi : 10.1017/S0020268100012270 . 2014年1月12日時点のオリジナルよりアーカイブ。 2012年9月19日閲覧
  62. ^ a bベイズ、トーマス; リチャード・プライス (1763) による伝達。「偶然性の教義における問題解決に向けた試論」王立協会哲学論文集53 : 370–418 . doi : 10.1098/rstl.1763.0053 . JSTOR 105741 . 
  63. ^ Haldane, JBS (1932). 「逆確率に関する注記」.ケンブリッジ哲学協会数学紀要. 28 (1): 55– 61. Bibcode : 1932PCPS...28...55H . doi : 10.1017/s0305004100010495 . S2CID 122773707 . 
  64. ^ゼルナー、アーノルド (1971).計量経済学におけるベイズ推論入門. Wiley-Interscience. ISBN 978-0471169376
  65. ^ジェフリーズ、ハロルド(1946年9月). 「推定問題における事前確率の不変形式」 . Proceedings of the Royal Society A 24. 186 (1007): 453–461 . Bibcode : 1946RSPSA.186..453J . doi : 10.1098/ rspa.1946.0056 . PMID 20998741 
  66. ^ Berger, James; Bernardo, Jose; Sun, Dongchu (2009). 「参照事前分布の正式な定義」 . The Annals of Statistics . 37 (2): 905– 938. arXiv : 0904.0156 . Bibcode : 2009arXiv0904.0156B . doi : 10.1214/07-AOS587 . S2CID 3221355 . 
  67. ^ Clarke, Bertrand S.; Andrew R. Barron (1994). 「ジェフリーズの事前分布はエントロピーリスクの下で漸近的に最も不利である」(PDF) . Journal of Statistical Planning and Inference . 41 : 37–60 . doi : 10.1016/0378-3758(94)90153-8 .
  68. ^ピアソン、カール (1892). 『科学の文法』 ウォルター・スコット、ロンドン。
  69. ^ピアソン、カール (2009). 『科学の文法』 . BiblioLife. ISBN 978-1110356119
  70. ^ Gelman, A., Carlin, JB, Stern, HS, and Rubin, DB (2003).ベイズ統計データ解析. Chapman and Hall/CRC. ISBN 978-1584883883{{cite book}}: CS1 maint: multiple names: authors list (link)
  71. ^ Jøsang, Audun (2001). 不確実な確率のための論理」 .国際不確実性、あいまいさ、知識ベースシステムジャーナル. 9 (3): 279– 311. doi : 10.1142/S0218488501000831 . MR 1843261 
  72. ^ HM de OliveiraとGAA Araújo. ベータ分布から導出されるコンパクトにサポートされた1巡回ウェーブレット.通信情報システムジャーナル. vol.20, n.3, pp.27-33, 2005.
  73. ^ Balding, David J. ; Nichols, Richard A. (1995). 「多対立遺伝子座における集団間の差異を定量化する手法と、そのアイデンティティおよび父子関係の調査への影響」Genetica 96 ( 1–2 ) . Springer : 3–12 . doi : 10.1007/BF01441146 . PMID 7607457. S2CID 30680826 .  
  74. ^ Keefer, Donald L. and Verdini, William A. (1993). PERT活動時間パラメータのより正確な推定. Management Science 39(9), p. 1086–1091.
  75. ^キーファー、ドナルド L.、ボディリー、サミュエル E. (1983). 連続確率変数の3点近似. マネジメントサイエンス29(5), p.595–609.
  76. ^ 「国防資源管理研究所 - 海軍大学院www.nps.edu
  77. ^ van der Waerden、BL、「数学的統計」、Springer、 ISBN 978-3-540-04507-6
  78. ^用量反応曲線へのフィッティングのための不完全ベータ関数の正規化について ME Wise Biometrika vol 47, No. 1/2, 1960年6月, pp. 173–175
  79. ^ Pratt, John W. 「二項分布、F分布、ベータ分布、およびその他の一般的な関連裾分布の確率の正規近似 II」アメリカ統計学会誌、第63巻、第324号、1968年、1457~1483頁。JSTOR、 https://doi.org/10.2307/2285896。2025年10月21日にアクセス。
  80. ^ Yule, GU ; Filon, LNG (1936). 「カール・ピアソン 1857–1936」 .王立協会フェロー死亡記事. 2 (5): 72. doi : 10.1098/rsbm.1936.0007 . JSTOR 769130 . 
  81. ^ 「図書館・アーカイブカタログ」サックラーデジタルアーカイブ。王立協会。2011年10月25日時点のオリジナルよりアーカイブ。 2011年7月1日閲覧
  82. ^ David, HA and AWF Edwards (2001). Annotated Readings in the History of Statistics . Springer; 第1版. ISBN 978-0387988443
  83. ^ジーニ、コラード (1911). 「事後確率の考察と生後牛の死因に関する報告への応用」カリアリ大学経済学・政治学研究. 第3紀(メトロン15, 133, 171, 1949に再録): 5–41
  84. ^ジョンソン、ノーマン・L・コッツ編(1997年)『統計科学の先駆者たち:17世紀から現在まで』(Wileyシリーズ 確率統計学. Wiley. ISBN 978-0471163817
  85. ^メトロンジャーナル。「コラード・ジーニの伝記」。メトロンジャーナル。2012年7月16日時点のオリジナルからアーカイブ。2012年8月18日閲覧