Type of probability distribution
確率密度関数
異なるパラメータセットにおける切断正規分布の確率密度関数。すべてのケースにおいて、 a = −10、 b = 10です。黒: μ = −8、 σ = 2、青: μ = 0、 σ = 2、赤: μ = 9、 σ = 10、オレンジ: μ = 0、 σ = 10。
累積分布関数
さまざまなパラメーターのセットに対する切り捨て正規分布の累積分布関数。すべての場合において、 a = −10 および b = 10 です。黒の場合: μ = −8、 σ = 2。青: μ = 0、 σ = 2。赤: μ = 9、 σ = 10。オレンジ色: μ = 0、 σ = 10。
表記 ξ = x − μ σ , α = a − μ σ , β = b − μ σ {\displaystyle \xi ={\frac {x-\mu }{\sigma }},\ \alpha ={\frac {a-\mu }{\sigma }},\ \beta ={\frac {b-\mu }{\sigma }}} Z = Φ ( β ) − Φ ( α ) {\displaystyle Z=\Phi (\beta )-\Phi (\alpha )} パラメータ μ ∈ R {\displaystyle \mu \in \mathbb {R} } σ 2 ≥ 0 {\displaystyle \sigma ^{2}\geq 0} (ただし定義を参照) — の最小値 — の最大値 ( ) a ∈ R {\displaystyle a\in \mathbb {R} } x {\displaystyle x} b ∈ R {\displaystyle b\in \mathbb {R} } x {\displaystyle x} b > a {\displaystyle b>a} サポート x ∈ [ a , b ] {\displaystyle x\in [a,b]} PDF f ( x ; μ , σ , a , b ) = φ ( ξ ) σ Z {\displaystyle f(x;\mu ,\sigma ,a,b)={\frac {\varphi (\xi )}{\sigma Z}}\,} [1] CDF F ( x ; μ , σ , a , b ) = Φ ( ξ ) − Φ ( α ) Z {\displaystyle F(x;\mu ,\sigma ,a,b)={\frac {\Phi (\xi )-\Phi (\alpha )}{Z}}} 平均 μ + φ ( α ) − φ ( β ) Z σ {\displaystyle \mu +{\frac {\varphi (\alpha )-\varphi (\beta )}{Z}}\sigma } 中央値 μ + Φ − 1 ( Φ ( α ) + Φ ( β ) 2 ) σ {\displaystyle \mu +\Phi ^{-1}\left({\frac {\Phi (\alpha )+\Phi (\beta )}{2}}\right)\sigma } モード { a , i f μ < a μ , i f a ≤ μ ≤ b b , i f μ > b {\displaystyle \left\{{\begin{array}{ll}a,&\mathrm {if} \ \mu <a\\\mu ,&\mathrm {if} \ a\leq \mu \leq b\\b,&\mathrm {if} \ \mu >b\end{array}}\right.} 分散 σ 2 [ 1 − β φ ( β ) − α φ ( α ) Z − ( φ ( α ) − φ ( β ) Z ) 2 ] {\displaystyle \sigma ^{2}\left[1-{\frac {\beta \varphi (\beta )-\alpha \varphi (\alpha )}{Z}}-\left({\frac {\varphi (\alpha )-\varphi (\beta )}{Z}}\right)^{2}\right]} エントロピ ln ( 2 π e σ Z ) + α φ ( α ) − β φ ( β ) 2 Z {\displaystyle \ln({\sqrt {2\pi e}}\sigma Z)+{\frac {\alpha \varphi (\alpha )-\beta \varphi (\beta )}{2Z}}} MGF e μ t + σ 2 t 2 / 2 [ Φ ( β − σ t ) − Φ ( α − σ t ) Φ ( β ) − Φ ( α ) ] {\displaystyle e^{\mu t+\sigma ^{2}t^{2}/2}\left[{\frac {\Phi (\beta -\sigma t)-\Phi (\alpha -\sigma t)}{\Phi (\beta )-\Phi (\alpha )}}\right]}
確率論と統計学において、 切断正規分布とは、 正規 分布に従う確率変数の確率分布において、その確率変数を下方または上方(あるいはその両方)から制限することによって 導かれる分布である。 切断正規分布は、統計学や 計量経済学 において広く応用されている 。
定義 が平均と分散 の 正規分布に従い 、区間 内にあると 仮定します 。この場合 、 の条件付きで、 は切断正規分布に従います。 X {\displaystyle X} μ {\displaystyle \mu } σ 2 {\displaystyle \sigma ^{2}} ( a , b ) , with − ∞ ≤ a < b ≤ ∞ {\displaystyle (a,b),{\text{with}}\;-\infty \leq a<b\leq \infty } X {\displaystyle X} a < X < b {\displaystyle a<X<b}
の 確率密度関数は 、 に対して 、次のように与えられる。 f {\displaystyle f} a ≤ x ≤ b {\displaystyle a\leq x\leq b}
f ( x ; μ , σ , a , b ) = 1 σ φ ( x − μ σ ) Φ ( b − μ σ ) − Φ ( a − μ σ ) {\displaystyle f(x;\mu ,\sigma ,a,b)={\frac {1}{\sigma }}\,{\frac {\varphi ({\frac {x-\mu }{\sigma }})}{\Phi ({\frac {b-\mu }{\sigma }})-\Phi ({\frac {a-\mu }{\sigma }})}}}
およびそれ 以外の場合。 f = 0 {\displaystyle f=0}
ここで、
は 標準正規分布 の確率密度関数であり 、 はその 累積分布関数 です
。定義により、 の場合 、 となり 、同様に、 の場合、 となります 。 φ ( ξ ) = 1 2 π exp ( − 1 2 ξ 2 ) {\displaystyle \varphi (\xi )={\frac {1}{\sqrt {2\pi }}}\exp \left(-{\frac {1}{2}}\xi ^{2}\right)} Φ ( ⋅ ) {\displaystyle \Phi (\cdot )} Φ ( x ) = 1 2 ( 1 + erf ( x / 2 ) ) . {\displaystyle \Phi (x)={\frac {1}{2}}\left(1+\operatorname {erf} (x/{\sqrt {2}})\right).} b = ∞ {\displaystyle b=\infty } Φ ( b − μ σ ) = 1 {\displaystyle \Phi \left({\tfrac {b-\mu }{\sigma }}\right)=1} a = − ∞ {\displaystyle a=-\infty } Φ ( a − μ σ ) = 0 {\displaystyle \Phi \left({\tfrac {a-\mu }{\sigma }}\right)=0}
上記の式は、切断された正規分布の 尺度パラメータ が負の値をとることが許される場合を示しています。この場合、パラメータ は虚数ですが、関数は 実数で正であり、正規化可能です。切断されていない正規分布の尺度パラメータは 正でなければなりません。そうでなければ、分布は正規化できないからです。一方、二重に切断された正規分布は、そのような積分可能性の問題は有界領域では発生しないため、原理的には負の尺度パラメータ(分散とは異なります。まとめの式を参照)を持つことができます。この場合、分布は を条件とする切断されていない正規分布として解釈することはできませんが、第 1 および第 2 モーメントを制約条件とする 最大エントロピー分布 として解釈することはでき、さらに および に位置する 1 つではなく 2 つの 極大値を示すという特異な特徴があります 。 − ∞ < a < b < + ∞ {\displaystyle -\infty <a<b<+\infty } σ 2 {\displaystyle \sigma ^{2}} σ {\displaystyle \sigma } f {\displaystyle f} σ 2 {\displaystyle \sigma ^{2}} a < X < b {\displaystyle a<X<b} x = a {\displaystyle x=a} x = b {\displaystyle x=b}
プロパティ 切断正規分布は、 平均と分散が固定され、区間[a,b]に制約された2つの 最大エントロピー確率分布のうちの1つであり、もう1つは切断 U 分布である。 [2] 固定サポートを持つ切断正規分布は指数族を形成する。ニールセン [3] は、最初の分布のサポートが2番目の分布のサポートにネストされた2つの切断正規分布間のカルバック・ライブラー距離とバタチャリヤ距離を計算するための閉形式の公式を報告した。
瞬間 確率変数が下側からのみ切り捨てられた場合、確率質量の一部がより高い値にシフトし、 一次確率的に支配的な 分布となり、平均は元の正規分布の平均よりも高い値に増加します 。同様に、確率変数が上側からのみ切り捨てられた場合、切り捨てられた分布の平均は以下になります。 μ {\displaystyle \mu } μ . {\displaystyle \mu .}
ランダム変数が上、下、またはその両方に制限されているかどうかに関係なく、切り捨ては 平均を保存する縮小 と平均を変更する固定シフトを組み合わせたものなので、切り捨てられた分布の分散は元の正規分布の 分散よりも小さくなります。 σ 2 {\displaystyle \sigma ^{2}}
両側切り捨て [4] と とします 。すると、 と α = ( a − μ ) / σ {\displaystyle \alpha =(a-\mu )/\sigma } β = ( b − μ ) / σ {\displaystyle \beta =(b-\mu )/\sigma } E ( X ∣ a < X < b ) = μ − σ φ ( β ) − φ ( α ) Φ ( β ) − Φ ( α ) {\displaystyle \operatorname {E} (X\mid a<X<b)=\mu -\sigma {\frac {\varphi (\beta )-\varphi (\alpha )}{\Phi (\beta )-\Phi (\alpha )}}} Var ( X ∣ a < X < b ) = σ 2 [ 1 − β φ ( β ) − α φ ( α ) Φ ( β ) − Φ ( α ) − ( φ ( β ) − φ ( α ) Φ ( β ) − Φ ( α ) ) 2 ] {\displaystyle \operatorname {Var} (X\mid a<X<b)=\sigma ^{2}\left[1-{\frac {\beta \varphi (\beta )-\alpha \varphi (\alpha )}{\Phi (\beta )-\Phi (\alpha )}}-\left({\frac {\varphi (\beta )-\varphi (\alpha )}{\Phi (\beta )-\Phi (\alpha )}}\right)^{2}\right]}
これらの式の数値評価には注意が必要です。 区間に が含まれていない場合、 破滅的な相殺 が生じる可能性があります。この問題を回避するために、式を書き直すより良い方法があります。 [5] [ a , b ] {\displaystyle [a,b]} μ {\displaystyle \mu }
片側切断(下尾部) [6] [7] この 場合 b = ∞ , φ ( β ) = 0 , Φ ( β ) = 1 , {\displaystyle \;b=\infty ,\;\varphi (\beta )=0,\;\Phi (\beta )=1,}
E ( X ∣ X > a ) = μ + σ φ ( α ) / Z , {\displaystyle \operatorname {E} (X\mid X>a)=\mu +\sigma \varphi (\alpha )/Z,\!}
そして
Var ( X ∣ X > a ) = σ 2 [ 1 + α φ ( α ) / Z − ( φ ( α ) / Z ) 2 ] , {\displaystyle \operatorname {Var} (X\mid X>a)=\sigma ^{2}[1+\alpha \varphi (\alpha )/Z-(\varphi (\alpha )/Z)^{2}],}
どこ Z = 1 − Φ ( α ) . {\displaystyle Z=1-\Phi (\alpha ).}
片側切断(上尾部) この 場合 a = α = − ∞ , φ ( α ) = 0 , Φ ( α ) = 0 , {\displaystyle \;a=\alpha =-\infty ,\;\varphi (\alpha )=0,\;\Phi (\alpha )=0,}
E ( X ∣ X < b ) = μ − σ φ ( β ) Φ ( β ) , {\displaystyle \operatorname {E} (X\mid X<b)=\mu -\sigma {\frac {\varphi (\beta )}{\Phi (\beta )}},} Var ( X ∣ X < b ) = σ 2 [ 1 − β φ ( β ) Φ ( β ) − ( φ ( β ) Φ ( β ) ) 2 ] . {\displaystyle \operatorname {Var} (X\mid X<b)=\sigma ^{2}\left[1-\beta {\frac {\varphi (\beta )}{\Phi (\beta )}}-\left({\frac {\varphi (\beta )}{\Phi (\beta )}}\right)^{2}\right].}
Barr & Sherrill (1999) は、片側切断の分散をより簡略化した式を提示しています。彼らの式は、標準的なソフトウェアライブラリに実装されているカイ二乗累積分布関数に基づいています。Bebu & Mathew (2009) は、切断モーメントの(一般化)信頼区間の式を提示しています。
切り捨てられていない場合には、切り捨てられたモーメントに対する再帰式が存在する。 [8]
特に、 について は、 n ≥ 0 {\displaystyle n\geq 0}
E [ ( x − μ σ ) n + 2 ] = α n + 1 φ ( α ) − β n + 1 φ ( β ) Φ ( β ) − Φ ( α ) + ( n + 1 ) E [ ( x − μ σ ) n ] . {\displaystyle \operatorname {E} \left[\left({\frac {x-\mu }{\sigma }}\right)^{n+2}\right]={\frac {\alpha ^{n+1}\varphi (\alpha )-\beta ^{n+1}\varphi (\beta )}{\Phi (\beta )-\Phi (\alpha )}}+(n+1)\operatorname {E} \left[\left({\frac {x-\mu }{\sigma }}\right)^{n}\right].}
証拠 変数の変更により 、次式が得られます。 部分 積分
を 使用すると 、証明する方程式が得られます。 ξ = ( x − μ ) / σ {\displaystyle \xi =(x-\mu )/\sigma } E [ ( x − μ σ ) n + 2 ] = ∫ α β ξ n + 2 φ ( ξ ) Φ ( β ) − Φ ( α ) d ξ . {\displaystyle \operatorname {E} \left[\left({\frac {x-\mu }{\sigma }}\right)^{n+2}\right]=\int _{\alpha }^{\beta }{\frac {\xi ^{n+2}\varphi (\xi )}{\Phi (\beta )-\Phi (\alpha )}}d\xi .} φ ′ ( ξ ) = − ξ φ ( ξ ) , {\displaystyle \varphi '(\xi )=-\xi \varphi (\xi ),} E [ ( x − μ σ ) n + 2 ] = [ − ξ n + 1 φ ( ξ ) Φ ( β ) − Φ ( α ) ] α β + ( n + 1 ) ∫ α β ξ n φ ( ξ ) Φ ( β ) − Φ ( α ) d ξ , {\displaystyle \operatorname {E} \left[\left({\frac {x-\mu }{\sigma }}\right)^{n+2}\right]=\left[{\frac {-\xi ^{n+1}\varphi (\xi )}{\Phi (\beta )-\Phi (\alpha )}}\right]_{\alpha }^{\beta }+(n+1)\int _{\alpha }^{\beta }{\frac {\xi ^{n}\varphi (\xi )}{\Phi (\beta )-\Phi (\alpha )}}d\xi ,}
多変量 多変量切断正規分布のモーメントを計算するのは困難です。
切断正規分布から値を生成する
として 定義される 確率変量は 、正規分布の累積分布関数(つまり、正しい平均と分散を持つ)からサンプリングされ 、その逆関数 である 上の一様乱数は 、範囲 に切り捨てられた分布に従います 。これは、確率変数をシミュレートするための 逆変換法 です。この方法は最も単純な方法の1つですが、正規分布の裾野でサンプリングすると失敗する可能性があり、 [9] 、非常に遅くなることもあります。 [10] そのため、実際には、代替のシミュレーション方法を見つける必要があります。 x {\displaystyle x} x = Φ − 1 ( Φ ( α ) + U ⋅ ( Φ ( β ) − Φ ( α ) ) ) σ + μ {\displaystyle x=\Phi ^{-1}(\Phi (\alpha )+U\cdot (\Phi (\beta )-\Phi (\alpha )))\sigma +\mu } Φ {\displaystyle \Phi } Φ − 1 {\displaystyle \Phi ^{-1}} U {\displaystyle U} ( 0 , 1 ) {\displaystyle (0,1)} ( a , b ) {\displaystyle (a,b)}
そのような切り捨て正規分布生成器の1つ(Matlabおよび R(プログラミング言語) でtrandn.Rとして実装)は、Marsagliaによる受け入れ拒否の考えに基づいています。 [11] Marsaglia(1964)の受け入れ率はRobert(1995)と比較してわずかに最適ではありませんが、Marsagliaの方法は通常より高速です。 [10] これは、指数関数のコストのかかる数値評価を必要としないためです。
切断正規分布からの抽出のシミュレーションの詳細については、Robert (1995)、Lynch (2007、セクション8.1.3 (200~206ページ))、Devroye (1986) を参照してください。RのMSMパッケージには、切断正規分布からの抽出を計算する関数rtnormが含まれています。Rのtruncnormパッケージにも、切断正規分布からの抽出を行う関数が含まれています。
Chopin (2011) は、Marsaglia と Tsang (1984, 2000) のZiggurat アルゴリズム に着想を得たアルゴリズムを提案しました (arXiv) 。このアルゴリズムは、通常、最速のガウスサンプラーと考えられており、Ahrens のアルゴリズム (1995) にも非常に近いものです。実装は C、C++、Matlab、Python で見つけることができます。
多変量 切断正規分布からのサンプリングは 、はるかに困難です。 [12] 正確な、あるいは完全なシミュレーションは、正規分布を多面体領域に切断した場合にのみ可能です。 [12] [13] より一般的なケースとして、Damien & Walker (2001) は、ギブスサンプリングの枠組みの中で切断密度をサンプリングするための一般的な手法を導入しています。彼らのアルゴリズムは1つの潜在変数を導入し、 ギブスサンプリング の枠組みの中で、Robert (1995) のアルゴリズムよりも計算効率に優れています。
参照 折り畳み正規分布 半正規分布 上のpdfを持つ 修正半正規分布 [14] は で与えられ 、ここで は フォックス・ライトのプサイ関数 を表す 。 ( 0 , ∞ ) {\displaystyle (0,\infty )} f ( x ) = 2 β α 2 x α − 1 exp ( − β x 2 + γ x ) Ψ ( α 2 , γ β ) {\displaystyle f(x)={\frac {2\beta ^{\frac {\alpha }{2}}x^{\alpha -1}\exp(-\beta x^{2}+\gamma x)}{\Psi {\left({\frac {\alpha }{2}},{\frac {\gamma }{\sqrt {\beta }}}\right)}}}} Ψ ( α , z ) = 1 Ψ 1 ( ( α , 1 2 ) ( 1 , 0 ) ; z ) {\displaystyle \Psi (\alpha ,z)={}_{1}\Psi _{1}\left({\begin{matrix}\left(\alpha ,{\frac {1}{2}}\right)\\(1,0)\end{matrix}};z\right)} 正規分布 正規分布 切り捨て分布 PERT分布
注記 ^ 「講義 4: 選択」 (PDF) . web.ist.utl.pt 。 高技術研究所 。 2002 年 11 月 11 日。p. 1 . 2015 年 7 月 14 日 に取得 。 ^ Dowson, D.; Wragg, A. (1973年9月). 「規定された第一モーメントと第二モーメントを持つ最大エントロピー分布(対応)」. IEEE Transactions on Information Theory . 19 (5): 689– 693. doi :10.1109/TIT.1973.1055060. ISSN 1557-9654. ^ Frank Nielsen (2022). 「ネストされたサポートを持つ切断指数族の密度間の統計的乖離:デュオ・ブレグマン・ダイバージェンスとデュオ・ジェンセン・ダイバージェンス」. エントロピー . 24 (3). MDPI: 421. Bibcode :2022Entrp..24..421N. doi : 10.3390 /e24030421 . PMC 8947456. PMID 35327931. ^ ジョンソン、ノーマン・ロイド、コッツ、サミュエル、バラクリシュナン、N. (1994). 連続一変量分布 . 第1巻(第2版). ニューヨーク: ワイリー. 第10.1節. ISBN 0-471-58495-9 . OCLC 29428092。 ^ Fernandez-de-Cossio-Diaz, Jorge (2017-12-06), TruncatedNormal.jl: 単変量切断正規分布の平均と分散を計算する(ピークから離れたところで動作する) 、 2017-12-06取得 ^ グリーン、ウィリアム・H. (2003). 計量経済分析 (第5版). プレンティス・ホール. ISBN 978-0-13-066189-0 。 ^ デル・カスティージョ、ジョアン (1994年3月). 「単一切断正規分布:非急峻な指数分布族」 (PDF) . 統計数学研究所紀要 . 46 (1): 57– 66. doi :10.1007/BF00773592. ^ エリック・オルジェビンによる文書、「https://people.smp.uq.edu.au/YoniNazarathy/teaching_projects/studentWork/EricOrjebin_TruncatedNormalMoments.pdf」 ^ Kroese, DP ; Taimre, T.; Botev, ZI (2011). モンテカルロ法ハンドブック . John Wiley & Sons. ^ ab Botev, ZI; L'Ecuyer, P. (2017). 「正規分布の裾の区間を切り捨てたシミュレーション」. 第10回EAI国際パフォーマンス評価方法論およびツール会議 . 2016年10月25日~28日 タオルミーナ(イタリア): ACM. pp. 23– 29. doi :10.4108/eai.25-10-2016.2266879. ISBN 978-1-63190-141-6 。 {{cite conference }}: CS1 maint: location (link )^ Marsaglia, George (1964). 「正規分布の裾からの変数生成」. Technometrics . 6 (1): 101– 102. doi :10.2307/1266749. JSTOR 1266749. ^ ab Botev, ZI (2016). 「線形制約下における正規則:ミニマックス傾斜法によるシミュレーションと推定」. Journal of the Royal Statistical Society, Series B. 79 : 125–148 . arXiv : 1603.04166 . doi : 10.1111/rssb.12162. S2CID 88515228. ^ Botev, Zdravko & L'Ecuyer, Pierre (2018). 「第8章:単変量および多変量正規分布の裾からのシミュレーション」. Puliafito, Antonio (編). システムモデリング:方法論とツール. EAI/Springer Innovations in Communication and Computing . Springer, Cham. pp. 115– 132. doi :10.1007/978-3-319-92378-9_8. ISBN 978-3-319-92377-2 . S2CID 125554530。 ^ Sun, Jingchao; Kong, Maiying; Pal, Subhadip (2021年6月22日). 「修正半正規分布:特性と効率的なサンプリング手法」. Communications in Statistics - Theory and Methods . 52 (5): 1591– 1613. doi :10.1080/03610926.2021.1934700. ISSN 0361-0926. S2CID 237919587.
参考文献 Botev, Zdravko & L'Ecuyer, Pierre (2018). 「第8章:単変量および多変量正規分布の裾からのシミュレーション」. Puliafito, Antonio (編). システムモデリング:方法論とツール . EAI/Springer Innovations in Communication and Computing. Springer, Cham. pp. 115– 132. doi :10.1007/978-3-319-92378-9_8. ISBN 978-3-319-92377-2 . S2CID 125554530。 Devroye, Luc (1986). 非一様乱数変量生成 (PDF) . ニューヨーク: Springer-Verlag. オリジナル (PDF) から2014年8月18日にアーカイブ。 2012年4月12日 閲覧 。 グリーン、ウィリアム・H. (2003). 計量経済分析(第5版) . プレンティス・ホール. ISBN 978-0-13-066189-0 。 ノーマン・L・ジョンソン、サミュエル・コッツ (1970). 連続一変量分布-1 、第13章. John Wiley & Sons. リンチ、スコット(2007年)『社会科学者のための応用ベイズ統計と推定入門』ニューヨーク:シュプリンガー、 ISBN 978-1-4419-2434-6 。 Robert, Christian P. (1995). 「切断正規分布変数のシミュレーション」. 統計と計算 . 5 (2): 121– 125. arXiv : 0907.4010 . doi :10.1007/BF00143942. S2CID 15943491. Barr, Donald R.; Sherrill, E.Todd (1999). 「切断正規分布の平均と分散」. The American Statistician . 53 (4): 357– 361. doi :10.1080/00031305.1999.10474490. Bebu, Ionut; Mathew, Thomas (2009). 「正規分布と対数正規分布における有限モーメントと切断モーメントの信頼区間」. 統計と確率論文集 . 79 (3): 375– 380. doi :10.1016/j.spl.2008.09.006. ダミアン, ポール; ウォーカー, スティーブン G. (2001). 「サンプリングによる切断正規分布、ベータ分布、ガンマ分布の密度」. 計算およびグラフィカル統計ジャーナル . 10 (2): 206– 215. doi :10.1198/10618600152627906. S2CID 123156320. Chopin, Nicolas (2011-04-01). 「切断ガウス分布の高速シミュレーション」. Statistics and Computing . 21 (2): 275– 288. arXiv : 1201.6140 . doi :10.1007/s11222-009-9168-1. ISSN 1573-1375. Burkardt, John. 「切断正規分布」 (PDF) . フロリダ州立大学 科学計算学部ウェブサイト. 2018年 2月15日 閲覧 .
離散 一変数
連続 一変量
制限された間隔 でサポートされている 半無限 間隔 でサポートされている 実数直線 全体で サポートされている さまざまなタイプの サポート付き
混合 単変量
多変量 (ジョイント) 方向性 退化 と 特異性 家族