Probability distribution
確率論 において 、 ロジット正規分布は、 ロジットが 正規分布 に 従う ランダム変数 の 確率分布 です 。Y が 正規分布に従うランダム変数で、 t が標準 ロジット関数 である場合、 X = t ( Y )はロジット正規分布に従います。同様に、 X がロジット正規分布に従う場合、 Y = logit ( X )= log ( X /(1- X ))は正規分布します。これは ロジット正規分布 とも呼ばれ、 [1] は多項式ロジット分布を指すことが多いです（例： [2] [3] [4] ）。
変数は、0 と 1 で制限され、0 と 1 の値が決して発生しない割合である場合、ロジット正規分布としてモデル化される可能性があります。
キャラクター設定
確率密度関数 ロジット正規分布の確率密度関数 (PDF) は、0 < x < 1 の場合 、 次 の ようになります。
f X ( x ; μ , σ ) = 1 σ 2 π 1 x ( 1 − x ) e − ( logit ( x ) − μ ) 2 2 σ 2 {\displaystyle f_{X}(x;\mu ,\sigma )={\frac {1}{\sigma {\sqrt {2\pi }}}}\,{\frac {1}{x(1-x)}}\,e^{-{\frac {(\operatorname {logit} (x)-\mu )^{2}}{2\sigma ^{2}}}}} ここで、 μ と σ は変数の ロジットの 平均 と 標準偏差 です (定義により、変数のロジットは正規分布します)。
μ の符号を変えることによって得られる密度は対称的で、f(1-x;- μ 、 σ )に等しくなり 、モードは0.5（(0,1)区間の中点）の反対側にシフトします。
μ （ファセット）と σ （色） のさまざまな組み合わせに対するロジット正規分布のPDFのプロット
瞬間 ロジット正規分布のモーメントには解析解は存在しない。モーメントは 数値積分 によって推定できるが、 の値が0と1の端点で密度関数が無限大に発散するような場合には、数値積分は不可能となる。代替案として、ロジット正規分布が正規確率変数の変換であるという観察結果を用いる方法がある。これ により、次の準モンテカルロ推定によって - 番目のモーメント を近似することができる。 μ , σ 2 {\textstyle \mu ,\sigma ^{2}} n {\displaystyle n} E [ X n ] ≈ 1 K − 1 ∑ i = 1 K − 1 ( P ( Φ μ , σ 2 − 1 ( i / K ) ) ) n , {\displaystyle E[X^{n}]\approx {\frac {1}{K-1}}\sum _{i=1}^{K-1}\left(P\left(\Phi _{\mu ,\sigma ^{2}}^{-1}(i/K)\right)\right)^{n},}
ここで 、 は標準ロジスティック関数、 は 平均 、分散 の正規分布の逆累積分布関数です 。 のとき 、これは平均に対応します。 P {\textstyle P} Φ μ , σ 2 − 1 {\textstyle \Phi _{\mu ,\sigma ^{2}}^{-1}} μ , σ 2 {\textstyle \mu ,\sigma ^{2}} n = 1 {\displaystyle n=1}
モードまたはモード 密度の微分が 0 に等しい場合、モード x の位置は次の式を満たします。
logit ( x ) = σ 2 ( 2 x − 1 ) + μ . {\displaystyle \operatorname {logit} (x)=\sigma ^{2}(2x-1)+\mu .} パラメータの値によっては 2 つの解が存在する場合があり、分布は 二峰性 となります。
多変量一般化 ロジスティック 正規分布は 、多変量正規分布のロジスティック変換を行うことで、ロジット正規分布をD次元確率ベクトルに一般化したものである。 [1] [5] [6]
確率密度関数 確率 密度関数は 次のようになります。
f X ( x ; μ , Σ ) = 1 ( 2 π ) D − 1 | Σ | 1 2 1 ∏ i = 1 D x i e − 1 2 { log ( x − D x D ) − μ } ⊤ Σ − 1 { log ( x − D x D ) − μ } , x ∈ S D , {\displaystyle f_{X}(\mathbf {x} ;{\boldsymbol {\mu }},{\boldsymbol {\Sigma }})={\frac {1}{(2\pi )^{D-1}|{\boldsymbol {\Sigma }}|^{\frac {1}{2}}}}\,{\frac {1}{\prod \limits _{i=1}^{D}x_{i}}}\,e^{-{\frac {1}{2}}\left\{\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)-{\boldsymbol {\mu }}\right\}^{\top }{\boldsymbol {\Sigma }}^{-1}\left\{\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)-{\boldsymbol {\mu }}\right\}}\quad ,\quad \mathbf {x} \in {\mathcal {S}}^{D}\;\;,} ここで、は の最初の(D-1)個の成分のベクトルを表し 、は D次元確率ベクトルの 単体 を表します。これは、 加法ロジスティック変換を適用して 多変量正規 確率変数を 単体に 写像することから導かれます。 x − D {\displaystyle \mathbf {x} _{-D}} x {\displaystyle \mathbf {x} } S D {\displaystyle {\mathcal {S}}^{D}} y ∼ N ( μ , Σ ) , y ∈ R D − 1 {\displaystyle \mathbf {y} \sim {\mathcal {N}}\left({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}\right)\;,\;\mathbf {y} \in \mathbb {R} ^{D-1}}
x = [ e y 1 1 + ∑ i = 1 D − 1 e y i , … , e y D − 1 1 + ∑ i = 1 D − 1 e y i , 1 1 + ∑ i = 1 D − 1 e y i ] ⊤ {\displaystyle \mathbf {x} =\left[{\frac {e^{y_{1}}}{1+\sum _{i=1}^{D-1}e^{y_{i}}}},\dots ,{\frac {e^{y_{D-1}}}{1+\sum _{i=1}^{D-1}e^{y_{i}}}},{\frac {1}{1+\sum _{i=1}^{D-1}e^{y_{i}}}}\right]^{\top }} ガウス密度関数と、ロジスティック変換後の対応するロジスティック正規密度関数。 一意の逆マッピングは次のように与えられます。
y = [ log ( x 1 x D ) , … , log ( x D − 1 x D ) ] ⊤ {\displaystyle \mathbf {y} =\left[\log \left({\frac {x_{1}}{x_{D}}}\right),\dots ,\log \left({\frac {x_{D-1}}{x_{D}}}\right)\right]^{\top }} 。 これは、ベクトル xの要素の和が1になる場合である。シグモイド要素を持つ x の場合 、つまり
y = [ log ( x 1 1 − x 1 ) , … , log ( x D 1 − x D ) ] ⊤ {\displaystyle \mathbf {y} =\left[\log \left({\frac {x_{1}}{1-x_{1}}}\right),\dots ,\log \left({\frac {x_{D}}{1-x_{D}}}\right)\right]^{\top }} 我々は持っています
f X ( x ; μ , Σ ) = 1 ( 2 π ) D − 1 | Σ | 1 2 1 ∏ i = 1 D ( x i ( 1 − x i ) ) e − 1 2 { log ( x 1 − x ) − μ } ⊤ Σ − 1 { log ( x 1 − x ) − μ } {\displaystyle f_{X}(\mathbf {x} ;{\boldsymbol {\mu }},{\boldsymbol {\Sigma }})={\frac {1}{(2\pi )^{D-1}|{\boldsymbol {\Sigma }}|^{\frac {1}{2}}}}\,{\frac {1}{\prod \limits _{i=1}^{D}\left(x_{i}(1-x_{i})\right)}}\,e^{-{\frac {1}{2}}\left\{\log \left({\frac {\mathbf {x} }{1-\mathbf {x} }}\right)-{\boldsymbol {\mu }}\right\}^{\top }{\boldsymbol {\Sigma }}^{-1}\left\{\log \left({\frac {\mathbf {x} }{1-\mathbf {x} }}\right)-{\boldsymbol {\mu }}\right\}}} ここで、対数と引数の除算は要素ごとに行われます。これは、変換のヤコビ行列が要素 を持つ対角行列であるためです 。 1 x i ( 1 − x i ) {\displaystyle {\frac {1}{x_{i}(1-x_{i})}}}
統計分析での使用 ロジスティック正規分布は、 確率ベクトルの成分間の相関関係を捉えることができるという点で、 ディリクレ分布よりも柔軟な代替分布です。また、データベクトルの成分の対数比に関する質問に答えることができるため、 構成データ の統計解析を簡素化する可能性も秘めています。多くの場合、成分の絶対値よりも比率が重要になります。
確率単体は有界空間であるため、 のベクトルに一般的に適用される標準的な手法は あまり意味を持ちません。統計学者 ジョン・エイチソンは 、そのような手法を単体ベクトルに直接適用した場合に生じる偽の負の相関の問題を説明しました。 [5] しかし、 の成分データを 加法ロジスティック変換の逆変換で写像すると、 の実数値データが得られます 。このデータ表現には標準的な手法を適用できます。このアプローチは、ロジスティック正規分布の使用を正当化するものであり、したがって「単体のガウス分布」と見なすことができます。 R n {\displaystyle \mathbb {R} ^{n}} S D {\displaystyle {\mathcal {S}}^{D}} R D − 1 {\displaystyle \mathbb {R} ^{D-1}}
ディリクレ分布との関係 ディリクレ分布のロジスティック正規近似 ディリクレ 分布 とロジスティック正規分布は、どのようなパラメータを選択しても、完全に一致することはありません。しかし、Aitchisonは、 カルバック・ライブラー距離 （KL）を最小化するようにディリクレ分布をロジスティック正規分布で近似する方法を示しました。
K ( p , q ) = ∫ S D p ( x ∣ α ) log ( p ( x ∣ α ) q ( x ∣ μ , Σ ) ) d x {\displaystyle K(p,q)=\int _{{\mathcal {S}}^{D}}p\left(\mathbf {x} \mid {\boldsymbol {\alpha }}\right)\log \left({\frac {p\left(\mathbf {x} \mid {\boldsymbol {\alpha }}\right)}{q\left(\mathbf {x} \mid {\boldsymbol {\mu }},{\boldsymbol {\Sigma }}\right)}}\right)\,d\mathbf {x} } これは次のように最小限に抑えられます。
μ ∗ = E p [ log ( x − D x D ) ] , Σ ∗ = Var p [ log ( x − D x D ) ] {\displaystyle {\boldsymbol {\mu }}^{*}=\mathbf {E} _{p}\left[\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)\right]\quad ,\quad {\boldsymbol {\Sigma }}^{*}={\textbf {Var}}_{p}\left[\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)\right]} ディリクレ分布のモーメント特性を用いると、解はディガンマ関数 と トリガンマ 関数で表すことができる 。 ψ {\displaystyle \psi } ψ ′ {\displaystyle \psi '}
μ i ∗ = ψ ( α i ) − ψ ( α D ) , i = 1 , … , D − 1 {\displaystyle \mu _{i}^{*}=\psi \left(\alpha _{i}\right)-\psi \left(\alpha _{D}\right)\quad ,\quad i=1,\ldots ,D-1} Σ i i ∗ = ψ ′ ( α i ) + ψ ′ ( α D ) , i = 1 , … , D − 1 {\displaystyle \Sigma _{ii}^{*}=\psi '\left(\alpha _{i}\right)+\psi '\left(\alpha _{D}\right)\quad ,\quad i=1,\ldots ,D-1} Σ i j ∗ = ψ ′ ( α D ) , i ≠ j {\displaystyle \Sigma _{ij}^{*}=\psi '\left(\alpha _{D}\right)\quad ,\quad i\neq j} この近似は、 が大きい場合に特に正確です 。実際、 に対して であることが示せ 、 が成り立ちます 。 α {\displaystyle {\boldsymbol {\alpha }}} α i → ∞ , i = 1 , … , D {\displaystyle \alpha _{i}\rightarrow \infty ,i=1,\ldots ,D} p ( x ∣ α ) → q ( x ∣ μ ∗ , Σ ∗ ) {\displaystyle p\left(\mathbf {x} \mid {\boldsymbol {\alpha }}\right)\rightarrow q\left(\mathbf {x} \mid {\boldsymbol {\mu }}^{*},{\boldsymbol {\Sigma }}^{*}\right)}
参照
参考文献 ^ ab Aitchison, J.; Shen, SM (1980). 「ロジスティック正規分布：いくつかの特性と用途」. Biometrika . 67 (2): 261. doi :10.2307/2335470. ISSN 0006-3444. JSTOR 2335470. ^ Huang, Jonathan; Tomasz, Malisiewicz. 「階層的ロジスティック正規分布のフィッティング」 （PDF） . ^ ピーター・ホフ、2003年。リンク ^ 「対数正規分布とロジスティック正規分布の用語 - AIと社会科学 - ブレンダン・オコナー」 brenocon.com . 2018年 4月18日 閲覧 。 ^ J. アッチソン著「構成データの統計分析」統計と応用確率に関するモノグラフ、チャップマン＆ホール、1986年。 ^ Hinde, John (2011). 「ロジスティック正規分布」. Lovric, Miodrag (編). 国際統計科学百科事典 . Springer. pp. 754– 755. doi :10.1007/978-3-642-04898-2_342. ISBN 978-3-642-04897-5 。
さらに読む Frederic, P. & Lad, F. (2008) ロジット正規分布の二つのモーメント. Communications in Statistics-Simulation and Computation . 37: 1263-1269 Mead, R. (1965). 「一般化ロジット正規分布」. バイオメトリクス . 21 (3): 721– 732. doi :10.2307/2528553. JSTOR 2528553. PMID 5858101.
外部リンク
離散 一変数
連続 一変量
制限された間隔 でサポートされている 半無限 間隔 でサポートされている 実数直線 全体で サポートされている さまざまなタイプの サポート付き
混合 単変量
多変量 （ジョイント） 方向性 退化 と 特異性 家族
![{\displaystyle {\frac {1}{2}}{\Big [}1+\operatorname {erf} {\Big (}{\frac {\operatorname {logit} (x)-\mu }{\sqrt {2\sigma ^{2}}}}{\Big )}{\Big ]}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/f866d537580a7e284ff45c5b6ba44282405d5437)
![{\displaystyle E[X^{n}]\approx {\frac {1}{K-1}}\sum _{i=1}^{K-1}\left(P\left(\Phi _{\mu ,\sigma ^{2}}^{-1}(i/K)\right)\right)^{n},}](https://wikimedia.org/api/rest_v1/media/math/render/svg/72f6194558f091fda796896edd4b1cb390fbf201)
![{\displaystyle \mathbf {x} =\left[{\frac {e^{y_{1}}}{1+\sum _{i=1}^{D-1}e^{y_{i}}}},\dots ,{\frac {e^{y_{D-1}}}{1+\sum _{i=1}^{D-1}e^{y_{i}}}},{\frac {1}{1+\sum _{i=1}^{D-1}e^{y_{i}}}}\right]^{\top }}](https://wikimedia.org/api/rest_v1/media/math/render/svg/8d9c97b2fcf6aa03dd19a3bd83b6ff96f2deb7f7)
![{\displaystyle \mathbf {y} =\left[\log \left({\frac {x_{1}}{x_{D}}}\right),\dots ,\log \left({\frac {x_{D-1}}{x_{D}}}\right)\right]^{\top }}](https://wikimedia.org/api/rest_v1/media/math/render/svg/dd6953a8dc1335421fa50d4956fe959f724590a5)
![{\displaystyle \mathbf {y} =\left[\log \left({\frac {x_{1}}{1-x_{1}}}\right),\dots ,\log \left({\frac {x_{D}}{1-x_{D}}}\right)\right]^{\top }}](https://wikimedia.org/api/rest_v1/media/math/render/svg/41624f2bfd185e5111e9d4ec2339495bf420d3ff)
![{\displaystyle {\boldsymbol {\mu}}^{*}=\mathbf {E} _{p}\left[\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)\right]\quad ,\quad {\boldsymbol {\Sigma }}^{*}={\textbf {Var}}_{p}\left[\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b35a2ca21cc73c82be7e6e40e22cc8e3e297d36e)
