正規化定数

af(x)が確率測度となる定数a

確率論では、正規化定数または正規化係数を使用して、任意の確率関数を、総確率が 1 である確率密度関数に縮小します。

例えば、ガウス関数は確率密度関数に正規化することができ、標準正規分布を与えます。ベイズの定理では、正規化定数は、すべての可能な仮説の合計が1になることを保証するために使用されます。正規化定数の他の用途としては、ルジャンドル多項式の値を1にすることや、直交関数の直交性などがあります。

同様の概念は、多項式など、確率以外の分野でも使用されています。

意味

確率論において、正規化定数とは、あらゆる点で非負の関数に掛けてそのグラフの下の面積が1となる定数であり、例えば確率密度関数や確率質量関数にするために使用される。^{[1] [2]}

例

単純なガウス関数から始めると、対応するガウス積分が得られる。 $${\displaystyle p(x)=e^{-x^{2}/2},\quad x\in (-\infty ,\infty )}$$ $${\displaystyle \int _{-\infty }^{\infty }p(x)\,dx=\int _{-\infty }^{\infty }e^{-x^{2}/2}\,dx={\sqrt {2\pi \,}},}$$

ここで、後者の逆数値を前者の正規化定数として用い、積分が1となる 関数を と定義すると、その関数は確率密度関数となる。^{[3]これは標準}正規分布 の密度である。（この場合の標準とは、期待値が0で分散が1であることを意味する。） ${\displaystyle \varphi (x)}$ $${\displaystyle \varphi (x)={\frac {1}{\sqrt {2\pi \,}}}p(x)={\frac {1}{\sqrt {2\pi \,}}}e^{-x^{2}/2}}$$ $${\displaystyle \int _{-\infty }^{\infty }\varphi (x)\,dx=\int _{-\infty }^{\infty }{\frac {1}{\sqrt {2\pi \,}}}e^{-x^{2}/2}\,dx=1}$$ ${\displaystyle \varphi (x)}$

そして、定数は関数の正規化定数です。 ${\textstyle {\frac {1}{\sqrt {2\pi }}}}$ ${\displaystyle p(x)}$

同様に、したがって、はすべての非負整数の集合上の確率質量関数である。^[4]これは期待値λを持つポアソン分布 の確率質量関数である。 $${\displaystyle \sum _{n=0}^{\infty }{\frac {\lambda ^{n}}{n!}}=e^{\lambda },}$$ $${\displaystyle f(n)={\frac {\lambda ^{n}e^{-\lambda }}{n!}}}$$

確率密度関数が様々なパラメータの関数である場合、その正規化定数も様々なパラメータの関数となることに注意してください。ボルツマン分布のパラメータ化された正規化定数は、統計力学において中心的な役割を果たします。その文脈では、正規化定数は分配関数と呼ばれます。

ベイズの定理

ベイズの定理によれば、事後確率測度は事前確率測度と尤度関数の積に比例します。 に比例するということは、空間全体に測度 1 を割り当てるために、つまり確率測度を得るために、正規化定数を乗算または除算する必要があることを意味します。単純な離散ケースでは、次のようになります。ここで、P(H ₀ ) は仮説が真である事前確率です。P(D|H ₀ ) は仮説が真である場合のデータの条件付き確率ですが、データが既知である場合は、データが与えられた仮説 (またはそのパラメータ) の尤度です。P(H ₀ |D) は、データが与えられた場合の仮説が真である事後確率です。 P(D)はデータを生成する確率であるはずだが、それだけでは計算が難しいため、この関係を比例関係として記述する別の方法は次の通りである。P (H|D)は確率なので、すべての可能な（互いに排他的な）仮説の合計は1になるはずであり、次の結論に至る。この場合、値の逆数が正規化定数である。^[5] 合計を積分に置き換えることで、可算数の仮説から非可算数の仮説まで拡張することができる。 $${\displaystyle P(H_{0}|D)={\frac {P(D|H_{0})P(H_{0})}{P(D)}}}$$ $${\displaystyle P(H_{0}|D)\propto P(D|H_{0})P(H_{0}).}$$ $${\displaystyle P(H_{0}|D)={\frac {P(D|H_{0})P(H_{0})}{\displaystyle \sum _{i}P(D|H_{i})P(H_{i})}}.}$$ $${\displaystyle P(D)=\sum _{i}P(D|H_{i})P(H_{i})\;}$$

具体的には、実用上、正規化定数を推定する方法は数多く存在します。ブリッジサンプリング法、単純モンテカルロ推定法、一般化調和平均推定法、重要度サンプリング法などが挙げられます。^[6]

非確率的使用

ルジャンドル多項式は、区間 [-1, 1] 上の均一測度に関して直交性があり、1 における値が 1 になるように正規化されているという特徴があります。多項式に乗じてその値が 1 になるようにする定数は、正規化定数です。

直交関数は、ある内積⟨ f、g ⟩に関して正規化されます。 $${\displaystyle \langle f_{i},\,f_{j}\rangle =\,\delta _{i,j}}$$

定数1/ √2は、双曲三角形の隣接辺と対辺の長さから双曲関数cosh と sinhを確立するために使用されます。

参照

• 正規化（統計）

参考文献

1. アラバマ大学ハンツビル校数理科学科における連続分布
2. フェラー 1968、22ページ
3. フェラー 1968、174ページ
4. フェラー 1968、156ページ
5. フェラー 1968、124ページ
6. Gronau, Quentin (2020). 「bridgesampling: 正規化定数の推定のためのRパッケージ」(PDF) . The Comprehensive R Archive Network . 2021年9月11日閲覧。

• フェラー、ウィリアム（1968年）『確率論とその応用入門（第1巻）』ジョン・ワイリー・アンド・サンズ社、ISBN 0-471-25708-7。

「https://en.wikipedia.org/w/index.php?title=Normalizing_constant&oldid=1229954511」から取得