特性関数(確率論)

一様U (-1,1)確率変数の特性関数。この関数は原点対称の確率変数に対応するため実数値であるが、特性関数は一般に複素数値となる。

確率論および統計学において任意の実数値確率変数特性関数は、その確率分布を完全に定義する。確率変数が確率密度関数を許容する場合、その特性関数は確率密度関数の(符号反転を伴う)フーリエ変換である。したがって、確率密度関数累積分布関数を直接扱う場合と比較して、解析結果への代替手段となる。特に、確率変数の加重和によって定義される分布の特性関数については、単純な結果が得られる。

一変量分布に加えて、ベクトル値または行列値のランダム変数に対して特性関数を定義することができ、より一般的なケースに拡張することもできます。

モーメント生成関数とは異なり、実数値引数の関数として扱われる場合、特性関数は常に存在します。分布の特性関数の挙動と、モーメントの存在や密度関数の存在といった分布の性質との間には関係があります。

導入

特性関数は確率変数 Xを記述する方法である。特性関数は

tの関数は、 Xの確率分布の挙動と特性を決定します。これは確率密度関数または累積分布関数と同等です。これらの関数のいずれかが分かれば、他の関数も計算できますが、確率変数の特性についてそれぞれ異なる知見が得られるからです。特定のケースでは、これらの同等の関数のいずれかを、単純な標準関数で表現する方が簡単な場合があります。

確率変数が密度関数を持つ場合、特性関数はそのフーリエ双対 であり、それぞれが他方のフーリエ変換であるという意味である。確率変数がモーメント生成関数 を持つ場合、特性関数の定義域は複素平面に拡張することができ、

[1]

ただし、モーメント生成関数がtのすべての実数値に対して明確に定義されていない場合でも、分布の特性関数はtのすべての実数値に対して明確に定義されることに注意してください。

特性関数アプローチは、独立確率変数の線型結合の解析において特に有用である。中心極限定理の古典的な証明は、特性関数とレヴィの連続定理を用いている。もう一つの重要な応用は、確率変数の分解可能性理論である。

意味

スカラー確率変数Xの場合、特性関数はe itX期待値として定義されます。ここで、i虚数単位tRは特性関数の引数です。

ここでF XX累積分布関数f Xは対応する確率密度関数Q X ( p )は対応する逆累積分布関数で、位関数とも呼ばれます[2] 。積分はリーマン・スティルチェス型です。ランダム変数X が確率密度関数を持つ場合、特性関数は複素指数関数で符号を反転したフーリエ変換です[3] 。 [4]特性関数の定義に現れる定数のこの規則は、フーリエ変換の通常の規則とは異なります[5] 。たとえば、一部の著者[6]はφ X ( t ) = E[ e −2 πitX ]と定義していますが、これは基本的にパラメーターの変更です。文献では、確率測度pの特性関数として、または密度fに対応する特性関数として、他の表記法に遭遇することもあります

一般化

特性関数の概念は、多変数確率変数やより複雑な確率元に一般化されます。特性関数の偏角は常に、確率変数Xが値をとる空間の連続双対に属します。一般的なケースにおけるそのような定義を以下に示します。

  • Xk次元のランダムベクトルある場合、 t∈Rk ベクトル  転置に対して
  • Xがk × p次元のランダム行列ある場合、 t∈Rk × p トレース演算子に対して
  • Xが複素確率変数である場合、 t∈C [7] において、複素共役で あり、は複素数実部ある
  • Xがk次元複素乱数ベクトルである場合、 t∈Ck [   8] に対して、ベクトルの  共役転置
  • X ( s )が確率過程である場合、 Xのほぼすべての実現に対して積分が収束するような関数t ( s )に対して[9]

分布特性関数
退化した δ a
ベルヌーイ ベルン( p )
二項分布 B( n,p )
負の二項式 NB( r, p )
ポアソン分布 Pois( λ )
一様(連続) U( a,b )
一様(離散) DU( a,b )
ラプラス L( μ , b )
ロジスティック ロジスティック( μ , s )
正規分布 N ( μ , σ 2 )
カイ2乗 χ 2 k
非心カイ二乗検定
一般化カイ二乗検定
コーシー C( μ , θ )
ガンマ Γ( k , θ )
指数関数 Exp( λ )
幾何 Gf( p )
(失敗回数)
幾何 Gt( p )
(試行回数)
多変量正規 N ( μ , Σ )
多変数コーシー MultiCauchy( μ , Σ ) [10]

Oberhettinger (1973) は特性関数の詳細な表を提供しています。

プロパティ

  • 実数値ランダム変数の特性関数は、測度が有限である空間上の有界連続関数の積分であるため、常に存在します。
  • 特性関数は空間全体にわたって一様連続です。
  • ゼロ付近の領域ではゼロにならない:φ (0) = 1
  • それは有界である: | φ ( t ) | ≤ 1
  • これはエルミート関数です:φ (− t ) = φ ( t )。特に、対称(原点周り)確率変数の特性関数は実数値で偶数です。
  • 確率分布と特性関数の間には一対一性がある。つまり、任意の2つの確率変数X 1X 2に対して、両者が同じ確率分布を持つのは、 が成り立つ場合のみである[要出典]
  • 確率変数Xがk次までのモーメントを持つ場合、特性関数φX実数直線上でk回連続微分可能である。この場合、
  • 特性関数φX0でk次導関数を持つ場合、確率変数Xはkが偶数のときはkまでのすべてのモーメントを持ちkが奇数のときはk -1までしか持たない。[11]
  • X 1 , ..., X n が独立確率変数であり、a 1 , ..., a nが定数である場合、 X i変数の線形結合の特性関数は次のようになる。1つの具体的なケースは、2つの独立確率変数X 1X 2の和である。この場合は、
  • およびを、特性関数およびを持つ 2 つの確率変数としますおよび は、 の場合にのみ独立です
  • 特性関数のテールの挙動によって、対応する密度関数の滑らかさが決まります。
  • 確率変数を確率変数の線形変換とします。 の特性関数はです。確率ベクトル(ただし、Aは定数行列、Bは定数ベクトル)に対して、 が成り立ちます[12]

連続

確率分布と特性関数の間の上述の一対一は、逐次連続である。つまり、分布関数列F j ( x )が何らかの分布F ( x )に(弱収束する)ときはいつでも、対応する特性関数列φ j ( t ) も収束し、極限φ ( t )は法則Fの特性関数に対応する。より正式には、これは次のように述べられる。

レヴィの連続性定理n変数確率変数X j確率変数Xに分布収束する場合、かつその場合と同値である。列φ X jは原点で連続な関数φに点収束する。ここでφはXの特性関数である [13]

この定理は、大数の法則中心極限定理を証明するために使用できます

反転式

累積分布関数と特性関数は一対一に対応しているため、どちらか一方がわかれば、もう一方を求めることができます。特性関数の定義式を用いると、分布関数F(または密度f )がわかればφ を計算できます。一方、特性関数φがわかっていて、対応する分布関数を求めたい場合は、以下の逆定理のいずれかを利用できます。

定理。確率変数Xの特性関数φX積分可能ならばFX絶対連続であり、したがってXは確率密度関数を持つ。一変数の場合(つまりXがスカラー値の場合)、密度関数は次のように与えられる。

多変量の場合、

ドット積はどこにありますか

密度関数は、分布μ Xのルベーグ測度λに関するラドン・ニコディム微分である。

定理(レヴィ) [注 1] φ X が分布関数F Xの特性関数である場合、2点a < bは{ x | a < x < b }μ X連続集合となるような関係にある(一変数の場合、この条件はabにおけるF Xの連続性に等しい)。

  • Xがスカラーの場合:この式は、数値計算に便利な形で次のように言い換えることができます。[14]下から有界なランダム変数の場合、をとることでを得ることができます。そうでない場合、ランダム変数が下から有界でない場合は の極限は となりますが、数値的に非現実的です。[14]
  • Xがベクトル確率変数の場合:

定理。aが(おそらく) Xの原子であるならば(一変数の場合、これはF Xの不連続点を意味する)、

  • Xがスカラーの場合:
  • Xがベクトル確率変数の場合: [15]

定理(ギル・ペラエズ) [ 16]一変数確率変数Xに対して、xがF Xの連続点であるとき

ここで、複素数の虚数部は で与えられます

その密度関数は次のようになります。

積分はルベーグ積分可能ではない場合があります。たとえば、X が常に 0 となる離散確率変数である場合、それはディリクレ積分になります。

多変量分布の逆関数公式も利用可能である。[14] [17]

特性関数の基準

すべての特性関数の集合は、特定の演算の下で閉じている。

  • 有限個または可算個数の特性関数の凸線形結合( )も特性関数ある
  • 有限個の特性関数の積もまた特性関数である。無限個の積についても、原点で連続な関数に収束する限り、同様のことが成り立つ。
  • φが特性関数でαが実数の場合、 Re( φ )、| φ | 2φ ( αt )も特性関数になります。

極限F (−∞) = 0 , F (+∞) = 1を持つ任意の非減少càdlàg関数F が、ある確率変数の累積分布関数に対応することはよく知られています。与えられた関数φ が、ある確率変数の特性関数となり得る場合について、同様の単純な基準を見つけることにも関心が寄せられています。ここでの中心的な結果はボクナーの定理ですが、定理の主要条件である非負定常性の検証が非常に難しいため、その有用性は限られています。ヒンチンの定理、マティアスの定理、クラマーの定理など、他の定理も存在しますが、その適用は同様に困難です。一方、ポリアの定理は、十分ではあるが必須ではない非常に単純な凸性条件を提供します。この条件を満たす特性関数はポリア型と呼ばれます。 [18]

ボッホナーの定理。任意の関数φ  : R nCが何らかの確率変数の特性関数となるのは、 φ が正定値原点で連続であり、 φ (0) = 1である場合に限ります。

ヒンチンの基準。複素数値の絶対連続関数φ ( φ (0) = 1 )が特性関数であるための必要十分条件は、次の表現が許されるときである。

マティアスの定理。実数値、偶数、連続、絶対積分可能な関数φ ( φ (0) = 1 )が特性関数である場合、かつその場合のみ、

n = 0,1,2,...、かつすべてのp > 0。ここでH 2 n2 n次エルミート多項式を表す

ポリアの定理は、特性関数が有限区間内で一致するが、他の部分では異なる 2 つの確率変数の例を構築するために使用できます。

ポリアの定理が実数値の偶数連続関数であり、以下の条件を満たす 場合、

  • 凸であり

φ ( t )0を中心に対称な絶対連続分布の特性関数です。

用途

連続定理のため、中心極限定理の最も頻繁に見られる証明では特性関数が用いられます。特性関数を用いた計算を行う際の主なテクニックは、その関数を特定の分布の特性関数として認識することです。

分布の基本的な操作

特性関数は、独立確率変数の線形関数を扱う際に特に有用である。例えば、X 1X 2、…、X nが独立(かつ必ずしも同一分布に従うとは限らない)確率変数の列であり、

ここで、a iは定数であり、 S nの特性関数は次のように与えられる。

特に、φ X+Y ( t ) = φ X ( t ) φ Y ( t )です。これを確認するには、特性関数の定義を書き出してみましょう。

3 番目と 4 番目の式の等式を確立するには、 XYが独立していることが必要です。

同一分布に従う確率変数のもう一つの興味深い特殊なケースは、a i = 1 / nの場合であり、S nは標本平均である。この場合、平均をXと書くと、

瞬間

特性関数は、確率変数のモーメントを求めるのにも使えます。nモーメントが存在する場合、特性関数はn回微分することができます

これは、ディラックのデルタ関数の導関数を使用して正式に記述することができ、これによりモーメント問題に対する正式な解が得られます。たとえば、X が標準コーシー分布に従うとします。その場合、 φ X ( t ) = e −| t |となります。これはt = 0微分不可能であり、コーシー分布には期待値がないことがわかります。また、前のセクションの結果を使用すると、 n 個の独立した観測値の標本平均Xの特性関数は、 φ X ( t ) = ( e −| t |/ n ) n = e −| t |となります。これは標準コーシー分布の特性関数であるため、標本平均は母集団自体と同じ分布に従います。

さらに別の例として、Xがガウス分布に従うと仮定するこの場合

同様の計算により、 が示され、 は、期待値の定義を適用し、部分積分を使用して を評価するよりも簡単に実行できます

特性関数の対数はキュムラント生成関数であり、キュムラントを見つけるのに役立ちます。代わりに、キュムラント生成関数をモーメント生成関数の対数として定義し、特性関数の対数を第2キュムラント生成関数と呼ぶ人もいます。

データ分析

特性関数は、確率分布をデータサンプルに当てはめる手順の一部として使用できます。他の可能性と比較してこれが実用的なオプションとなるケースとしては、密度の閉形式表現が利用できないために最大尤度推定の実装が困難であり安定分布を当てはめる場合などがあります。理論的な特性関数をデータから計算された経験的特性関数に一致させる推定手順が利用可能です。Paulson et al. (1975) [19]および Heathcote (1977) [20]は、このような推定手順の理論的背景を提供しています。さらに、Yu (2004) [21] は、尤度手順が実用的でない場合に経験的特性関数を時系列モデルに当てはめる応用について説明しています。経験的特性関数は、Ansari et al. (2020) [22]および Li et al. (2020) [23]によって生成的敵対ネットワークのトレーニングにも使用されています

尺度パラメータθと形状パラメータkを持つガンマ分布の特性関数は

さて、ここで

XYは互いに独立であり、 X + Yの分布がどうなるかを知りたいとします。特性関数は

これは独立性と特性関数の基本的性質により、

これはガンマ分布の尺度パラメータθと形状パラメータk 1 + k 2の特性関数であり、したがって次のように結論づけられる。

この結果は、同じスケールパラメータを持つn個の独立したガンマ分布の確率変数に展開することができ、

特性関数全体

上で定義したように、特性関数の引数は実数として扱われる。しかし、特性関数の理論の特定の側面は、可能であれば解析接続によって定義を複素平面に拡張することで発展する。 [24]

関連する概念には、モーメント生成関数確率生成関数があります。特性関数はすべての確率分布に存在しますが、モーメント生成関数には当てはまりません。

特性関数はフーリエ変換と密接に関連しています。確率密度関数p ( x )の特性関数は、p ( x )連続フーリエ変換複素共役です(通常の規則に従います。「連続フーリエ変換 - その他の規則」を参照してください)。

ここで、 P ( t )は確率密度関数p ( x )の連続フーリエ変換を表す。同様に、p ( x ) は逆フーリエ変換によってφ X ( t )から復元できる。

実際、ランダム変数が密度を持たない場合でも、特性関数はランダム変数に対応する測度のフーリエ変換として見ることができます。

関連するもう一つの概念は、確率分布を、分布の核埋め込みを介して再生核ヒルベルト空間の要素として表現することです。この枠組みは、核関数の特定の選択の下での特性関数の一般化と見ることができます

参照

  • 準独立性は、特性関数の観点から定義される、独立性よりも弱い条件です。
  • キュムラント は、特性関数の対数であるキュムラント生成関数の項です。

注記

参考文献

引用

  1. ^ ルカーチ(1970)、196ページ。
  2. ^ Shaw, WT; McCabe, J. (2009). 「特性関数を与えられたモンテカルロサンプリング:運動量空間における分位点力学」arXiv : 0903.1592 [q-fin.CP].
  3. ^ 統計的適応信号処理(2005年)、79ページ
  4. ^ ビリングスリー(1995)、345ページ。
  5. ^ ピンスキー(2002年)。
  6. ^ ボクナー(1955年)。
  7. ^ アンデルセンら。 (1995)、定義 1.10。
  8. ^ アンデルセンら。 (1995)、定義 1.20。
  9. ^ ソブチク(2001)、20頁。
  10. ^ Kotz & Nadarajah (2004)、p. 37、コーシー分布を回復するために自由度の数を1とする
  11. ^ Lukacs (1970)、定理2.3.1の系1。
  12. ^ 「ジョイント特性関数」www.statlect.com . 2018年4月7日閲覧
  13. ^ Cuppens (1975)、定理 2.6.9。
  14. ^ abc シェパード(1991a)。
  15. ^ Cuppens (1975)、定理 2.3.2。
  16. ^ ウェンデル(1961年)。
  17. ^ シェパード(1991b)。
  18. ^ ルカーチ(1970年)、84ページ。
  19. ^ ポールソン、ホルコム、リーチ(1975年)。
  20. ^ ヒースコート(1977年)。
  21. ^ ユウ(2004年)。
  22. ^ アンサリ、スカーレット&ソー(2020年)。
  23. ^ Liら(2020年)。
  24. ^ ルカーチ(1970)、第7章。

出典

  • アンデルセン、HH;ホイビエール、M.ソーレンセン、D.エリクセン、PS (1995)。多変量複素正規分布の線形モデルとグラフィカル モデル。統計学の講義ノート 101。ニューヨーク: Springer-Verlag。ISBN 978-0-387-94521-7
  • ビリングスリー、パトリック(1995年)『確率と測度(第3版)』John Wiley & Sons. ISBN 978-0-471-00710-4
  • Bisgaard, TM; Sasvári, Z. (2000).特性関数とモーメント列. Nova Science.
  • ボクナー、サロモン(1955年)『調和解析と確率論』カリフォルニア大学出版局。
  • Cuppens, R. (1975).多変量確率の分解. Academic Press. ISBN 9780121994501
  • Heathcote, CR (1977). 「パラメータの積分二乗誤差推定」Biometrika . 64 (2): 255– 264. doi :10.1093/biomet/64.2.255.
  • ルカーチ, E. (1970).特性関数. ロンドン: グリフィン.
  • Kotz, Samuel; Nadarajah, Saralees (2004).多変量T分布とその応用. Cambridge University Press.
  • マノラキス, ディミトリス G.; イングル, ヴィナイ K.; コーゴン, スティーブン M. (2005). 統計的・適応的信号処理:スペクトル推定、信号モデリング、適応フィルタリング、アレイ処理. アーテックハウス. ISBN 978-1-58053-610-3
  • オーバーヘッティンガー、フリッツ (1973).超関数のフーリエ変換とその逆関数;表集. ニューヨーク: アカデミック・プレス. ISBN 9780125236508
  • Paulson, AS; Holcomb, EW; Leitch, RA (1975). 「安定法則のパラメータの推定」Biometrika . 62 (1): 163– 170. doi :10.1093/biomet/62.1.163.
  • ピンスキー、マーク(2002)『フーリエ解析とウェーブレット入門』ブルックス/コール社、ISBN 978-0-534-37660-4
  • ソプチク、カジミエシュ (2001)。確率微分方程式Kluwer Academic PublishersISBN 978-1-4020-0345-5
  • ウェンデル, JG (1961). 「ギル=ペラエズの逆積分の非絶対収束」.数理統計年報. 32 (1): 338– 339. doi : 10.1214/aoms/1177705164 .
  • Yu, J. (2004). 「経験的特性関数推定とその応用」(PDF) .計量経済学レビュー. 23 (2): 93– 1223. doi :10.1081/ETC-120039605. S2CID  9076760.
  • シェパード, NG (1991a). 「特性関数から分布関数へ:理論のためのシンプルな枠組み」.計量経済理論. 7 (4): 519– 529. doi :10.1017/s0266466600004746. S2CID  14668369.
  • Shephard, NG (1991b). 「多変量逆問題における数値積分則」. Journal of Statistical Computation and Simulation . 39 ( 1–2 ): 37– 46. doi :10.1080/00949659108811337.
  • アンサリ, アブドゥル・ファティル; スカーレット, ジョナサン; ソー, ハロルド (2020). 「深層暗黙的生成モデリングへの特性関数アプローチ」. IEEE/CVF コンピュータビジョンおよびパターン認識会議 (CVPR) の議事録, 2020. pp.  7478– 7487.
  • Li, Shengxi; Yu, Zeyang; Xiang, Min; Mandic, Danilo (2020). 「特性関数による相互敵対学習」.ニューラル情報処理システムの進歩 33 (NeurIPS 2020) .
Retrieved from "https://en.wikipedia.org/w/index.php?title=Characteristic_function_(probability_theory)&oldid=1305741601"