最小距離推定

最小距離推定MDE)は、統計モデル(通常は経験分布)をデータに当てはめる概念的な手法です。通常最小二乗法などのよく用いられる推定量は、最小距離推定の 特殊なケースと考えることができます。

最小距離推定量は、一貫性があり漸近的に正規分布に従うものの、尤度関数に通常含まれるヤコビアンを省略するため、最大尤度推定量と比較すると統計的に効率的ではないことが一般的です。しかし、これにより最適化問題の 計算複雑さは大幅に軽減されます。

意味

分布および の母集団から独立かつ同一に分布する(iid)ランダムサンプルを抽出します。

サンプルに基づく 経験分布関数とします。

を の推定量とします。すると はの推定量となります。

2つの引数間の「距離」の尺度を返す関数を とします。この関数は基準関数とも呼ばれます。

となるような が存在する場合、 は の最小距離推定と呼ばれます。

(ドロッソスとフィリッポウ、1980 年、121 ページ)

推定に使用される統計

最小距離推定に関する理論的研究のほとんど、そして多くの応用では、既に確立された適合度検定の基礎となる「距離」尺度が用いられています。これらの検定のいずれかで使用される検定統計量が、最小化すべき距離尺度として用いられます。以下は、最小距離推定に用いられてきた統計検定の例です。

カイ二乗基準

カイ二乗検定では、定義済みグループ全体にわたって、そのグループの推定値の増加分を重み付けした、経験分布の増加分と推定分布の増加分の二乗差の合計を基準として使用します。

クラマー・フォン・ミーゼス基準

クラメール・フォン・ミーゼス基準では、経験的分布関数と推定分布関数の差の二乗の積分を使用します(Parr & Schucany 1980、p. 616)。

コルモゴロフ・スミルノフ基準

コルモゴロフ・スミルノフ検定では、経験的分布関数と推定分布関数の絶対差最大値を使用します( Parr & Schucany 1980、p. 616)。

アンダーソン・ダーリング基準

アンダーソン・ダーリング検定はクラマー・フォン・ミーゼス基準に似ていますが、積分が二乗差の重み付きバージョンである点が異なります。重みは経験分布関数の分散に関係します(Parr & Schucany 1980、p. 616)。

理論的結果

最小距離推定の理論は、対応する統計的適合度検定の漸近分布の理論と関連している。クラマー・フォン・ミーゼス基準コルモゴロフ・スミルノフ検定アンダーソン・ダーリング検定は、より一般的な距離尺度の定式化の特殊なケースとして扱われることが多く、同時に扱われる。得られる理論的結果の例としては、パラメータ推定値の整合性、パラメータ推定値の漸近共分散行列などが挙げられる。

参照

参考文献