スコアリングアルゴリズム

スコアリングアルゴリズムはフィッシャースコアリングとも呼ばれ、^[1]統計学で最大尤度方程式を数値的に解くために使用されるニュートン法の一種で、ロナルド・フィッシャーにちなんで名付けられました。

導出の概要

を独立かつ同一分布に従う確率変数とし、2回微分可能な確率密度関数（ pdf ）で、の最大尤度推定値（MLE）を計算します。まず、アルゴリズムの開始点を とし、に関するスコア関数（ ）のテイラー展開を考えます。 ${\displaystyle Y_{1},\ldots ,Y_{n}}$ ${\displaystyle f(y;\theta )}$ ${\displaystyle \theta ^{*}}$ ${\displaystyle \theta }$ ${\displaystyle \theta _{0}}$ ${\displaystyle V(\theta )}$ ${\displaystyle \theta _{0}}$

${\displaystyle V(\theta )\approx V(\theta _{0})-{\mathcal {J}}(\theta _{0})(\theta -\theta _{0}),\,}$

どこ

${\displaystyle {\mathcal {J}}(\theta _{0})=-\sum _{i=1}^{n}\left.\nabla \nabla ^{\top }\right|_{\theta =\theta _{0}}\log f(Y_{i};\theta )}$

は における観測情報行列です。 を設定し、それを用いて整理すると、次の式が得られます。 ${\displaystyle \theta _{0}}$ ${\displaystyle \theta =\theta ^{*}}$ ${\displaystyle V(\theta ^{*})=0}$

${\displaystyle \theta ^{*}\approx \theta _{0}+{\mathcal {J}}^{-1}(\theta _{0})V(\theta _{0}).\,}$

そこで我々はアルゴリズムを使用する

${\displaystyle \theta _{m+1}=\theta _{m}+{\mathcal {J}}^{-1}(\theta _{m})V(\theta _{m}),\,}$

そして、ある一定の正則性条件下では、 であることが証明される。 ${\displaystyle \theta _{m}\rightarrow \theta ^{*}}$

フィッシャーの得点

実際には、は通常、つまりフィッシャー情報量 に置き換えられ、フィッシャースコアリングアルゴリズムが得られます。 ${\displaystyle {\mathcal {J}}(\theta )}$ ${\displaystyle {\mathcal {I}}(\theta )=\mathrm {E} [{\mathcal {J}}(\theta )]}$

${\displaystyle \theta _{m+1}=\theta _{m}+{\mathcal {I}}^{-1}(\theta _{m})V(\theta _{m})}$..

いくつかの正則性条件下では、が一貫した推定値である場合、（単一ステップ後の補正）は、その誤差分布が真の最大尤度推定値の誤差分布と漸近的に同一であるという意味で「最適」である。^[2] ${\displaystyle \theta _{m}}$ ${\displaystyle \theta _{m+1}}$

参照

• スコア（統計）
• スコアテスト
• フィッシャー情報

参考文献

1. Longford, Nicholas T. (1987). 「ネストされたランダム効果を持つ不均衡混合モデルにおける最大尤度推定のための高速スコアリングアルゴリズム」Biometrika . 74 (4): 817– 827. doi :10.1093/biomet/74.4.817.
2. Li, Bing; Babu, G. Jogesh (2019)、「ベイズ推論」、Springer Texts in Statistics、ニューヨーク、NY：Springer New York、Theorem 9.4、doi：10.1007 / 978-1-4939-9761-9_6、ISBN 978-1-4939-9759-6, S2CID  239322258 , 2023年1月3日取得

さらに読む

• Jennrich, RI & Sampson, PF (1976). 「ニュートン・ラプソン法と関連アルゴリズムによる最大尤度分散成分推定」. Technometrics . 18 (1): 11– 17. doi :10.1080/00401706.1976.10489395 (2025年7月12日現在非アクティブ). JSTOR  1267911.{{cite journal}}: CS1 maint: DOIは2025年7月時点で非アクティブです（リンク）

「https://en.wikipedia.org/w/index.php?title=Scoring_algorithm&oldid=1300130612」より取得