単調尤度比

分布における単調な尤度比と ${\displaystyle \ f(x)\ }$ ${\displaystyle \ g(x)\ }$

上記の密度関数の比はパラメータ内で単調であるため、単調尤度比の特性を満たします。 ${\displaystyle \ x\ ,}$ ${\displaystyle \ {\frac {\ f(x)\ }{g(x)}}\ }$

統計学において、単調尤度比の性質は、2つの確率密度関数（PDF）の比の性質である。正式には、分布とが以下の条件を満たす場合、この性質を持つ。 ${\displaystyle \ f(x)\ }$ ${\displaystyle \ g(x)\ }$

${\displaystyle \ {\text{for every }}x_{2}>x_{1},\quad {\frac {f(x_{2})}{\ g(x_{2})\ }}\geq {\frac {f(x_{1})}{\ g(x_{1})\ }}\ }$

つまり、比率が引数で非減少である場合です。 ${\displaystyle x}$

関数が一次微分可能である場合、その性質は次のように述べられることがある。

${\displaystyle {\frac {\ \partial }{\ \partial x}}\left({\frac {f(x)}{\ g(x)\ }}\right)\geq 0\ }$

ある議論に関して定義を満たす2つの分布については、それらが「MLRPを持つ」と言います。ある統計量に関して定義を満たす分布の族については、それらが「MLRを持つ」 と言います。 ${\displaystyle \ x\ ,}$ ${\displaystyle \ x~.}$ ${\displaystyle \ T(X)\ ,}$ ${\displaystyle \ T(X)~.}$

直感

MLRP は、ある観測変数の大きさとその変数が抽出される分布との間に単純な関係があるデータ生成プロセスを表すために使用されます。 がに関して MLRP を満たす場合、観測値 が高いほど、分布ではなく分布から抽出された可能性が高くなります。単調な関係の場合と同様に、尤度比の単調性は統計、特に最大尤度推定 を使用する場合に役立ちます。また、MLR を持つ分布族には、一次確率優位性や増加するハザード比など、適切に動作する確率的特性がいくつかあります。残念ながら、これもよくあることですが、この仮定の強さは現実性を犠牲にして得られます。世の中の多くのプロセスは、入力と出力の間に単調な対応を示しません。 ${\displaystyle \ f(x)\ }$ ${\displaystyle \ g(x)\ }$ ${\displaystyle \ x\ }$ ${\displaystyle \ f\ }$ ${\displaystyle \ g~.}$

例: 一生懸命働く、または怠ける

あるプロジェクトに取り組んでいるとします。一生懸命働くか、怠けるか、どちらかを選ぶことができます。あなたの努力の選択と、結果として得られるプロジェクトの品質を呼び出します。もし、あなたの努力を条件とするの分布にMLRPが成り立つとしたら、品質が高いほど、一生懸命働いた可能性が高くなります。逆に、品質が低いほど、怠けた可能性が高くなります。 ${\displaystyle \ e\ }$ ${\displaystyle \ q~.}$ ${\displaystyle \ q\ }$ ${\displaystyle \ e\ }$

1: 努力を選択します。は高い努力を意味し、 は低い努力を意味します。 ${\displaystyle \ e\in \{H,L\}\ }$ ${\displaystyle \ H\ }$ ${\displaystyle \ L\ }$

2:均一な事前分布を持つベイズの法則から得られるものを観察する。 ${\displaystyle \ q\ }$ ${\displaystyle \ f(q\ |\ e)~.}$

${\displaystyle \ \operatorname {\mathbb {P} } {\bigl [}\ e=H\ {\big |}\ q\ {\bigr ]}={\frac {f(q\ |\ H)}{\ f(q\ |\ H)+f(q\ |\ L)\ }}\ }$

3: がMLRPを満たすと仮定する。整理すると、労働者が一生懸命働く確率は ${\displaystyle \ f(q\ |\ e)\ }$

${\displaystyle \ {\frac {1}{\ 1+f(q\ |\ L)/f(q\ |\ H)\ }}\ }$

これは、MLRPのおかげで、 で単調増加します（は で減少するため）。 ${\displaystyle \ q\ }$ ${\displaystyle \ {\frac {f(q\ |\ L)}{\ f(q\ |\ H)\ }}\ }$ ${\displaystyle \ q\ }$

したがって、雇用主が「業績評価」を行う場合、従業員の仕事の成果からその従業員の行動を推測することができます。

MLRを満たす分布族

統計モデルでは、データが何らかの分布族に属する分布によって生成されると仮定し、その分布を決定しようとすることがよくあります。この作業は、分布族が単調尤度比特性（MLRP）を持つ場合、簡素化されます。

順序付けられた集合の値をとるパラメータでインデックス付けされた密度関数の族は、任意の ${\displaystyle \ {\bigl \{}\ f_{\theta }(x)\ {\big |}\ \theta \in \Theta \ {\bigr \}}\ }$ ${\displaystyle \ \theta \ }$ ${\displaystyle \ \Theta \ }$ ${\displaystyle \ T(X)\ }$ ${\displaystyle \ \theta _{1}<\theta _{2}\ ,}$

${\displaystyle \ {\frac {f_{\theta _{2}}(X=x_{1},\ x_{2},\ x_{3},\ \ldots \ )}{\ f_{\theta _{1}}(X=x_{1},\ x_{2},\ x_{3},\ \ldots \ )\ }}\ }$は非減少関数である ${\displaystyle \ T(X)~.}$

このとき、分布族には「MLR が」あると言われます。 ${\displaystyle \ T(X)\ }$

家族のリスト

家族	${\displaystyle \ T(X)\ }$MLRが    ある ${\displaystyle \ f_{\theta }(X)\ }$
指数関数 ${\displaystyle [\lambda ]\ }$	${\displaystyle \ \sum x_{i}\ }$観察
二項式 ${\displaystyle [n,p]\ }$	${\displaystyle \ \sum x_{i}\ }$観察
ポアソン ${\displaystyle [\lambda ]\ }$	${\displaystyle \ \sum x_{i}\ }$観察
普通 ${\displaystyle [\mu ,\sigma ]\ }$	既知の場合、観察 ${\displaystyle \ \sigma \ }$ ${\displaystyle \ \sum x_{i}\ }$

仮説検定

確率変数の族が均一なMLRPを持つ場合、仮説と検定の最も強力な検定は簡単に決定できる。 ${\displaystyle \ T(X)\ ,}$ ${\displaystyle \ H_{0}\ :\ \theta \leq \theta _{0}\ }$ ${\displaystyle \ H_{1}\ :\ \theta >\theta _{0}~.}$

例: 努力と成果

例:確率的技術への入力（例えば労働者の努力）と その出力を仮定し、その尤度は確率密度関数で記述される。すると、族の単調尤度比特性（MLRP）は次のように表現される。任意のに対して、 その 比率 が増加することを意味する。 ${\displaystyle \ e\ }$ ${\displaystyle \ y\ }$ ${\displaystyle \ f(y;e)~.}$ ${\displaystyle \ f\ }$ ${\displaystyle \ e_{1},e_{2}\ ,}$ ${\displaystyle e_{2}>e_{1}}$ ${\displaystyle \ {\frac {\ f(y;e_{2})\ }{f(y;e_{1})}}\ }$ ${\displaystyle \ y~.}$

他の統計特性との関係

単調尤度は、点推定や仮説検定、確率モデルなど、統計理論のさまざまな分野で使用されます。

指数族

1パラメータ指数族は単調な尤度関数を持つ。特に、1次元の指数族の確率密度関数または確率質量関数は 、

${\displaystyle \ f_{\theta }(x)=c(\theta )\ h(x)\ \exp {\Bigl (}\ \pi \left(\theta \right)\ T\left(x\right)\ {\Bigr )}\ }$

が非減少で ある場合、十分な統計量 において単調な非減少尤度比を持ちます。 ${\displaystyle \ T(x)\ ,}$ ${\displaystyle \ \pi (\theta )\ }$

一様に最も強力なテスト：カーリン・ルビンの定理

単調尤度関数は、カーリン・ルビンの定理に従って、均一に最も強力な検定を構築するために使用されます。^{[ 1 ]} スカラーパラメータでパラメータ化された確率密度関数を持つスカラー測定を考え、尤度比を定義します。が単調非減少で、任意のペア（つまり、が大きいほど、より可能性が高い）の 場合、閾値検定は次のようになります。 ${\displaystyle \ \theta \ ,}$ ${\displaystyle \ \ell (x)={\frac {f_{\theta _{1}}(x)}{\ f_{\theta _{0}}(x)\ }}~.}$ ${\displaystyle \ \ell (x)\ }$ ${\displaystyle \ x\ ,}$ ${\displaystyle \ \theta _{1}\geq \theta _{0}\ }$ ${\displaystyle \ x\ }$ ${\displaystyle \ H_{1}\ }$

${\displaystyle \ \varphi (x)={\begin{cases}1&{\text{if }}x>x_{0}\\0&{\text{if }}x<x_{0}\end{cases}}\ }$

が選ばれる場所 ${\displaystyle \ x_{0}\ }$ ${\displaystyle \ \operatorname {\mathbb {E} } {\bigl \{}\ \varphi (X)\ {\big |}\ \theta _{0}\ {\bigr \}}=\alpha \ }$

テスト用のサイズの UMP テストです。 ${\displaystyle \ \alpha \ }$ ${\displaystyle \ H_{0}\ :\ \theta \leq \theta _{0}~~}$ ${\displaystyle ~~H_{1}:\theta >\theta _{0}~.}$

まったく同じテストが、テスト対 UMP でもあることに注意してください。 ${\displaystyle \ H_{0}\ :\ \theta =\theta _{0}~~}$ ${\displaystyle ~~H_{1}:\theta >\theta _{0}~.}$

中央値不偏推定

単調尤度関数は、ヨハン・ファンツァグルらが定めた方法を用いて、中央値不偏推定量を構築するのに用いられる。^{[ 2 ] [ 3 ]} そのような手順の1つに、平均不偏推定量に対するラオ・ブラックウェル手順の類似物がある。この手順は、平均不偏推定に対するラオ・ブラックウェル手順よりも狭い確率分布のクラスに当てはまるが、損失関数のクラスは広い。^{[ 3 ] : 713}

生涯分析：生存分析と信頼性

分布族が単調尤度比特性を持つ場合、 ${\displaystyle \ f_{\theta }(x)\ }$ ${\displaystyle \ T(X)\ ,}$

1. このファミリーは、（必ずしも）では単調減少のハザード率を示す。 ${\displaystyle \ \theta \ }$ ${\displaystyle \ T(X)\ }$
2. 族はにおいて第 1 次 (したがって第 2 次) の確率的優位性を示し、 の最良ベイズ更新はにおいて増加します。 ${\displaystyle \ x\ ,}$ ${\displaystyle \ \theta \ }$ ${\displaystyle T(X)}$

しかし、その逆は成り立ちません。単調なハザード率も確率的優位性も MLRP を意味するものではありません。

証明

分布族がMLRを満たすとすると、 ${\displaystyle \ f_{\theta }\ }$ ${\displaystyle \ x\ ,}$ ${\displaystyle \ \theta _{1}>\theta _{0}\ }$ ${\displaystyle \ x_{1}>x_{0}\ :}$

${\displaystyle \ {\frac {f_{\theta _{1}}(x_{1})}{\ f_{\theta _{0}}(x_{1})\ }}\geq {\frac {\ f_{\theta _{1}}(x_{0})\ }{f_{\theta _{0}}(x_{0})}}\ ,}$

または同等:

${\displaystyle \ f_{\theta _{1}}(x_{1})\ f_{\theta _{0}}(x_{0})\geq f_{\theta _{1}}(x_{0})\ f_{\theta _{0}}(x_{1})~.}$

この式を2回積分すると次のようになります。

1. ～に関して ${\displaystyle \ x_{1}\ }$ ${\displaystyle \ x_{0}\ }$ ${\displaystyle {\begin{aligned}&\int _{\min X}^{x_{1}}\ f_{\theta _{1}}(x_{1})\ f_{\theta _{0}}(x_{0})\ \mathrm {d} x_{0}\\[6pt]\geq {}&\int _{\min X}^{x_{1}}\ f_{\theta _{1}}(x_{0})\ f_{\theta _{0}}(x_{1})\ \mathrm {d} x_{0}\end{aligned}}}$ 統合して並べ替えて ${\displaystyle {\frac {f_{\theta _{1}}(x)}{\ f_{\theta _{0}}(x)\ }}\geq {\frac {F_{\theta _{1}}(x)}{\ F_{\theta _{0}}(x)\ }}\ }$		2.に関して ${\displaystyle x_{0}}$ ${\displaystyle \ x_{1}\ }$ ${\displaystyle {\begin{aligned}&\int _{x_{0}}^{\max X}\ f_{\theta _{1}}(x_{1})\ f_{\theta _{0}}(x_{0})\ \mathrm {d} x_{1}\\[6pt]\geq {}&\int _{x_{0}}^{\max X}\ f_{\theta _{1}}(x_{0})\ f_{\theta _{0}}(x_{1})\ \mathrm {d} x_{1}\end{aligned}}}$ 統合して並べ替えて ${\displaystyle {\frac {1-F_{\theta _{1}}(x)}{\ 1-F_{\theta _{0}}(x)\ }}\geq {\frac {f_{\theta _{1}}(x)}{\ f_{\theta _{0}}(x)\ }}\ }$

一次確率優位性

上記の 2 つの不等式を組み合わせて、第一順位の優位性を得ます。

${\displaystyle F_{\theta _{1}}(x)\leq F_{\theta _{0}}(x)~\forall x\ }$

単調なハザード率

単調なハザード率を得るには、上記の 2 番目の不等式のみを使用します。

${\displaystyle \ {\frac {f_{\theta _{1}}(x)}{\ 1-F_{\theta _{1}}(x)\ }}\leq {\frac {f_{\theta _{0}}(x)}{\ 1-F_{\theta _{0}}(x)\ }}~\forall x\ }$

用途

経済

MLRはメカニズムデザインと情報経済学におけるエージェントのタイプ分布に関する重要な条件であり、ポール・ミルグロムは（確率的優位性の観点からの）シグナルの「好ましさ」をMLRの結果として定義しました。^{[ 4 ]} メカニズムデザインモデルのほとんどのソリューションは、適用と解釈が容易なソリューション手法を利用するために、MLRを満たすタイプ分布を前提としています。

参考文献

1. Casella, G.; Berger, RL (2008). 「定理8.3.17」.統計的推論. Brooks / Cole. ISBN 0-495-39187-5。
2. Pfanzagl, Johann (1979). 「ニューサンスパラメータが存在する場合の最適な中央値不偏推定量について」 Annals of Statistics . 7 (1): 187– 193. doi : 10.1214/aos/1176344563 .
3. Brown, LD ; Cohen, Arthur; Strawderman, WE (1976). 「厳密な単調尤度比の完全類定理とその応用」 Annals of Statistics . 4 (4): 712– 722. doi : 10.1214/aos/1176343543 .
4. ミルグロム, PR (1981). 「良いニュースと悪いニュース：表現定理とその応用」.ベル経済学ジャーナル. 12 (2): 380– 391. doi : 10.2307/3003562 .

「 https://en.wikipedia.org/w/index.php?title=Monotone_likelihood_ratio&oldid=1214330432」より取得