Kth smallest value in a statistical sample
単位尺度パラメータを持つ 指数分布から得られた n = 5 の標本に対する順序統計量の 確率密度関数 統計学 では 、 統計サンプル の k 番目の 順序統計量は、その k 番目に小さい値 に等しい。 [1] 順位統計量 とともに、順序統計量は ノンパラメトリック統計 と 推論 における最も基本的なツールの一つである 。
順序統計量の重要な特殊なケースとしては、 サンプルの 最小 値と 最大値、および（以下で説明するいくつかの条件付きで） サンプルの中央値 とその他の サンプルの四分位数が あります。
確率論 を使用して 連続分布 からの ランダムサンプル の順序統計量を分析する場合 、 累積分布関数を使用して、分析を 一様分布 の順序統計量の場合に簡略化します 。
表記と例 例えば、4つの数字が観測または記録され、サンプルサイズが4であるとします。サンプル値が
6、9、3、7、 順序統計は次のように示される。
x ( 1 ) = 3 , x ( 2 ) = 6 , x ( 3 ) = 7 , x ( 4 ) = 9 , {\displaystyle {\begin{aligned}x_{(1)}&=3,&x_{(2)}&=6,\\x_{(3)}&=7,&x_{(4)}&=9,\end{aligned}}}
ここで括弧で囲まれた 下付き文字 （ i ） は、サンプルの i番目の順序統計量を示します。
最初 の順序統計量 （または 最小の順序統計量 ）は常にサンプルの 最小値 、つまり
X ( 1 ) = min { X 1 , … , X n } {\displaystyle X_{(1)}=\min\{\,X_{1},\ldots ,X_{n}\,\}}
ここでは、一般的な慣例に従い、ランダム変数を参照するには大文字を使用し、実際の観測値を参照するには小文字 (上記と同じ) を使用します。
同様に、サイズn のサンプルの場合 、 n 番目の順序統計量（または 最大順序統計量 ）は 最大値 、つまり、
X ( n ) = max { X 1 , … , X n } . {\displaystyle X_{(n)}=\max\{\,X_{1},\ldots ,X_{n}\,\}.}
標本 範囲は 最大値と最小値の差であり、順序統計量の関数です。
R a n g e { X 1 , … , X n } = X ( n ) − X ( 1 ) . {\displaystyle {\rm {Range}}\{\,X_{1},\ldots ,X_{n}\,\}=X_{(n)}-X_{(1)}.}
探索的データ分析 において順序統計量と単純に関連している 同様の重要な統計量は、サンプルの 四分位範囲 です。
標本中央値は、 観測値の数 n が奇数 の場合にのみ中央値が1つ存在するため、順序統計量となる場合とそうでない場合があります。より正確には、 ある整数 mに対して n = 2 m +1 の場合、標本中央値は となり、順序統計量となります。一方、 n が偶数 の場合、 n = 2 m となり 、中央値が2つ存在するため 、 標本中央値はこれら2つの関数（通常は平均）となるため、順序統計量ではありません。同様のことがすべての標本四分位数にも当てはまります。 X ( m + 1 ) {\displaystyle X_{(m+1)}} X ( m ) {\displaystyle X_{(m)}} X ( m + 1 ) {\displaystyle X_{(m+1)}}
確率分析 任意のランダム変数 X 1 、 X 2 、...、 X n が与えられた場合、順序統計量X (1) 、X (2) 、...、X ( n )もランダム変数であり、 X 1 、...、 X n の値（ 実現値 ）を 昇順に並べ替えることによって定義されます。
確率変数 X 1 , X 2 , ..., X n が 標本 を形成する場合 、それらは 独立かつ同一分布に 従う。これは以下で扱うケースである。一般に、確率変数 X 1 , ..., X n は 複数の母集団から標本抽出することによって生じる可能性がある。その場合、それらは 独立 だが必ずしも同一分布に従うとは限らず、それらの 結合確率分布は バパット・ベグの定理 によって与えられる 。
以降、考察する確率変数は 連続的 であり、便宜上、 確率密度関数 （PDF）を持つ、つまり 絶対連続であると仮定する。点に質量を割り当てる分布（特に 離散分布 ）の解析の特殊性について は、最後に説明する。
順序統計量の累積分布関数 累積分布 である上記のようなランダム標本の場合 、その標本の順序統計量は、次のような累積分布を持ちます [2]
（ここで r は どの順序統計量を指定するか）: この式の証明は、純粋な 組合せ論 です。 番目の順序統計量が であるためには 、 である標本の数はから の 間である必要があります。 が 最大の順序統計量 である 場合、 標本 （それぞれが の独立した確率を持つ ）と 標本 （それぞれが の独立した確率を持つ） が存在する必要があります。 最後に、 どの 標本が の種類であるかを選択するには、さまざまな方法 があります 。 F X ( x ) {\displaystyle F_{X}(x)} F X ( r ) ( x ) = ∑ j = r n ( n j ) [ F X ( x ) ] j [ 1 − F X ( x ) ] n − j {\displaystyle F_{X_{(r)}}(x)=\sum _{j=r}^{n}{\binom {n}{j}}\left[F_{X}(x)\right]^{j}\left[1-F_{X}(x)\right]^{n-j}} r {\displaystyle r} ≤ x {\displaystyle \leq x} > x {\displaystyle >x} 0 {\displaystyle 0} n − r {\displaystyle n-r} X ( j ) {\displaystyle X_{(j)}} ≤ x {\displaystyle \leq x} j {\displaystyle j} ≤ x {\displaystyle \leq x} F X ( x ) {\displaystyle F_{X}(x)} n − j {\displaystyle n-j} > x {\displaystyle >x} 1 − F X ( x ) {\displaystyle 1-F_{X}(x)} ( n j ) {\textstyle {\binom {n}{j}}} n {\displaystyle n} ≤ x {\displaystyle \leq x}
この結果から、対応する確率密度関数が導かれ、次のように表される。
f X ( r ) ( x ) = n ! ( r − 1 ) ! ( n − r ) ! f X ( x ) [ F X ( x ) ] r − 1 [ 1 − F X ( x ) ] n − r . {\displaystyle f_{X_{(r)}}(x)={\frac {n!}{(r-1)!(n-r)!}}f_{X}(x)\left[F_{X}(x)\right]^{r-1}\left[1-F_{X}(x)\right]^{n-r}.}
さらに、計算が容易な CDF を持つ特殊なケースが 2 つあります。
F X ( n ) ( x ) = Pr ( max { X 1 , … , X n } ≤ x ) = [ F X ( x ) ] n {\displaystyle F_{X_{(n)}}(x)=\Pr(\max\{\,X_{1},\ldots ,X_{n}\,\}\leq x)=[F_{X}(x)]^{n}}
F X ( 1 ) ( x ) = Pr ( min { X 1 , … , X n } ≤ x ) = 1 − [ 1 − F X ( x ) ] n {\displaystyle F_{X_{(1)}}(x)=\Pr(\min\{\,X_{1},\ldots ,X_{n}\,\}\leq x)=1-[1-F_{X}(x)]^{n}}
これは確率を慎重に考慮することで導き出すことができます。
順序統計量の確率分布
この節では、単位区間 上の 一様分布 の順序統計量が ベータ分布 族に属する 周辺分布 を持つことを示します 。また、任意の数の順序統計量の結合分布を導出する簡単な方法を示し、最後にこれらの結果を累積分布 関数 を用いて任意の連続分布に変換します。
このセクション全体を通して、 は累積分布関数 の連続分布から抽出された ランダム標本 である と仮定します 。 は、 対応するランダム標本を 標準 一様分布 から取得することを意味します。順序統計量も を満たすことに注意してください 。 X 1 , X 2 , … , X n {\displaystyle X_{1},X_{2},\ldots ,X_{n}} F X {\displaystyle F_{X}} U i = F X ( X i ) {\displaystyle U_{i}=F_{X}(X_{i})} U 1 , … , U n {\displaystyle U_{1},\ldots ,U_{n}} U ( i ) = F X ( X ( i ) ) {\displaystyle U_{(i)}=F_{X}(X_{(i)})}
順序統計量の確率密度関数は [3] に等しい。 U ( k ) {\displaystyle U_{(k)}}
f U ( k ) ( u ) = n ! ( k − 1 ) ! ( n − k ) ! u k − 1 ( 1 − u ) n − k {\displaystyle f_{U_{(k)}}(u)={n! \over (k-1)!(n-k)!}u^{k-1}(1-u)^{n-k}}
つまり、 一様分布の k次の統計量は ベータ分布に従う 確率変数である。 [3] [4]
U ( k ) ∼ Beta ( k , n + 1 − k ) . {\displaystyle U_{(k)}\sim \operatorname {Beta} (k,n+1\mathbf {-} k).}
これらの主張の証明は以下の通りである。 が u と u + du の間にあるためには、 標本の ちょうど k − 1 個の要素が u より小さく、かつ少なくとも1個が u と u + d u の間にあることが必要である。この後者の区間に複数の要素が含まれる確率はすでに であるので、ちょうど k − 1、1、 n − k 個の 観測値がそれぞれ区間 、 、に含まれる 確率を計算する必要がある。これは次の式に等しい（ 詳細は 多項分布 を参照）。 U ( k ) {\displaystyle U_{(k)}} O ( d u 2 ) {\displaystyle O(du^{2})} ( 0 , u ) {\displaystyle (0,u)} ( u , u + d u ) {\displaystyle (u,u+du)} ( u + d u , 1 ) {\displaystyle (u+du,1)}
n ! ( k − 1 ) ! ( n − k ) ! u k − 1 ⋅ d u ⋅ ( 1 − u − d u ) n − k {\displaystyle {n! \over (k-1)!(n-k)!}u^{k-1}\cdot du\cdot (1-u-du)^{n-k}}
そして結果は次のようになります。
この分布の平均は k / ( n + 1) です。
同様に、 i < j の場合、 2つの順序統計量 U ( i ) < U ( j )の 結合確率密度関数は 次のように示される。
f U ( i ) , U ( j ) ( u , v ) = n ! u i − 1 ( i − 1 ) ! ( v − u ) j − i − 1 ( j − i − 1 ) ! ( 1 − v ) n − j ( n − j ) ! {\displaystyle f_{U_{(i)},U_{(j)}}(u,v)=n!{u^{i-1} \over (i-1)!}{(v-u)^{j-i-1} \over (j-i-1)!}{(1-v)^{n-j} \over (n-j)!}}
これは（ より高次の項まで） i − 1, 1, j − 1 − i , 1 および n − j 個のサンプル要素がそれぞれ, , , の 区間に含まれる 確率です 。 O ( d u d v ) {\displaystyle O(du\,dv)} ( 0 , u ) {\displaystyle (0,u)} ( u , u + d u ) {\displaystyle (u,u+du)} ( u + d u , v ) {\displaystyle (u+du,v)} ( v , v + d v ) {\displaystyle (v,v+dv)} ( v + d v , 1 ) {\displaystyle (v+dv,1)}
全く同様の方法で高次の結合分布を導出する。驚くべきことに、 n次の統計量の結合密度は 定数 となる 。
f U ( 1 ) , U ( 2 ) , … , U ( n ) ( u 1 , u 2 , … , u n ) = n ! . {\displaystyle f_{U_{(1)},U_{(2)},\ldots ,U_{(n)}}(u_{1},u_{2},\ldots ,u_{n})=n!.}
これを理解する一つの方法は、順序付けられていないサンプルの密度が1に等しく、 同じ順序統計量のシーケンスに対応するサンプルの n ! 通りの異なる順列が存在するということです。これは、1/ n ! が領域の体積であるという事実と関連しています 。また、これは一様確率変数の順序統計量の別の特殊性とも関連しています。BRS 不等式 から、合計がを超えないサイズnのサンプルから選択できる一様U(0,1]確率変数の最大期待数は、 の上に制限され、したがって は 定数積 の すべての の集合上で不変であることが分かります 。 0 < u 1 < ⋯ < u n < 1 {\displaystyle 0<u_{1}<\cdots <u_{n}<1} 0 < s < n / 2 {\displaystyle 0<s<n/2} 2 s n {\displaystyle {\sqrt {2sn}}} s , n {\displaystyle s,n} s n {\displaystyle sn}
上記の公式を用いることで、順序統計量の範囲の分布、つまり の分布 、すなわち最大値から最小値を引いた分布を導くことができます。より一般的には、 については 、 ベータ分布も示されます。 これらの公式から、2つの順序統計量間の共分散を導くことができます。 この公式は、 に注目し 、 と比較することで得られます。 ここで 、 は差の実際の分布です。 U ( n ) − U ( 1 ) {\displaystyle U_{(n)}-U_{(1)}} n ≥ k > j ≥ 1 {\displaystyle n\geq k>j\geq 1} U ( k ) − U ( j ) {\displaystyle U_{(k)}-U_{(j)}} U ( k ) − U ( j ) ∼ Beta ( k − j , n − ( k − j ) + 1 ) {\displaystyle U_{(k)}-U_{(j)}\sim \operatorname {Beta} (k-j,n-(k-j)+1)} Cov ( U ( k ) , U ( j ) ) = j ( n − k + 1 ) ( n + 1 ) 2 ( n + 2 ) {\displaystyle \operatorname {Cov} (U_{(k)},U_{(j)})={\frac {j(n-k+1)}{(n+1)^{2}(n+2)}}} Var ( U ( k ) − U ( j ) ) = Var ( U ( k ) ) + Var ( U ( j ) ) − 2 ⋅ Cov ( U ( k ) , U ( j ) ) = k ( n − k + 1 ) ( n + 1 ) 2 ( n + 2 ) + j ( n − j + 1 ) ( n + 1 ) 2 ( n + 2 ) − 2 ⋅ Cov ( U ( k ) , U ( j ) ) {\displaystyle {\begin{aligned}\operatorname {Var} (U_{(k)}-U_{(j)})&=\operatorname {Var} (U_{(k)})+\operatorname {Var} (U_{(j)})-2\cdot \operatorname {Cov} (U_{(k)},U_{(j)})\\[1ex]&={\frac {k(n-k+1)}{(n+1)^{2}(n+2)}}+{\frac {j(n-j+1)}{(n+1)^{2}(n+2)}}-2\cdot \operatorname {Cov} (U_{(k)},U_{(j)})\end{aligned}}} Var ( U ) = ( k − j ) ( n − ( k − j ) + 1 ) ( n + 1 ) 2 ( n + 2 ) {\displaystyle \operatorname {Var} (U)={\frac {(k-j)(n-(k-j)+1)}{(n+1)^{2}(n+2)}}} U ∼ Beta ( k − j , n − ( k − j ) + 1 ) {\displaystyle U\sim \operatorname {Beta} (k-j,n-(k-j)+1)}
指数分布からサンプリングされた順序統計量 パラメータ λの 指数分布 から n 個のランダムサンプルを抽出し た場合、 i = 1,2,3, ..., n の 順序統計量 X ( i ) はそれぞれ分布 X 1 , X 2 , . . , X n {\displaystyle X_{1},X_{2},..,X_{n}}
X ( i ) = d 1 λ ( ∑ j = 1 i Z j n − j + 1 ) {\displaystyle X_{(i)}{\stackrel {d}{=}}{\frac {1}{\lambda }}\left(\sum _{j=1}^{i}{\frac {Z_{j}}{n-j+1}}\right)}
ここで、 Z j はiid標準指数確率変数（すなわち、速度パラメータ1）である。この結果は、 アルフレッド・レニ によって初めて発表された。 [5] [6]
アーラン分布からサンプリングされた順序統計量 順序統計量のラプラス 変換は 、パスカウント法 [ 説明が必要 ]を介して アーラン分布 からサンプリングすることができる 。 [7]
絶対連続分布の順序統計量の結合分布 F X が絶対連続 である 場合 、密度は となり 、置換を使用することができる。 d F X ( x ) = f X ( x ) d x {\displaystyle dF_{X}(x)=f_{X}(x)\,dx}
u = F X ( x ) {\displaystyle u=F_{X}(x)}
そして
d u = f X ( x ) d x {\displaystyle du=f_{X}(x)\,dx}
X の分布から抽出されたサイズ n のサンプルの順序統計量に対する次の確率密度関数を導出する 。
f X ( k ) ( x ) = n ! ( k − 1 ) ! ( n − k ) ! [ F X ( x ) ] k − 1 [ 1 − F X ( x ) ] n − k f X ( x ) {\displaystyle f_{X_{(k)}}(x)={\frac {n!}{(k-1)!(n-k)!}}[F_{X}(x)]^{k-1}[1-F_{X}(x)]^{n-k}f_{X}(x)}
f X ( j ) , X ( k ) ( x , y ) = n ! ( j − 1 ) ! ( k − j − 1 ) ! ( n − k ) ! [ F X ( x ) ] j − 1 [ F X ( y ) − F X ( x ) ] k − 1 − j [ 1 − F X ( y ) ] n − k f X ( x ) f X ( y ) {\displaystyle f_{X_{(j)},X_{(k)}}(x,y)={\frac {n!}{(j-1)!(k-j-1)!(n-k)!}}[F_{X}(x)]^{j-1}[F_{X}(y)-F_{X}(x)]^{k-1-j}[1-F_{X}(y)]^{n-k}f_{X}(x)f_{X}(y)} どこ x ≤ y {\displaystyle x\leq y}
f X ( 1 ) , … , X ( n ) ( x 1 , … , x n ) = n ! f X ( x 1 ) ⋯ f X ( x n ) {\displaystyle f_{X_{(1)},\ldots ,X_{(n)}}(x_{1},\ldots ,x_{n})=n!f_{X}(x_{1})\cdots f_{X}(x_{n})} どこ x 1 ≤ x 2 ≤ ⋯ ≤ x n . {\displaystyle x_{1}\leq x_{2}\leq \dots \leq x_{n}.}
応用：四分位数の信頼区間 興味深い疑問は、順序統計量が 基礎となる分布の 分位数の推定値としてどの程度優れているかということです。
小規模サンプルの例 検討すべき最も単純なケースは、標本の中央値が母集団の中央値をどの程度正確に推定できるかということです。
例として、サイズ6のランダム標本を考えてみましょう。この場合、標本の中央値は通常、3次統計量と4次統計量で区切られた区間の中点として定義されます。しかし、これまでの議論から、この区間に実際に母集団の中央値が含まれる確率は [ 説明が必要 ]であることが分かっています。
( 6 3 ) ( 1 / 2 ) 6 = 5 16 ≈ 31 % . {\displaystyle {6 \choose 3}(1/2)^{6}={5 \over 16}\approx 31\%.}
標本中央値は、分布に依存しない母集団中央値の 点推定値 としてはおそらく最良のものの一つですが、この例が示すように、絶対値で見ると特に優れた値ではありません。この特定のケースでは、母集団中央値が確率的に含まれ、2次統計量と5次統計量で区切られた信頼区間の方が、中央値のより良い信頼区間となります。
[ ( 6 2 ) + ( 6 3 ) + ( 6 4 ) ] ( 1 / 2 ) 6 = 25 32 ≈ 78 % . {\displaystyle \left[{6 \choose 2}+{6 \choose 3}+{6 \choose 4}\right](1/2)^{6}={25 \over 32}\approx 78\%.}
サンプルサイズがこれほど小さい場合、少なくとも95%の信頼度を求めると、中央値は6つの観測値の最小値と最大値の間に位置する確率が31/32、つまり約97%と言わざるを得ません。実際、サンプルサイズ6は、最小値と最大値で決まる区間が母集団の中央値に対する95%信頼区間以上となる最小のサンプルサイズです。
大規模なサンプルサイズ 一様分布では、 n が無限大に近づくにつれて、 p 番目 の標本分位数は漸近的に 正規分布する 。これは、
U ( ⌈ n p ⌉ ) ∼ A N ( p , p ( 1 − p ) n ) . {\displaystyle U_{(\lceil np\rceil )}\sim AN{\left(p,{\frac {p(1-p)}{n}}\right)}.}
F −1 ( p )で連続した非ゼロ密度を持つ 一般分布 F の場合、同様の漸近正規性が適用される。
X ( ⌈ n p ⌉ ) ∼ A N ( F − 1 ( p ) , p ( 1 − p ) n [ f ( F − 1 ( p ) ) ] 2 ) {\displaystyle X_{(\lceil np\rceil )}\sim AN{\left(F^{-1}(p),{\frac {p(1-p)}{n[f(F^{-1}(p))]^{2}}}\right)}}
ここで、 f は 密度関数 、 F −1は F に関連付けられた 分位関数 である 。この結果を最初に言及し証明した人物の一人は、 1946年の画期的な論文で フレデリック・モステラーであった 。[8] 1960年代にはさらなる研究が行われ、誤差限界に関する情報を提供する バハドゥール 表現が生まれた。正規分布への収束は、 相対エントロピー収束やKLダイバージェンス といった、より強い意味でも成立する。 [9]
分布が対称で、母集団の中央値が母集団の平均値と等しい場合、興味深い観察結果が得られます。この場合、 中心極限定理 により、 標本平均値 も漸近的に正規分布しますが、分散はσ 2 /nとなります。この漸近解析は、 尖度が 低い場合には平均値が中央値よりも優れており 、逆もまた同様であることを示唆しています。例えば、 ラプラス分布 の場合、中央値はより良い信頼区間を実現しますが、正規分布する X の場合は平均値の方がより良い信頼区間を実現します。
証拠 次のようなことが証明できる。
B ( k , n + 1 − k ) = d X X + Y , {\displaystyle B(k,n+1-k)\ {\stackrel {\mathrm {d} }{=}}\ {\frac {X}{X+Y}},}
どこ
X = ∑ i = 1 k Z i , Y = ∑ i = k + 1 n + 1 Z i , {\displaystyle X=\sum _{i=1}^{k}Z_{i},\quad Y=\sum _{i=k+1}^{n+1}Z_{i},}
Z i は、レート 1 の 独立した同一分布の 指数 ランダム変数です 。X / n と Y / n は CLT によって漸近的に正規分布するため、 デルタ法 を適用することで結果が得られます。
順序統計量間の相互情報量 と f ダイバージェンス も考慮されている。 [10] 例えば、親分布が連続であれば、すべての 言い換えれば、相互情報量は親分布に依存しない。離散確率変数の場合、等式は必ずしも成立する必要はなく、 1 ≤ r , m ≤ n {\displaystyle 1\leq r,m\leq n} I ( X ( r ) ; X ( m ) ) = I ( U ( r ) ; U ( m ) ) , {\displaystyle I(X_{(r)};X_{(m)})=I(U_{(r)};U_{(m)}),} I ( X ( r ) ; X ( m ) ) ≤ I ( U ( r ) ; U ( m ) ) , {\displaystyle I(X_{(r)};X_{(m)})\leq I(U_{(r)};U_{(m)}),}
一様順序統計量間の相互情報量は、次式で与えられます
。 ここで 、 は - 番目の調和数です。 I ( U ( r ) ; U ( m ) ) = T m − 1 + T n − r − T m − r + 1 − T n {\displaystyle I(U_{(r)};U_{(m)})=T_{m-1}+T_{n-r}-T_{m-r+1}-T_{n}} T k = log ( k ! ) − k H k {\displaystyle T_{k}=\log(k!)-kH_{k}} H k {\displaystyle H_{k}} k {\displaystyle k}
応用: ノンパラメトリック密度推定 一次統計量の分布のモーメントは、ノンパラメトリックな密度推定量を開発するために用いることができる。 [11] 点 における 密度を推定したいとする。 分布関数 を持つ iid な 確率変数 を考える 。特に、 である 。 f X {\displaystyle f_{X}} x ∗ {\displaystyle x^{*}} Y i = | X i − x ∗ | {\displaystyle Y_{i}=|X_{i}-x^{*}|} g Y ( y ) = f X ( y + x ∗ ) + f X ( x ∗ − y ) {\displaystyle g_{Y}(y)=f_{X}(y+x^{*})+f_{X}(x^{*}-y)} f X ( x ∗ ) = g Y ( 0 ) 2 {\displaystyle f_{X}(x^{*})={\frac {g_{Y}(0)}{2}}}
全観測値 のサンプルを与えられた場合 の一次統計量の期待値は、 Y ( 1 ) {\displaystyle Y_{(1)}} N {\displaystyle N}
E ( Y ( 1 ) ) = 1 ( N + 1 ) g ( 0 ) + 1 ( N + 1 ) ( N + 2 ) ∫ 0 1 Q ″ ( z ) δ N + 1 ( z ) d z {\displaystyle E(Y_{(1)})={\frac {1}{(N+1)g(0)}}+{\frac {1}{(N+1)(N+2)}}\int _{0}^{1}Q''(z)\delta _{N+1}(z)\,dz}
ここで 、分布 に関連付けられた分位関数であり 、 である 。この式は ジャックナイフ 法と組み合わせることで、以下の密度推定アルゴリズムの基礎となる。 Q {\displaystyle Q} g Y {\displaystyle g_{Y}} δ N ( z ) = ( N + 1 ) ( 1 − z ) N {\displaystyle \delta _{N}(z)=(N+1)(1-z)^{N}}
入力: 観測サンプル 。 密度評価ポイント。調整パラメータ （通常は1/3）。 N {\displaystyle N} { x ℓ } ℓ = 1 M {\displaystyle \{x_{\ell }\}_{\ell =1}^{M}} a ∈ ( 0 , 1 ) {\displaystyle a\in (0,1)} 出力: 評価ポイントにおける推定密度。 { f ^ ℓ } ℓ = 1 M {\displaystyle \{{\hat {f}}_{\ell }\}_{\ell =1}^{M}} 1: セット 2: セット 3:それぞれ観測値 を含むサブセット を保持する マトリックスを作成します 。 m N = round ( N 1 − a ) {\displaystyle m_{N}=\operatorname {round} (N^{1-a})} s N = N m N {\displaystyle s_{N}={\frac {N}{m_{N}}}} s N × m N {\displaystyle s_{N}\times m_{N}} M i j {\displaystyle M_{ij}} m N {\displaystyle m_{N}} s N {\displaystyle s_{N}} 4:密度評価を保持する ベクトルを作成します。 f ^ {\displaystyle {\hat {f}}} 5: for do 6: for do 7:番目のサブセット 内で 現在のポイントに 最も近い距離を見つける ℓ = 1 → M {\displaystyle \ell =1\to M} k = 1 → m N {\displaystyle k=1\to m_{N}} d ℓ k {\displaystyle d_{\ell k}} x ℓ {\displaystyle x_{\ell }} k {\displaystyle k} 8: 終了 9: までの距離のサブセット平均を計算する 10: での密度推定値を計算する 11: 終了 12: 戻る x ℓ : d ℓ = ∑ k = 1 m N d ℓ k m N {\displaystyle x_{\ell }:d_{\ell }=\sum _{k=1}^{m_{N}}{\frac {d_{\ell k}}{m_{N}}}} x ℓ : f ^ ℓ = 1 2 ( 1 + s N ) d ℓ {\displaystyle x_{\ell }:{\hat {f}}_{\ell }={\frac {1}{2(1+s_{N})d_{\ell }}}} f ^ {\displaystyle {\hat {f}}} ヒストグラム や カーネル ベースのアプローチにおける帯域幅／長さに基づくチューニングパラメータとは対照的に 、順序統計量に基づく密度推定量のチューニングパラメータはサンプルサブセットのサイズです。このような推定量はヒストグラムやカーネルベースのアプローチよりも堅牢であり、例えばコーシー分布のような（有限モーメントを持たない）密度は、IQR ベースの帯域幅 などの特別な変更を必要とせずに推定できます。これは、順序統計量の最初のモーメントは、基礎となる分布の期待値が存在する場合常に存在しますが、その逆は必ずしも真ではないためです。 [12]
離散変数の扱い 累積分布関数と 確率質量関数 を持つ離散分布に従うIID確率変数を 仮定する 。順序統計量の確率を求めるには 、まず以下の3つの値が必要である。 X 1 , X 2 , … , X n {\displaystyle X_{1},X_{2},\ldots ,X_{n}} F ( x ) {\displaystyle F(x)} f ( x ) {\displaystyle f(x)} k th {\displaystyle k^{\text{th}}} p 1 = Pr ( X < x ) = F ( x ) − f ( x ) , p 2 = Pr ( X = x ) = f ( x ) , and p 3 = Pr ( X > x ) = 1 − F ( x ) . {\displaystyle {\begin{aligned}p_{1}&=\Pr(X<x)=F(x)-f(x),\\p_{2}&=\Pr(X=x)=f(x),{\text{ and }}\\p_{3}&=\Pr(X>x)=1-F(x).\end{aligned}}}
順序統計量の累積分布関数は、 次の式で計算できる。 k th {\displaystyle k^{\text{th}}}
Pr ( X ( k ) ≤ x ) = Pr ( there are at least k observations less than or equal to x ) , = Pr ( there are at most n − k observations greater than x ) , = ∑ j = 0 n − k ( n j ) p 3 j ( p 1 + p 2 ) n − j . {\displaystyle {\begin{aligned}\Pr(X_{(k)}\leq x)&=\Pr({\text{there are at least }}k{\text{ observations less than or equal to }}x),\\&=\Pr({\text{there are at most }}n-k{\text{ observations greater than }}x),\\&=\sum _{j=0}^{n-k}{\binom {n}{j}}p_{3}^{j}(p_{1}+p_{2})^{n-j}.\end{aligned}}}
同様に、 は次のように与えられる。 P ( X ( k ) < x ) {\displaystyle P(X_{(k)}<x)}
Pr ( X ( k ) < x ) = Pr ( there are at least k observations less than x ) , = Pr ( there are at most n − k observations greater than or equal to x ) , = ∑ j = 0 n − k ( n j ) ( p 2 + p 3 ) j ( p 1 ) n − j . {\displaystyle {\begin{aligned}\Pr(X_{(k)}<x)&=\Pr({\text{there are at least }}k{\text{ observations less than }}x),\\&=\Pr({\text{there are at most }}n-k{\text{ observations greater than or equal to }}x),\\&=\sum _{j=0}^{n-k}{n \choose j}(p_{2}+p_{3})^{j}(p_{1})^{n-j}.\end{aligned}}}
の確率質量関数は これらの値の差であることに注意してください。つまり、 X ( k ) {\displaystyle X_{(k)}}
Pr ( X ( k ) = x ) = Pr ( X ( k ) ≤ x ) − Pr ( X ( k ) < x ) , = ∑ j = 0 n − k ( n j ) [ p 3 j ( p 1 + p 2 ) n − j − ( p 2 + p 3 ) j ( p 1 ) n − j ] , = ∑ j = 0 n − k ( n j ) [ ( 1 − F ( x ) ) j F ( x ) n − j − ( 1 − F ( x ) + f ( x ) ) j ( F ( x ) − f ( x ) ) n − j ] . {\displaystyle {\begin{aligned}\Pr(X_{(k)}=x)&=\Pr(X_{(k)}\leq x)-\Pr(X_{(k)}<x),\\&=\sum _{j=0}^{n-k}{\binom {n}{j}}\left[p_{3}^{j}(p_{1}+p_{2})^{n-j}-(p_{2}+p_{3})^{j}(p_{1})^{n-j}\right],\\&=\sum _{j=0}^{n-k}{\binom {n}{j}}\left[\left(1-F(x)\right)^{j}F(x)^{n-j}-\left(1-F(x)+f(x)\right)^{j}\left(F(x)-f(x)\right)^{n-j}\right].\end{aligned}}}
注文統計の計算 リストのk 番目に小さい（または大きい）要素を計算する問題は 選択問題と呼ばれ、選択アルゴリズムによって解かれます。この問題はリストが非常に大きい場合には困難ですが、リストが全く順序付けられていない場合でも、リスト内の要素数に比例した時間で解くことができる洗練された選択アルゴリズムが開発されています。データが特定の特殊なデータ構造に格納されている場合、この時間はO(log n )まで短縮できます。多くのアプリケーションではすべての順序統計値が必要ですが、その場合、 ソートアルゴリズム を使用すれば、所要時間はO( n log n )まで短縮されます。
アプリケーション 順序統計量は、信頼性理論、金融数学、生存分析、疫学、スポーツ、品質管理、保険数理リスクなどの分野で幅広く応用されています。これらの分野における順序統計量の応用に関する研究に特化した膨大な文献が存在します。
例えば、保険数理リスクの最近の応用としては、 [13] に見られるように、記録請求とk番目の記録請求に関して加重保険料原則がいくつか提供されています。
参照
順序統計の例
参考文献 ^ デビッド、HA;ハンガリー州ナガラジャ (2003)。 注文統計 。確率と統計のワイリー シリーズ。 土井 ：10.1002/0471722162。 ISBN 9780471722168 。 ^ Casella, George; Berger, Roger (2002). 統計的推論（第2版）. Cengage Learning. p. 229. ISBN 9788131503942 。 ^ ab Gentle, James E. (2009), 計算統計学, Springer, p. 63, ISBN 9780387981444 。 ^ Jones, MC (2009)、「Kumaraswamyの分布：いくつかの追跡可能性の利点を備えたベータ型分布」、 統計的方法論 、 6 （1）： 70〜81 、 doi ：10.1016/j.stamet.2008.04.001、よく知られているように、ベータ分布は、一様分布（（0,1）上）からサイズ n のランダムサンプルから得られた m 番目の順序統計量の分布です 。 ^ デビッド、HA; Nagaraja、HN (2003)、「第 2 章。基本的な分布理論」、 注文統計 、確率と統計の Wiley シリーズ、p. 9、 土井 ：10.1002/0471722162.ch2、 ISBN 9780471722168 ^ アルフレッド・レンイ (1953). 「順序統計の理論について」。 Acta Mathematica ハンガリカ 。 4 (3): 191–231 。 土井 : 10.1007/BF02127580 。 ^ Hlynka, M.; Brill, PH; Horn, W. (2010). 「アーラン確率変数の順序統計量のラプラス変換を得るための方法」. Statistics & Probability Letters . 80 : 9–18 . doi :10.1016/j.spl.2009.09.006. ^ Mosteller, Frederick (1946). 「いくつかの有用な「非効率的な」統計について」 Annals of Mathematical Statistics . 17 (4): 377– 408. doi : 10.1214/aoms/1177730881 . 2015年 2月26日 閲覧 。 ^ M. Cardone、A. Dytso、C. Rush、「順序統計量のエントロピック中心極限定理」、IEEE Transactions on Information Theory、vol. 69、no. 4、pp. 2193-2205、2023年4月、doi: 10.1109/TIT.2022.3219344。 ^ A. Dytso、M. Cardone、C. Rush、「順序統計量の依存関係の測定：情報理論的観点」、2020 IEEE 情報理論ワークショップ、2021年、doi：10.1109/ITW46852.2021.9457617。 ^ Garg, Vikram V.; Tenorio, Luis; Willcox, Karen (2017). 「最小局所距離密度推定」. Communications in Statistics - Theory and Methods . 46 (1): 148– 164. arXiv : 1412.2851 . doi :10.1080/03610926.2014.988260. S2CID 14334678. ^ David, HA; Nagaraja, HN (2003)、「第3章 期待値とモーメント」、 順序統計 、Wiley Series in Probability and Statistics、p. 34、 doi :10.1002/0471722162.ch3、 ISBN 9780471722168 ^ Castaño-Martínez, A.; López-Blázquez, F.; Pigueiras, G.; Sordo, MA (2020). 「加重保険料原理の構築と解釈のための手法」. ASTIN Bulletin . 50 (3): 1037– 1064. doi :10.1017/asb.2020.15.
外部リンク
![{\displaystyle F_{X_{(r)}}(x)=\sum _{j=r}^{n}{\binom {n}{j}}\left[F_{X}(x)\right]^{j}\left[1-F_{X}(x)\right]^{nj}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/39d4210f96d65dbb14bb31dd600ffa8f45e830ee)
![{\displaystyle f_{X_{(r)}}(x)={\frac {n!}{(r-1)!(nr)!}}f_{X}(x)\left[F_{X}(x)\right]^{r-1}\left[1-F_{X}(x)\right]^{nr}.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/d4bde14f1a0cd8e6e008fc3700ab5b34303df50f)
![{\displaystyle F_{X_{(n)}}(x)=\Pr(\max\{\,X_{1},\ldots ,X_{n}\,\}\leq x)=[F_{X}(x)]^{n}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b6b67753274839cf7f230f0c40923167c8df2750)
![{\displaystyle F_{X_{(1)}}(x)=\Pr(\min\{\,X_{1},\ldots ,X_{n}\,\}\leq x)=1-[1-F_{X}(x)]^{n}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/32da6621681e43bc9105ba4afbdd59d1dc4d0562)
![{\displaystyle {\begin{aligned}\operatorname {Var} (U_{(k)}-U_{(j)})&=\operatorname {Var} (U_{(k)})+\operatorname {Var} (U_{(j)})-2\cdot \operatorname {Cov} (U_{(k)},U_{(j)})\\[1ex]&={\frac {k(n-k+1)}{(n+1)^{2}(n+2)}}+{\frac {j(n-j+1)}{(n+1)^{2}(n+2)}}-2\cdot \operatorname {Cov} (U_{(k)},U_{(j)})\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e03d575a05035cae8940d9a15cc5a957871c512a)
![{\displaystyle f_{X_{(k)}}(x)={\frac {n!}{(k-1)!(nk)!}}[F_{X}(x)]^{k-1}[1-F_{X}(x)]^{nk}f_{X}(x)}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a3b85adac3788d1a67f96c80edfc10ad56cc8dba)
![{\displaystyle f_{X_{(j)},X_{(k)}}(x,y)={\frac {n!}{(j-1)!(kj-1)!(nk)!}}[F_{X}(x)]^{j-1}[F_{X}(y)-F_{X}(x)]^{k-1-j}[1-F_{X}(y)]^{nk}f_{X}(x)f_{X}(y)}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7a57558c8a25cfa2a2648f386caa9679006499df)
^{6}={25 \over 32}\approx 78\%.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/092bfad29672b7903b0d5df1efb34f6c30c85c09)
![{\displaystyle X_{(\lceil np\rceil )}\sim AN{\left(F^{-1}(p),{\frac {p(1-p)}{n[f(F^{-1}(p))]^{2}}}\right)}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/11aac10d57d5e646a24f067ba91a1fff352a31f6)
![{\displaystyle {\begin{aligned}\Pr(X_{(k)}=x)&=\Pr(X_{(k)}\leq x)-\Pr(X_{(k)}<x),\\&=\sum _{j=0}^{nk}{\binom {n}{j}}\left[p_{3}^{j}(p_{1}+p_{2})^{nj}-(p_{2}+p_{3})^{j}(p_{1})^{nj}\right],\\&=\sum _{j=0}^{nk}{\binom {n}{j}}\left[\left(1-F(x)\right)^{j}F(x)^{nj}-\left(1-F(x)+f(x)\right)^{j}\left(F(x)-f(x)\right)^{nj}\right].\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/d490009d102d683d00ab997aa05fc52a122915d6)
