見積もり

統計学において、推定量とは観測データに基づいて与えられた量の推定値を計算する規則である。したがって、規則（推定量）、関心のある量（推定値）、およびその結果（推定値）は区別される。^[1]たとえば、標本平均は母平均の推定値としてよく使用される。

点推定量と区間推定量があります。点推定量は単一の値の結果を生成します。これは、結果が妥当な値の範囲となる区間推定量とは対照的です。「単一の値」は必ずしも「単一の数値」を意味するわけではなく、ベクトル値や関数値の推定量も含まれます。

推定理論は推定量の性質、すなわち、同じデータに基づいて同じ量に対する異なる推定量（推定値を作成するための異なる規則）を比較するために使用できる性質を定義することに関係しています。このような性質は、与えられた状況下で最適な規則を決定するために使用できます。しかし、ロバスト統計学では、統計理論は、厳密に定義された仮定が成り立つ場合に良好な性質を持つことと、より広い条件下で成り立つより悪い性質を持つことのバランスを考慮します。

背景

「推定量」または「点推定値」とは、統計モデルにおける未知のパラメータの値を推定するために使用される統計量（つまり、データの関数）です。一般的な表現は、「推定量とは、未知のパラメータの推定値を得るために選択された手法である」です。推定対象となるパラメータは、推定対象（ estimand ）と呼ばれることもあります。推定対象は、有限次元（パラメトリックモデルおよびセミパラメトリックモデル）または無限次元（セミパラメトリックモデルおよびノンパラメトリックモデル）のいずれかです。^[2]パラメータが表記される場合、推定量は伝統的に記号の上にサーカムフレックスを付加して表記されます。推定量はデータの関数であるため、それ自体が確率変数です。この確率変数の特定の実現は「推定値」と呼ばれます。「推定量」と「推定値」という言葉は、互換的に使用されることがあります。 $\theta$ ${\widehat {\theta }}$

この定義は、データのどの関数を「推定量」と呼ぶかについて、事実上何ら制約を与えていない。様々な推定量の魅力は、その特性、例えば不偏性、平均二乗誤差、一貫性、漸近分布などを見ることで判断できる。推定量の構築と比較は推定理論の主題である。意思決定理論の文脈において、推定量は意思決定規則の一種であり、その性能は損失関数を用いて評価することができる。

「推定量」という言葉が修飾語なしで使用される場合、通常は点推定を指します。この場合の推定値は、パラメータ空間内の単一の点です。また、推定値には別の種類があり、区間推定量と呼ばれます。区間推定量では、推定値はパラメータ空間の部分集合となります。

密度推定の問題は、2つの応用で生じる。第一に、確率変数の確率密度関数の推定、第二に、時系列のスペクトル密度関数の推定である。これらの問題では、推定値は無限次元空間における点推定値として考えることができる関数であり、対応する区間推定問題が存在する。

意味

固定パラメータを推定する必要があるとします。この場合、「推定量」とは、 標本空間を標本推定値の集合に写像する関数です。の推定量は通常、記号で表されます。この理論は、多くの場合、確率変数代数を用いて表現すると便利です。つまり、X を観測データに対応する確率変数を表すために使用する場合、推定量（それ自体も確率変数として扱われます）はその確率変数の関数として表されます。特定の観測データ値（つまりの場合）の推定値はとなり、これは固定値です。では、確率変数として直接解釈される省略形が使用されることがよくありますが、これは混乱を招く可能性があります。 $\theta$ $\theta$ ${\widehat {\theta }}$ ${\widehat {\theta }}(X)$ $x$ $X=x$ ${\widehat {\theta }}(x)$ ${\widehat {\theta }}$

定量化された特性

以下の定義と属性が関連している。^[3]

エラー

与えられた標本に対して、推定量の「誤差」はと定義されます。ここでは推定対象となるパラメータです。誤差eは推定量（推定式または推定手順）だけでなく、標本にも依存します。 $x$ ${\widehat {\theta }}$ $e(x)={\widehat {\theta }}(x)-\theta ,$ $\theta$

平均二乗誤差

の平均二乗誤差は、二乗誤差の期待値（全サンプルの確率加重平均）として定義されます。つまり、これは、推定値の集合が、推定される単一のパラメータから平均してどれだけ離れているかを示すために使用されます。次の例を考えてみましょう。パラメータがターゲットの中心、推定量がターゲットに矢を放つプロセス、個々の矢が推定値（サンプル）であるとします。高い MSE は、矢が中心からの距離が長いことを意味し、低い MSE は、矢が中心からの距離が短いことを意味します。矢印は密集している場合もそうでない場合もあります。たとえば、すべての矢が同じ点に当たっても、ターゲットを大きく外した場合でも、MSE は依然として比較的大きくなります。ただし、MSE が比較的小さい場合は、矢印はターゲットの周りに（分散しているよりも）密集している可能性が高くなります。 ${\widehat {\theta }}$ $\operatorname {MSE} ({\widehat {\theta }})=\operatorname {E} [({\widehat {\theta }}(X)-\theta )^{2}].$

サンプリング偏差

与えられた標本に対して、推定値の標本偏差は次のように定義されます。ここでは推定値の期待値です。標本偏差dは、推定値だけでなく標本にも依存します。 $x$ ${\widehat {\theta }}$ $d(x)={\widehat {\theta }}(x)-\operatorname {E} ({\widehat {\theta }}(X))={\widehat {\theta }}(x)-\operatorname {E} ({\widehat {\theta }}),$ $\operatorname {E} ({\widehat {\theta }}(X))$

分散

の分散は、標本偏差の二乗の期待値、つまりです。これは、推定値の集合が推定値の期待値から平均してどれだけ離れているかを示すために使用されます。(MSE と分散の違いに注意してください。) パラメータが標的の中心で、矢印が推定値である場合、分散が比較的高いということは矢印が分散していることを意味し、分散が比較的低いということは矢印が密集していることを意味します。分散が低い場合でも、矢印の密集部分は標的から大きく外れている可能性があり、分散が高い場合でも、矢印の散在部分は偏りがない可能性があります。最後に、すべての矢印が標的から大きく外れた場合でも、すべて同じ点に当たっている場合は、分散は 0 になります。 ${\widehat {\theta }}$ $\operatorname {Var} ({\widehat {\theta }})=\operatorname {E} [({\widehat {\theta }}-\operatorname {E} [{\widehat {\theta }}])^{2}]$

バイアス

のバイアスはと定義されます。これは、推定値の集合の平均と、推定される単一のパラメータとの間の距離です。のバイアスはの真の値の関数であるため、のバイアスがであるということは、任意のに対してのバイアスがであることを意味します。 ${\widehat {\theta }}$ $B({\widehat {\theta }})=\operatorname {E} ({\widehat {\theta }})-\theta$ ${\widehat {\theta }}$ $\theta$ ${\widehat {\theta }}$ $b$ $\theta$ ${\widehat {\theta }}$ $b$

推定量には、バイアスのある推定量とバイアスのない推定量の2種類があります。推定量がバイアスを持っているかどうかは、と0の関係によって識別できます。 $\operatorname {E} ({\widehat {\theta }})-\theta$

の場合、偏りがあります。 $\operatorname {E} ({\widehat {\theta }})-\theta \neq 0$ ${\widehat {\theta }}$
の場合、偏りはありません。 $\operatorname {E} ({\widehat {\theta }})-\theta =0$ ${\widehat {\theta }}$

バイアスは、であるため、誤差の期待値でもあります。パラメータが標的の的の中心で、矢印が推定値である場合、バイアスの絶対値が比較的高いということは、矢印の平均位置が標的から外れていることを意味し、バイアスの絶対値が比較的低いということは、矢印の平均位置が標的に合っていることを意味します。矢印は分散している場合もあれば、密集している場合もあります。バイアスと分散の関係は、正確度と精度の関係に似ています。 $\operatorname {E} ({\widehat {\theta }})-\theta =\operatorname {E} ({\widehat {\theta }}-\theta )$

推定量はの不偏推定量であるのは、の場合に限ります。バイアスは推定量の性質であり、推定値の性質ではありません。「バイアスのある推定値」や「バイアスのない推定値」という言葉がよく使われますが、実際には「バイアスのある推定値からの推定値」または「バイアスのない推定値からの推定値」について話しているのです。また、単一の推定値の「誤差」と推定量の「バイアス」を混同する人も少なくありません。ある推定値の誤差が大きいからといって、その推定量がバイアスされているとは限りません。実際、すべての推定値の誤差の絶対値が天文学的な数値であっても、その誤差の期待値がゼロであれば、その推定量は不偏です。また、推定量がバイアスされているからといって、特定の状況において推定値の誤差がゼロになることが妨げられるわけではありません。理想的な状況は、分散の低い不偏推定値を得ること、そして誤差が極端に大きいサンプル数を制限すること（つまり、外れ値が少ないこと）です。しかし、不偏性は必ずしも必須ではありません。多くの場合、わずかなバイアスを許容すれば、平均二乗誤差がより小さく、あるいは外れ値の少ないサンプル推定値が得られることがあります。 ${\widehat {\theta }}$ $\theta$ $B({\widehat {\theta }})=0$

上記の「不偏」の代替として、「中央値不偏」があります。これは推定値の分布の中央値が真の値と一致することを意味します。したがって、長期的には推定値の半分は低すぎ、半分は高すぎます。これはスカラー値の推定値にのみ直接適用されますが、分布の中心傾向のあらゆる指標に拡張できます。中央値不偏推定値を参照してください。

実際の問題では、は常にと関数的な関係を持つことができます。例えば、遺伝理論において、の確率で発生するある種の葉（デンプン質の緑色の葉）があるとします。この場合、葉については、確率変数、つまりデンプン質の緑色の葉の数は、分布でモデル化できます。この数は、の次の推定値を表すために使用できます。はの不偏推定値であることが示されます。 ${\widehat {\theta }}$ $\theta$ $p_{1}=1/4\cdot (\theta +2)$ $0<\theta <1$ $n$ $N_{1}$ $Bin(n,p_{1})$ $\theta$ ${\widehat {\theta }}=4/n\cdot N_{1}-2$ ${\widehat {\theta }}$ $\theta$ ${\begin{aligned}\operatorname {E} [{\widehat {\theta }}]&=\operatorname {E} [4/n\cdot N_{1}-2]=4/n\cdot \operatorname {E} [N_{1}]-2\\[1ex]&=4/n\cdot np_{1}-2=4\cdot p_{1}-2\\[1ex]&=4\cdot 1/4\cdot (\theta +2)-2=\theta +2-2\\[1ex]&=\theta .\end{aligned}}$

公平な

推定量に求められる特性の一つは、真のパラメータよりも大きい推定値や小さい推定値を生成する系統的な傾向が見られないことである、不偏特性です。さらに、分散が小さい不偏推定量は、パラメータの「真の」値に近づくため、分散が大きいものよりも好まれます。分散が最小の不偏推定量は、最小分散不偏推定量（MVUE）と呼ばれます。

推定値が不偏かどうかは、式 , に沿って簡単に確認できます。推定値Tと関心のあるパラメータを用いて前の式を解くと、推定値が不偏であることが示されます。右の図を見ると、推定値が唯一の不偏推定値であるにもかかわらず、分布が重なり合い、両方ともを中心としている場合、実際にはが不偏推定値として推奨されます。 $\operatorname {E} ({\widehat {\theta }})-\theta =0$ ${\widehat {\theta }}$ $\theta$ $\operatorname {E} [T]=\theta$ ${\hat {\theta _{2}}}$ $\theta$ ${\hat {\theta _{1}}}$

期待値モデル分布の期待値の観点から量を見ると、以下の 2 つの式を満たす不偏推定値が存在します。

{\overline {X}}_{n}={\frac {1}{n}}\left(X_{1}+X_{2}+\cdots +X_{n}\right)

E1

\operatorname {E} \left[{\overline {X}}_{n}\right]=\mu

E2

分散同様に、モデル分布として分散の観点から量を見ると、以下の 2 つの式を満たす不偏推定値も存在します。

S_{n}^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}\left(X_{i}-{\bar {X}}\right)^{2}

V1

\operatorname {E} \left[S_{n}^{2}\right]=\sigma ^{2}

V2

ここでn − 1で割っていることに注意してください。nで割ると負のバイアスを持つ推定値が得られ、に対して小さすぎる推定値が生成されてしまうからです。また、はに対してバイアスがないものの、その逆は真ではないことにも言及しておく必要があります。 ^[4] $\sigma ^{2}$ $S_{n}^{2}$ $\sigma ^{2}$

数量間の関係

平均二乗誤差、分散、バイアスは互いに関連しています。つまり、平均二乗誤差 = 分散 + バイアスの二乗です。特に、不偏推定値の場合、分散は平均二乗誤差に等しくなります。 $\operatorname {MSE} ({\widehat {\theta }})=\operatorname {Var} ({\widehat {\theta }})+(B({\widehat {\theta }}))^{2},$
の推定値の標準偏差（分散の平方根）、またはの推定値の標準偏差の推定値は、の標準誤差と呼ばれます。 ${\widehat {\theta }}$ $\theta$ ${\widehat {\theta }}$ $\theta$ ${\widehat {\theta }}$
バイアスと分散のトレードオフは、モデルの複雑さ、過剰適合、不足適合において用いられます。これは主に教師あり学習と予測モデリングの分野で、アルゴリズムの性能を診断するために使用されます。

例

正規確率分布に従う確率変数と、その分布の平均のバイアス付き推定値（ただし、は退化した分布、すなわちに従う）を考えます。ここで、ビエネメの公式を除き、すべての項はゼロです。そしてです。平均二乗誤差、分散、バイアスの関係を検証します。以下は、、、を仮定した確率分布の平均の推定の定量化された特性を示しています。 $X\sim {\mathcal {N}}(\mu ,\sigma ^{2})$ $\mu =\theta$ ${\hat {\theta }}(X)={\bar {X}}_{n}+B=\sum _{i=1}^{n}X_{i}+B,$ $B$ $P(B=b)=1$ $\mathrm {E} ({\hat {\theta }}(X))=\mathrm {E} ({\bar {X}}_{n})+\mathrm {E} (B)=\mu +b,$ $\mathrm {B} ({\hat {\theta }}(X))=b,$ ${\begin{aligned}\mathrm {Var} ({\hat {\theta }}(X))&=\mathrm {E} (({\bar {X}}_{n}+B-\mu -b)^{2})\\[2ex]&={\color [rgb]{0.12156862745098039,0.4666666666666667,0.7058823529411765}\mathrm {E} (({\bar {X}}_{n}-\mu )^{2})}+{\color [rgb]{1,0.4980392156862745,0.054901960784313725}\mathrm {E} ((B-b)^{2})}+{\color [rgb]{0.17254901960784313,0.6274509803921569,0.17254901960784313}2\mathrm {E} (({\bar {X}}_{n}-\mu )(B-b))}\\[2ex]&={\color [rgb]{0.12156862745098039,0.4666666666666667,0.7058823529411765}\mathrm {Var} ({\bar {X}}_{n}-\mu )+\mathrm {E} ({\bar {X}}_{n}-\mu )^{2}}+{\color [rgb]{1,0.4980392156862745,0.054901960784313725}\mathrm {Var} (B-b)+\mathrm {E} (B-b)^{2}}\\[0.5ex]&\qquad {}+{\color [rgb]{0.17254901960784313,0.6274509803921569,0.17254901960784313}2\underbrace {\mathrm {Cov} ({\bar {X}}_{n}-\mu ,B-b)} _{|\cdots |^{2}\leqslant \mathrm {Var} ({\bar {X}}_{n}-\mu )\mathrm {Var} (B-b)=0}+2\mathrm {E} ({\bar {X}}_{n}-\mu )\mathrm {E} (B-b)}\\&={\frac {\sigma ^{2}}{n}},\end{aligned}}$ $\mathrm {Var} ({\bar {X}}_{n}-\mu )=\mathrm {Var} ({\bar {X}}_{n})={\frac {\sigma ^{2}}{n}}$ $\mathrm {MSE} ({\hat {\theta }}(X))=\mathrm {E} (({\bar {X}}_{n}+B-\mu )^{2})=\mathrm {E} (({\bar {X}}_{n}-\mu )^{2})+\mathrm {E} (B^{2})={\frac {\sigma ^{2}}{n}}+b^{2}.$ $\mu =0$ $\sigma =1$ $b=1/2$

行動特性

一貫性

整合的な推定量とは、指標（通常は標本サイズ）が無限に増加するにつれて、推定値の系列が推定対象量に確率収束する推定量のことです。言い換えれば、標本サイズが増加すると、推定量が母数に近づく確率が高まります。

数学的には、推定量はパラメータ θの一貫性のある推定量であるためには、推定値の系列{ t _n ; n ≥ 0 } に対して、そしてどんなに小さいε > 0に対しても、次の式が成り立つ必要がある。 $\lim _{n\to \infty }\Pr \left\{\left|t_{n}-\theta \right|<\varepsilon \right\}=1.$

上記で定義された一貫性は、弱い一貫性とも呼ばれます。シーケンスがほぼ確実に真の値に収束する場合、そのシーケンスは強い一貫性を持ちます。

あるパラメータの倍数に収束する推定値は、その推定値に尺度係数（真の値を推定値の漸近値で割った値）を乗じることで、整合的な推定値にすることができます。これは、統計的分散の尺度を用いて尺度パラメータを推定する際によく用いられます。

フィッシャー一貫性

推定量は、経験分布関数の真の分布関数と同じ関数である限り、フィッシャー整合的であるとみなすことができます。式は次のとおりです。ここで、およびはそれぞれ経験分布関数と理論分布関数です。推定量がフィッシャー整合的であるかどうかを確認する簡単な例として、平均と分散の整合性を確認することが挙げられます。例えば、平均の整合性を確認するには、分散の整合性を確認するには、を確認します。^[5] ${\widehat {\theta }}=h(T_{n}),\theta =h(T_{\theta })$ $T_{n}$ $T_{\theta }$ ${\widehat {\mu }}={\bar {X}}$ ${\widehat {\sigma }}^{2}=SSD/n$

漸近正規性

漸近的に正規な推定量とは、真のパラメータθの周りの分布が、標本サイズn が大きくなるにつれて標準偏差がに比例して縮小する正規分布に近づく、整合的な推定量です。を用いて分布の収束を表すと、あるVに対して t n が漸近的に正規分布であるとき、 t _nは漸近的に正規分布です。 $1/{\sqrt {n}}$ ${\xrightarrow {D}}$ ${\sqrt {n}}(t_{n}-\theta ){\xrightarrow {D}}N(0,V),$

この定式化において、V/n は推定量の漸近分散と呼ぶことができます。しかし、一部の研究者はV を漸近分散と呼ぶこともあります。ただし、有限の n に対して必ずしも収束するとは限らないため、この値は推定量の真の分散の近似値に過ぎません。一方、極限においては漸近分散 (V/n) は単にゼロになります。より具体的には、推定量t _nの分布はを中心とするディラックのデルタ関数に弱収束します。 $\theta$

中心極限定理は、標本平均値が真の平均値の推定値として漸近的に正規性を持つことを示唆しています。より一般的には、最尤推定値は、かなり弱い正則性条件下では漸近的に正規性を示します（最尤推定値に関する記事の漸近解析のセクションを参照）。ただし、すべての推定値が漸近的に正規性を示すわけではありません。最も単純な例は、パラメータの真の値が許容パラメータ領域の境界上にある場合に見られます。 ${\bar {X}}$

効率

推定量の効率は、関心のある量を「最小誤差」で推定するために使用されます。実際には、明確に最良の推定量は存在せず、より優れた推定量が存在するだけです。推定量の効率が優れているかどうかは、特定の損失関数の選択に基づいており、推定量に自然に求められる2つの特性、すなわち、バイアスがないことと、平均二乗誤差（MSE）が最小であることに反映されています。一般に、これら2つを同時に満たすことはできません。バイアスのある推定量は、バイアスのない推定量よりも平均二乗誤差が低くなる可能性があります（推定量のバイアスを参照）。次の式は、平均二乗誤差と推定量のバイアスを関連付けています。^[4] $\operatorname {E} ({\widehat {\theta }})-\theta =0$ $\operatorname {E} [({\widehat {\theta }}-\theta )^{2}]$

$\operatorname {E} [({\widehat {\theta }}-\theta )^{2}]=\left(\operatorname {E} ({\widehat {\theta }})-\theta \right)^{2}+\operatorname {Var} ({\widehat {\theta }})$

最初の項は平均二乗誤差、2番目の項は推定値のバイアスの二乗、3番目の項は推定値の分散を表します。推定値の品質は、分散、推定値のバイアスの二乗、またはMSEの比較から識別できます。優れた推定値（効率が良い）の分散は、悪い推定値（効率が悪い）の分散よりも小さくなります。優れた推定値を使用した場合の推定値のバイアスの二乗は、悪い推定値を使用した場合の推定値のバイアスよりも小さくなります。優れた推定値のMSEは、悪い推定値のMSEよりも小さくなります。推定値が2つあり、が良い推定値でが悪い推定値であるとします。上記の関係は次の式で表すことができます。 ${\widehat {\theta }}_{1}$ ${\widehat {\theta }}_{2}$

$\operatorname {Var} ({\widehat {\theta }}_{1})<\operatorname {Var} ({\widehat {\theta }}_{2})$

$\left|\operatorname {E} ({\widehat {\theta }}_{1})-\theta \right|<\left|\operatorname {E} ({\widehat {\theta }}_{2})-\theta \right|$

$\operatorname {MSE} ({\widehat {\theta }}_{1})<\operatorname {MSE} ({\widehat {\theta }}_{2})$

推定量の効率性は、数式で判断するだけでなく、グラフからも判断できます。推定量が効率的であれば、頻度対値のグラフにおいて、中央に高頻度、その両側に低頻度が分布する曲線が描かれます。例えば、

推定器が効率的でない場合、頻度と値のグラフは、比較的緩やかな曲線になります。

簡単に言えば、良い推定値は曲線が狭く、悪い推定値は曲線が広いということです。これらの2つの曲線を共通のy軸を持つ1つのグラフにプロットすると、その違いがより明確になります。

不偏推定量の中には、分散が最も低いものが存在することが多く、最小分散不偏推定量（MVUE）と呼ばれます。場合によっては、不偏推定量の中で最も分散が小さいことに加えて、変数の統計量における分散の絶対下限であるクラメール・ラオ境界を満たす、効率的な不偏推定量が存在することもあります。

このような「最良不偏推定量」に関しては、クラメール・ラオの境界、ガウス・マルコフの定理、レーマン・シェッフェの定理、ラオ・ブラックウェルの定理も参照してください。

堅牢性

参照

参考文献

^ Mosteller, F.; Tukey, JW (1987) [1968]. 「データ分析（統計を含む）」.ジョン・W・チューキー著作集：データ分析の哲学と原理 1965–1986 . 第4巻. CRC Press. pp. 601–720 [p. 633]. ISBN 0-534-05101-4 – Google ブックス経由。
^ Kosorok (2008)、セクション 3.1、35–39 ページ。
^ ジェインズ（2007年）、172ページ。
^ ab デッキング、フレデリック・ミシェル;クライカンプ、コーネリス。ロプハー、ヘンドリック・ポール。メースター、ルドルフ・アーウィン (2005)。確率と統計の現代的な入門。統計学におけるシュプリンガーのテキスト。ISBN 978-1-85233-896-1。
^ Lauritzen, Steffen. 「推定量の性質」（PDF） . オックスフォード大学. 2023年12月9日閲覧。

さらに読む

ボルシェフ、ニコラエヴィッチ・ログイン（2001）[1994]、「統計的推定量」、数学百科事典、EMSプレス。
ジェインズ, E.T. (2007).確率論：科学の論理（第5版）.ケンブリッジ大学出版局. ISBN 978-0-521-59271-0。。
コソロク、マイケル (2008). 経験的プロセスとセミパラメトリック推論入門. シュプリンガー統計シリーズ.シュプリンガー. doi :10.1007/978-0-387-74978-5. ISBN 978-0-387-74978-5。
レーマン, EL ; カセラ, G. (1998).点推定理論（第2版）.シュプリンガー. ISBN 0-387-98502-6。
シャオ・ジュン（1998）、数理統計学、シュプリンガー、ISBN 0-387-98674-X

外部リンク

推定理論の基礎

[1] Mosteller, F.; Tukey, JW (1987) [1968]. 「データ分析（統計を含む）」.ジョン・W・チューキー著作集：データ分析の哲学と原理 1965–1986 . 第4巻. CRC Press. pp. 601–720 [p. 633]. ISBN 0-534-05101-4 – Google ブックス経由。

[2] Kosorok (2008)、セクション 3.1、35–39 ページ。

[3] ジェインズ（2007年）、172ページ。

[Dekker2005-4] デッキング、フレデリック・ミシェル;クライカンプ、コーネリス。ロプハー、ヘンドリック・ポール。メースター、ルドルフ・アーウィン (2005)。確率と統計の現代的な入門。統計学におけるシュプリンガーのテキスト。ISBN 978-1-85233-896-1。

[5] Lauritzen, Steffen. 「推定量の性質」（PDF） . オックスフォード大学. 2023年12月9日閲覧。