予測区間

統計的推論、特に予測推論において、予測区間とは、過去の観測結果に基づいて、将来の観測結果が一定の確率で収まる区間の推定値です。予測区間は回帰分析でよく用いられます。

簡単な例として、1から6までの目を持つ6面サイコロを挙げます。目の大きさの推定期待値の信頼区間は約3.5で、サンプル数が増えるほど狭くなります。しかし、次のサイコロの予測区間は、それまでにどれだけのサンプル数があったとしても、おおよそ1から6の範囲になります。

予測区間は、頻度論的統計とベイズ統計の両方で使用されます。予測区間は、頻度論的信頼区間またはベイズ的信用区間が観測不可能な母集団パラメータに対して持つ関係と同じ関係を将来の観測に対して持ちます。つまり、予測区間は個々の将来のポイントの分布を予測しますが、パラメータの信頼区間と信用区間は、真の母集団平均または観測不可能なその他の関心対象の量の推定値の分布を予測します。

導入

基礎分布が正規分布であり、サンプルセット { X ₁、 ...、 X _n } があるというパラメトリックな仮定を行う場合、信頼区間と信用区間を使用して基礎母集団の母平均μと母標準偏差σ を推定できます。一方、予測区間を使用して次のサンプル変数X _n₊₁の値を推定できます。

あるいは、ベイズの用語では、予測区間は、変数の分布のパラメータではなく、変数自体の信頼区間として記述できます。

予測区間の概念は、将来の単一のサンプル値に関する推論に限定される必要はなく、より複雑なケースにも拡張できます。例えば、河川の洪水の解析では、年間最大流量の年間値に基づいて分析が行われることが多いため、今後50年以内に発生する可能性のある最大の洪水について推論を行うことに関心が寄せられる場合があります。

予測区間は、観測不可能な母集団パラメータではなく、過去と未来の観測値のみに関係するため、ブルーノ・デ・フィネッティによる観測可能値への焦点に従って、シーモア・ガイサーなどの一部の統計学者は、信頼区間よりも優れた方法として予測区間を提唱している^[要出典]。^[^要出典^]

正規分布

正規分布からのサンプルが与えられ、そのパラメータが不明な場合、頻度主義的な意味での予測区間、すなわち、繰り返し実験においてX _n₊₁が所望の割合で区間内に収まるようなサンプルの統計に基づく区間[ a , b ]を与えることが可能である。これを「予測信頼区間」と呼ぶこともある。^[1]

頻度主義的予測区間の一般的な手法は、観測量X ₁、...、 X _n、 X _n_+1の重要量(確率分布がパラメータに依存しない観測量とパラメータの関数) を見つけて計算することです。この重要量を逆転させることで、これまでの観測値で計算されたある区間に将来の観測値X _n_{+1が含まれる確率を得ることができます。観測量にのみ依存するこのような重要量は}補助統計量と呼ばれます。^[2]重要量を構築する通常の方法は、場所に依存する 2 つの変数の差 (場所が相殺されるように) を取り、次にスケールに依存する 2 つの変数の比率 (スケールが相殺されるように) を取ることです。最もよく知られている重要量はスチューデントの t 統計量で、この方法で導出でき、後続で使用されます。 $X_{1},\dots ,X_{n}.$

既知の平均、既知の分散

平均と分散が既知の正規分布N（μ、σ2 ^）における将来の観測値Xの予測区間[ ℓ、u ]は、次のように計算できる。

\gamma =P(\ell <X<u)=P\left({\frac {\ell -\mu }{\sigma }}<{\frac {X-\mu }{\sigma }}<{\frac {u-\mu }{\sigma }}\right)=P\left({\frac {\ell -\mu }{\sigma }}<Z<{\frac {u-\mu }{\sigma }}\right),

ここで、Xの標準得点は標準正規分布に従って分布します。 $Z={\frac {X-\mu }{\sigma }}$

したがって

{\frac {\ell -\mu }{\sigma }}=-z,\quad {\frac {u-\mu }{\sigma }}=z,

または

\ell =\mu -z\sigma ,\quad u=\mu +z\sigma ,

zは標準正規分布における分位数であり、

\gamma =P(-z<Z<z).

または同等。

{\tfrac {1}{2}}(1-\gamma )=P(Z>z).

予測区間	z
75%	1.15 ^[3]
90%	1.64 ^[3]
95%	1.96 ^[3]
99%	2.58 ^[3]

予測区間は通常次のように表されます。

\left[\mu -z\sigma ,\ \mu +z\sigma \right].

たとえば、平均 ( μ ) が 5、標準偏差 ( σ ) が 1 の正規分布の 95% 予測区間を計算する場合、zは約 2 になります。したがって、予測区間の下限は約 5 ‒ (2⋅1) = 3 となり、上限は約 5 + (2⋅1) = 7 となり、予測区間は約 3 ～ 7 になります。

パラメータの推定

パラメータが未知の分布の場合、予測への直接的なアプローチは、パラメータを推定し、関連する分位関数を使用することです。例えば、標本平均をμの推定値として、標本分散s ^2をσ ²の推定値として使用することができます。ここでs ²には2つの自然な選択肢があります。で割ると不偏推定値が得られ、nで割ると最尤推定値が得られます。どちらを使用しても構いません。次に、これらの推定パラメータを用いて分位関数を使用し、予測区間を求めます。 ${\overline {X}}$ $(n-1)$ $\Phi _{{\overline {X}},s^{2}}^{-1}$

このアプローチは使用可能ですが、結果として得られる区間には繰り返しサンプリングの解釈がありません^[4]。つまり、予測信頼区間ではありません。

続編では、サンプル平均を使用します。

{\overline {X}}=(X_{1}+\cdots +X_{n})/n

そして（不偏の）標本分散：

s^{2}={1 \over n-1}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}

平均値は不明、分散は既知

^[5]の平均μが不明だが分散が既知の正規分布を考えると、観測値の標本平均は分布を持ち、将来の観測値は分布を持つ。これらの差を取るとμがキャンセルされ、分散の正規分布が得られる。 $\sigma ^{2}$ ${\overline {X}}$ $X_{1},\dots ,X_{n}$ $N(\mu ,\sigma ^{2}/n),$ $X_{n+1}$ $N(\mu ,\sigma ^{2}).$ $\sigma ^{2}+(\sigma ^{2}/n),$

{\frac {X_{n+1}-{\overline {X}}}{\sqrt {\sigma ^{2}+(\sigma ^{2}/n)}}}\sim N(0,1).

を解くと予測分布が得られ、これを用いて前述のように区間を計算できます。これは予測信頼区間であり、100 p %の分位範囲を用いると、この計算を繰り返し適用した場合、将来の観測値は100 p %の確率で予測区間内に収まることを意味します。 $X_{n+1}$ $N({\overline {X}},\sigma ^{2}+(\sigma ^{2}/n)),$ $X_{n+1}$

この予測分布は、推定平均値と既知の分散を用いる場合よりも保守的であることに注意してください。これは複合分散を用いるため、区間が若干広くなるためです。これは、望ましい信頼区間特性を維持するために必要です。 ${\overline {X}}$ $\sigma ^{2}$ $\sigma ^{2}+(\sigma ^{2}/n)$

平均値は既知、分散は不明

逆に、平均μが既知で分散が未知の正規分布が与えられた場合、観測値の標本分散はスケールに応じて分布を持ちます。より正確には、 $\sigma ^{2}$ $s^{2}$ $X_{1},\dots ,X_{n}$ $\chi _{n-1}^{2}$

{\frac {(n-1)s^{2}}{\sigma ^{2}}}\sim \chi _{n-1}^{2}.

一方、将来の観測値は分布を持ちます。将来の観測残差と標本標準偏差sの比を取るとσがキャンセルされ、自由度n – 1のスチューデントのt分布が得られます（導出を参照）。 $X_{n+1}$ $N(\mu ,\sigma ^{2}).$ $X_{n+1}-\mu$

{\frac {X_{n+1}-\mu }{s}}\sim T_{n-1}.

を解くと予測分布が得られ、そこから前と同じように間隔を計算できます。 $X_{n+1}$ $\mu \pm sT_{n-1},$

この予測分布は、推定標準偏差と既知の平均値μを持つ正規分布を使用するよりも保守的であることに注意してください。これは、正規分布ではなくt分布を使用しているため、より広い区間が得られるためです。これは、望ましい信頼区間の特性を維持するために必要です。 $s$

平均値は不明、分散は不明

μとσ2が^未知の正規分布について上記を組み合わせると、次の補助統計量が得られる：^[6] $N(\mu ,\sigma ^{2})$

{\frac {X_{n+1}-{\overline {X}}}{s{\sqrt {1+1/n}}}}\sim T_{n-1}

この単純な組み合わせは、正規分布の標本平均と標本分散が独立した統計量であるため可能です。これは正規分布の場合にのみ当てはまり、実際に正規分布の特徴となります。

を解くと予測分布が得られる。 $X_{n+1}$

{\overline {X}}+s{\sqrt {1+1/n}}\cdot T_{n-1}

特定の間隔内に落ちる確率は次のようになります。 $X_{n+1}$

\Pr \left({\overline {X}}-T_{n-1,a}s{\sqrt {1+(1/n)}}\leq X_{n+1}\leq {\overline {X}}+T_{n-1,a}s{\sqrt {1+(1/n)}}\,\right)=p

ここで、T _n-1,aは自由度n − 1のスチューデントt分布の100((1 − p )/2)^番目のパーセンタイルである。したがって、

{\overline {X}}\pm T_{n-1,a}s{\sqrt {1+(1/n)}}

は、100(1 − p )%予測区間の終点です。 $X_{n+1}$

ノンパラメトリック法

母集団に関する仮定を一切せずに、つまり非パラメトリックな方法で予測区間を計算することができます。

残差ブートストラップ法は、非パラメトリック予測区間の構築に使用できます。

等角予測

一般的に、等角予測法の方が汎用性が高い。最小値と最大値を予測区間の境界として使用する特殊なケースを考えてみよう。同一の確率変数の標本 { X ₁ , ..., X _n } があるとする。すべての観測値が最大値となる確率は等しいため、次の観測値X _{n +1}が最大となる確率は1/( n + 1) である。同様に、X _{n +1}が最小となる確率も 1/( n + 1) である。もう 1 つの確率 ( n − 1)/( n + 1) では、X _{n +1}は標本 { X ₁ , ..., X _n } の標本最大値と標本最小値の間に位置する。したがって、標本の最大値と最小値をそれぞれMとm とすると、 予測区間( n − 1)/( n + 1) は [ m , M ] となる。^[^要出典^]

これは将来の観測値が一定範囲内に収まる確率を与えるものの、それがどの区間に収まるかについては推定値を与えないことに注意してください。特に、観測値の範囲外に収まる場合、範囲をはるかに超える可能性があります。詳細については極値理論を参照してください。正式には、これは母集団からのサンプリングだけでなく、必ずしも独立または同一分布に従うとは限らない、交換可能な確率変数の列にも適用されます。

他の間隔との対比

信頼区間との対比

予測信頼区間の式では、母集団の平均と標準偏差の観測不可能なパラメータμとσについては言及されていません。観測されたサンプル統計とサンプルの平均と標準偏差が使用され、推定されるのは将来のサンプルの結果です。 ${\overline {X}}_{n}$ $S_{n}$

予測区間を検討する場合、標本統計量を母数パラメータの推定値として使用し、これらの推定値に信頼区間を適用するのではなく、「次の標本」自体を統計量として検討し、その標本分布を計算します。 $X_{n+1}$

パラメータ信頼区間では、母集団パラメータを推定します。これを次の標本の予測として解釈したい場合は、（推定された）母集団分布を用いて、「次の標本」をこの推定母集団から抽出した標本としてモデル化します。対照的に、予測信頼区間では、そのような母集団からn個またはn + 1個の観測値を含む標本（の統計量）の標本分布を用います。母集団分布は直接使用されませんが、標本分布の形状に関する仮定（パラメータの値ではない）は標本分布の計算に使用されます。

回帰分析では

予測区間の一般的な応用は回帰分析です。データが直線（単回帰）でモデル化されていると仮定します。

y_{i}=\alpha +\beta x_{i}+\varepsilon _{i}\,

ここで、は応答変数、は説明変数、ε _iはランダム誤差項、およびはパラメータです。 $y_{i}$ $x_{i}$ $\alpha$ $\beta$

通常の最小二乗法などからパラメータの推定値とが与えられた場合、与えられた説明値x _dに対する予測応答値y _dは ${\hat {\alpha }}$ ${\hat {\beta }}$

{\hat {y}}_{d}={\hat {\alpha }}+{\hat {\beta }}x_{d},

（回帰直線上の点）ですが、実際の応答は

y_{d}=\alpha +\beta x_{d}+\varepsilon _{d}.\,

点推定は 平均応答と呼ばれ、y _dの期待値の推定値である。 ${\hat {y}}_{d}$ $E(y\mid x_{d}).$

予測区間は、代わりにy _dが含まれると予想される区間を示します。実際のパラメータαとβ が（誤差項ε _iとともに）わかっている場合、これは必要ありません。ただし、サンプルから推定する場合は、切片と傾き（および）の推定値の標準誤差とそれらの相関を使用して、予測区間を計算できます。 ${\hat {\alpha }}$ ${\hat {\beta }}$

回帰分析において、Faraway (2002, p. 39) は、平均応答の予測の区間と観測応答の予測の区間を区別しています。これは、本質的に、上記の拡張係数の平方根に単位項を含めるかどうかに影響します。詳細については、Faraway (2002) を参照してください。

ベイズ統計

予測推論の提唱者であるシーモア・ガイサーは、ベイズ統計の予測的応用について述べている。^[7]

ベイズ統計では、確率変数の事後確率から（ベイズ的）予測区間を信用区間として計算することができます。理論的な研究では、信用区間は将来の事象の予測ではなく、パラメータの推論のために計算されることがほとんどです。つまり、変数自体の結果ではなく、パラメータの信用区間です。しかし、特に、まだ観測されていない事例の起こりうる極値を扱う応用においては、そのような値の信用区間が実用上重要となる場合があります。

アプリケーション

予測区間は、血液検査の基準範囲など、血液検査が正常かどうかを判断するための基準範囲の定義として一般的に用いられます。この目的で最も一般的に用いられる予測区間は95%予測区間であり、これに基づく基準範囲は標準基準範囲と呼ばれることがあります。

参照

注記

^ Geisser (1993, p. 6): 第2章非ベイズ予測アプローチ
^ ガイサー（1993年、7ページ）
^ abcd Sterne & Kirkwood (2003, p. 472)の表A2
^ ガイサー（1993年、8～9ページ）
^ ガイサー（1993年、7ページ～）
^ ガイサー (1993、例 2.2、p. 9-10)
^ ガイサー（1993）

参考文献

Faraway, Julian J. (2002)、R を用いた実践的な回帰分析と分散分析(PDF)
ガイサー、シーモア（1993年）、予測推論、CRCプレス
スターン、ジョナサン; カークウッド、ベティ R. (2003)、『エッセンシャル・メディカル・スタティスティックス』、ブラックウェル・サイエンス、ISBN 0-86542-871-9

さらに読む

チャットフィールド, C. (1993). 「区間予測の計算」.ビジネス＆経済統計ジャーナル. 11 (2): 121– 135. doi :10.2307/1391361. JSTOR 1391361.
Lawless, JF; Fredette, M. (2005). 「頻度主義的予測区間と予測分布」. Biometrika . 92 (3): 529– 542. doi : 10.1093/biomet/92.3.529 .
Meade, N.; Islam, T. (1995). 「成長曲線予測のための予測区間」. Journal of Forecasting . 14 (5): 413– 430. doi :10.1002/for.3980140502.
ISO 16269-8 標準データ解釈、パート8、予測区間の決定

[1] Geisser (1993, p. 6): 第2章非ベイズ予測アプローチ

[2] ガイサー（1993年、7ページ）

[MedicalStatisticsA2-3] Sterne & Kirkwood (2003, p. 472)の表A2

[4] ガイサー（1993年、8～9ページ）

[5] ガイサー（1993年、7ページ～）

[6] ガイサー (1993、例 2.2、p. 9-10)

[7] ガイサー（1993）