説明できない分散率

統計学において、回帰タスクの説明不能分散率（FVU）とは、説明変数Xによって説明できない、つまり正しく予測できない回帰変数（従属変数）Yの分散率のことです。

正式な定義

各説明変数のi^番目の観測値のベクトルに対して推定値を生成する回帰関数が与えられているとする。 ^[1]^{: 181}説明不能分散率（FVU）を以下のように定義する。 $f$ $y_{i}$ ${\widehat {y}}_{i}=f(x_{i})$ $x_{i}$

{\begin{aligned}{\text{FVU}}&={{\text{VAR}}_{\text{err}} \over {\text{VAR}}_{\text{tot}}}={{\text{SS}}_{\text{err}}/N \over {\text{SS}}_{\text{tot}}/N}={{\text{SS}}_{\text{err}} \over {\text{SS}}_{\text{tot}}}\left(=1-{{\text{SS}}_{\text{reg}} \over {\text{SS}}_{\text{tot}}},{\text{ only true in some cases such as linear regression}}\right)\\[6pt]&=1-R^{2}\end{aligned}}

ここで、_{R 2 は決定係数、VAR err と VAR tot はそれぞれ残差の分散と従属変数の標本分散である。SS err}（^予測誤差の平方和、_つまり残差_平方和）、 SS tot（総_平方和）、 SS reg _（回帰の平方和、つまり説明平方和）は次のように与えられる。

{\begin{aligned}{\text{SS}}_{\text{err}}&=\sum _{i=1}^{N}\;(y_{i}-{\widehat {y}}_{i})^{2}\\{\text{SS}}_{\text{tot}}&=\sum _{i=1}^{N}\;(y_{i}-{\bar {y}})^{2}\\{\text{SS}}_{\text{reg}}&=\sum _{i=1}^{N}\;({\widehat {y}}_{i}-{\bar {y}})^{2}{\text{ and}}\\{\bar {y}}&={\frac {1}{N}}\sum _{i=1}^{N}\;y_{i}.\end{aligned}}

あるいは、説明できない分散の割合は次のように定義できます。

{\text{FVU}}={\frac {\operatorname {MSE} (f)}{\operatorname {var} [Y]}}

ここで、MSE( f )は回帰関数 ƒの平均二乗誤差である。

説明

FVUを理解するには、2番目の定義を考慮することが有用です。Y を予測しようとする場合、考えられる最も単純な回帰関数は、Yの平均を予測する定数関数、すなわちです。したがって、この関数のMSEはYの分散に等しくなります。つまり、SS _err = SS _tot、SS _reg = 0です。この場合、Yの変動は考慮されず、FVUは最大値の1になります。 $f(x_{i})={\bar {y}}$

より一般的には、説明変数X がYについて何も語らない場合、つまりYの予測値がYと共変しない場合、FVU は 1 になります。しかし、予測精度が向上し、MSE を低減できると、FVU は低下します。すべてのiに対してMSE が 0、SS _err = 0、SS _reg = SS _totとなる完全な予測の場合、FVU は 0 になります。 ${\hat {y}}_{i}=y_{i}$

参照

参考文献

^ アチェン、CH（1990）。「『説明可能な差異』は何を説明するのか？：回答」政治分析2 ( 1): 173– 184. doi :10.1093/pan/2.1.173.

[1] アチェン、CH（1990）。「『説明可能な差異』は何を説明するのか？：回答」政治分析2 ( 1): 173– 184. doi :10.1093/pan/2.1.173.