Доля дисперсии необъяснима

В статистике необъяснимая доля дисперсии ( FVU ) в контексте задачи регрессии представляет собой долю дисперсии регрессии ( зависимой переменной) Y которую невозможно объяснить, т. е. которая неправильно предсказана объясняющими переменными X. ,

Формальное определение

Предположим, нам дана функция регрессии $f$ уступая по каждому $y_{i}$ оценка ${\widehat {y}}_{i}=f(x_{i})$ где $x_{i}$ вектор i ^й наблюдения по всем объясняющим переменным. ^[1]^: 181 Мы определяем долю необъяснимой дисперсии (FVU) как:

{\begin{aligned}{\text{FVU}}&={{\text{VAR}}_{\text{err}} \over {\text{VAR}}_{\text{tot}}}={{\text{SS}}_{\text{err}}/N \over {\text{SS}}_{\text{tot}}/N}={{\text{SS}}_{\text{err}} \over {\text{SS}}_{\text{tot}}}\left(=1-{{\text{SS}}_{\text{reg}} \over {\text{SS}}_{\text{tot}}},{\text{ only true in some cases such as linear regression}}\right)\\[6pt]&=1-R^{2}\end{aligned}}

где Р ² – коэффициент детерминации , а VAR _err и VAR _tot – дисперсия остатков и выборочная дисперсия зависимой переменной. SS _err (сумма квадратов ошибок прогнозов, что эквивалентно остаточной сумме квадратов ), SS _tot ( общая сумма квадратов ) и SS _reg (сумма квадратов регрессии, что эквивалентно объясненной сумме квадратов ) определяются выражением

{\begin{aligned}{\text{SS}}_{\text{err}}&=\sum _{i=1}^{N}\;(y_{i}-{\widehat {y}}_{i})^{2}\\{\text{SS}}_{\text{tot}}&=\sum _{i=1}^{N}\;(y_{i}-{\bar {y}})^{2}\\{\text{SS}}_{\text{reg}}&=\sum _{i=1}^{N}\;({\widehat {y}}_{i}-{\bar {y}})^{2}{\text{ and}}\\{\bar {y}}&={\frac {1}{N}}\sum _{i=1}^{N}\;y_{i}.\end{aligned}}

Альтернативно, долю необъяснимой дисперсии можно определить следующим образом:

{\text{FVU}}={\frac {\operatorname {MSE} (f)}{\operatorname {var} [Y]}}

где MSE( f ) — среднеквадратическая ошибка функции регрессии ƒ .

Объяснение

Для понимания ФВУ полезно рассмотреть второе определение. При попытке предсказать Y самая наивная функция регрессии, о которой мы можем подумать, — это постоянная функция, предсказывающая среднее значение Y , т. е. $f(x_{i})={\bar {y}}$ . Отсюда следует, что СКО этой функции равно дисперсии Y ; то есть SS _err = SS _tot и SS _reg = 0. В этом случае никакие изменения Y не могут быть учтены, и FVU тогда имеет максимальное значение, равное 1.

В более общем смысле, FVU будет равен 1, если объясняющие переменные X ничего не говорят нам об Y в том смысле, что прогнозируемые значения Y не согласуются с Y . Но по мере того, как прогноз становится лучше и MSE может быть уменьшен, FVU снижается. В случае идеального предсказания, когда ${\hat {y}}_{i}=y_{i}$ для всех i MSE равно 0, SS _err = 0, SS _reg = SS _tot и FVU равно 0.

См. также

Ссылки

^ Ахен, Швейцария (1990). « Что объясняет «Объясненная дисперсия»?: Ответ». Политический анализ . 2 (1): 173–184. дои : 10.1093/пан/2.1.173 .

[1] Ахен, Швейцария (1990). « Что объясняет «Объясненная дисперсия»?: Ответ». Политический анализ . 2 (1): 173–184. дои : 10.1093/пан/2.1.173 .

[1]