Объясненная вариация

В статистике измеряет долю , объясненная вариация в которой математическая модель объясняет вариацию ( дисперсию ) данного набора данных. Часто вариацию количественно определяют как дисперсию ; тогда более конкретный термин «объясненная дисперсия» можно использовать .

Дополнительная часть общей вариации называется необъяснимой или остаточной вариацией ; Аналогично, при обсуждении дисперсии как таковой ее называют необъяснимой или остаточной дисперсией .

Определение с точки зрения получения информации

Получение информации за счет лучшего моделирования

Следуя Кенту (1983), мы используем информацию Фрейзера (Fraser 1965)

$F(\theta )=\int {\textrm {d}}r\,g(r)\,\ln f(r;\theta )$

где $g(r)$ плотность вероятности случайной величины $R\,$, и $f(r;\theta )\,$ с $\theta \in \Theta _{i}$ ( $i=0,1\,$) — два семейства параметрических моделей. Семейство моделей 0 является более простым, с ограниченным пространством параметров. $\Theta _{0}\subset \Theta _{1}$.

Параметры определяются путем оценки максимального правдоподобия ,

$\theta _{i}=\operatorname {argmax} _{\theta \in \Theta _{i}}F(\theta ).$

Прирост информации модели 1 по сравнению с моделью 0 записывается как

$\Gamma (\theta _{1}:\theta _{0})=2[F(\theta _{1})-F(\theta _{0})]\,$

где для удобства включен коэффициент 2. Γ всегда неотрицательна; он измеряет, насколько лучшая модель семейства 1 лучше лучшей модели семейства 0 при объяснении g ( r ).

Получение информации с помощью условной модели

Предположим, что двумерная случайная величина $R=(X,Y)$ где X следует рассматривать как объясняющую переменную, а Y как зависимую переменную. Модели семейства 1 «объясняют» Y через X ,

$f(y\mid x;\theta )$,

тогда как в семействе 0 X и Y считаются независимыми. Мы определяем случайность Y как $D(Y)=\exp[-2F(\theta _{0})]$и случайность Y , учитывая X , по $D(Y\mid X)=\exp[-2F(\theta _{1})]$. Затем,

$\rho _{C}^{2}=1-D(Y\mid X)/D(Y)$

можно интерпретировать как долю дисперсии данных, которая «объясняется» X .

Особые случаи и обобщенное использование

Линейная регрессия

Основная статья: Необъяснимая доля дисперсии

Необъяснимая доля дисперсии — это устоявшаяся концепция в контексте линейной регрессии . Обычное определение коэффициента детерминации основано на фундаментальной концепции объясненной дисперсии.

Коэффициент корреляции как мера объясненной дисперсии

Пусть X — случайный вектор, а Y — случайная величина, моделируемая нормальным распределением с центром $\mu =\Psi ^{\textrm {T}}X$. В этом случае полученная выше доля объясненной вариации $\rho _{C}^{2}$ равен квадрату коэффициента корреляции $R^{2}$.

Обратите внимание на сильные предположения модели: центр распределения Y должен быть линейной функцией от X , и для любого заданного x распределение Y должно быть нормальным. В других ситуациях интерпретация, как правило, не оправдана. $R^{2}$ как доля объясненной дисперсии.

В анализе главных компонент

Объясненная дисперсия обычно используется в анализе главных компонент . Связь с получением информации Фрейзером-Кентом еще предстоит прояснить.

Критика

Поскольку доля «объясненной дисперсии» равна квадрату коэффициента корреляции $R^{2}$, он разделяет все недостатки последнего: он отражает не только качество регрессии, но и распределение независимых (обусловливающих) переменных.

По словам одного критика: «Таким образом, $R^{2}$ дает «процент дисперсии, объясненной» регрессией, выражение, которое для большинства социологов имеет сомнительное значение, но имеет большую риторическую ценность. Если это число велико, регрессия дает хорошее соответствие, и нет смысла искать дополнительные переменные. Другие уравнения регрессии для других наборов данных считаются менее удовлетворительными или менее эффективными, если их $R^{2}$ ниже. Ничего о $R^{2}$ поддерживает эти претензии». И после построения примера, где $R^{2}$ усиливается просто за счет совместного рассмотрения данных из двух разных популяций: «Объяснимая дисперсия ничего не объясняет».

См. также

• Дисперсионный анализ
• Уменьшение дисперсии
• Анализ чувствительности на основе отклонений

Внешние ссылки

• Объясненная и необъяснимая дисперсия на графике