Условная дисперсия

В теории вероятностей и статистике условная дисперсия — это дисперсия с случайной величины учетом значений одной или нескольких других переменных.В частности, в эконометрике условная дисперсия также известна как скедастическая функция или скедастическая функция . Условные дисперсии являются важной частью моделей авторегрессионной условной гетероскедастичности (ARCH).

Определение

Условная дисперсия случайной величины Y с учетом другой случайной величины X равна

$\operatorname {Var} (Y\mid X)=\operatorname {E} {\Big (}{\big (}Y-\operatorname {E} (Y\mid X){\big )}^{2}\;{\Big |}\;X{\Big )}.$

Условная дисперсия говорит нам, сколько дисперсии останется, если мы воспользуемся $\operatorname {E} (Y\mid X)$ «предсказать Y. » Здесь, как обычно, $\operatorname {E} (Y\mid X)$ обозначает условное ожидание при Y условии X ,как мы помним, это сама случайная величина (функция X , определенная с точностью до единицы).Как результат, $\operatorname {Var} (Y\mid X)$ сама по себе является случайной величиной (и является функцией X ).

Объяснение, отношение к методу наименьших квадратов

Основная статья: метод наименьших квадратов

Напомним, что дисперсия — это ожидаемое квадратическое отклонение между случайной величиной (скажем, Y ) и ее ожидаемым значением. Ожидаемое значение можно рассматривать как разумное предсказание результатов случайного эксперимента (в частности, ожидаемое значение — это лучший постоянный прогноз, когда прогнозы оцениваются по ожидаемому квадрату ошибки прогнозирования). Таким образом, одна из интерпретаций дисперсии заключается в том, что она дает наименьшую возможную ожидаемую квадратичную ошибку прогноза. Если у нас есть знания о другой случайной величине ( X ), которую мы можем использовать для прогнозирования Y , мы потенциально можем использовать эти знания для уменьшения ожидаемой квадратичной ошибки. Оказывается, лучшим предсказанием Y при условии X является условное ожидание. В частности, для любого $f:\mathbb {R} \to \mathbb {R}$ измеримый,

${\begin{aligned}\operatorname {E} [(Y-f(X))^{2}]&=\operatorname {E} [(Y-\operatorname {E} (Y|X)\,\,+\,\,\operatorname {E} (Y|X)-f(X))^{2}]\\&=\operatorname {E} [\operatorname {E} \{(Y-\operatorname {E} (Y|X)\,\,+\,\,\operatorname {E} (Y|X)-f(X))^{2}|X\}]\\&=\operatorname {E} [\operatorname {Var} (Y|X)]+\operatorname {E} [(\operatorname {E} (Y|X)-f(X))^{2}]\,.\end{aligned}}$

Выбрав $f(X)=\operatorname {E} (Y|X)$, второй, неотрицательный член становится нулевым, что подтверждает утверждение.Здесь второе равенство использовало закон полного ожидания .Мы также видим, что ожидаемая условная дисперсия Y при условии X проявляется как неустранимая ошибка прогнозирования Y при условии только знания X .

Особые случаи, варианты

Условие дискретных случайных величин

Когда X принимает счетное множество значений $S=\{x_{1},x_{2},\dots \}$ с положительной вероятностью, т. е. является дискретной случайной величиной , можно ввести $\operatorname {Var} (Y|X=x)$, условная дисперсия Y при условии, что X=x для любого x из S следующим образом:

$\operatorname {Var} (Y|X=x)=\operatorname {E} ((Y-\operatorname {E} (Y\mid X=x))^{2}\mid X=x)=\operatorname {E} (Y^{2}|X=x)-\operatorname {E} (Y|X=x)^{2},$

где вспомнить это $\operatorname {E} (Z\mid X=x)$ — это условное ожидание Z при условии, что X=x , что четко определено для $x\in S$.Альтернативное обозначение для $\operatorname {Var} (Y|X=x)$ является $\operatorname {Var} _{Y\mid X}(Y|x).$

Обратите внимание, что здесь $\operatorname {Var} (Y|X=x)$ определяет константу для возможных значений x и, в частности, $\operatorname {Var} (Y|X=x)$, не является случайной величиной.

Связь этого определения с $\operatorname {Var} (Y|X)$ заключается в следующем:Пусть S будет таким же, как указано выше, и определим функцию $v:S\to \mathbb {R}$ как $v(x)=\operatorname {Var} (Y|X=x)$. Затем, $v(X)=\operatorname {Var} (Y|X)$ почти наверняка .

Определение с использованием условных распределений

«Условное ожидание Y при условии X=x » также можно определить в более общем смысле.используя условное распределение Y X по (это существует в данном случае, поскольку здесь X и Y имеют действительные значения).

В частности, позволяя $P_{Y|X}$ быть (регулярным) условным распределением $P_{Y|X}$ при Y условии X , т. е. $P_{Y|X}:{\mathcal {B}}\times \mathbb {R} \to [0,1]$ (намерение состоит в том, что $P_{Y|X}(U,x)=P(Y\in U|X=x)$ почти наверняка над носителем X ), мы можем определить

$\operatorname {Var} (Y|X=x)=\int \left(y-\int y'P_{Y|X}(dy'|x)\right)^{2}P_{Y|X}(dy|x).$

Это, конечно, может быть адаптировано к случаям, когда Y само по себе дискретно (замена интегралов суммами), а также когда существует условная плотность Y при условии X = x относительно некоторого основного распределения.

Компоненты дисперсии

Закон полной дисперсии гласит:

$\operatorname {Var} (Y)=\operatorname {E} (\operatorname {Var} (Y\mid X))+\operatorname {Var} (\operatorname {E} (Y\mid X)).$

Другими словами: дисперсия Y — это сумма ожидаемой условной дисперсии Y с учетом X и дисперсии условного ожидания Y учетом X. с Первый член отражает вариацию, оставшуюся после «использования X для предсказания Y обусловленную средним значением предсказания Y из-за случайности X. », а второй термин отражает вариацию ,

См. также

• Смешанная модель
• Модель случайных эффектов

Дальнейшее чтение

• Казелла, Джордж; Бергер, Роджер Л. (2002). Статистический вывод (второе изд.). Уодсворт. стр. 151–52. ISBN  0-534-24312-6 .