Тест информационной матрицы

В эконометрике тест информационной матрицы используется для определения того, является ли модель регрессионная неверной . Тест был разработан Халбертом Уайтом . что в правильно заданной модели и при стандартных предположениях о регулярности информационная матрица Фишера может быть выражена одним из двух способов: как внешнее произведение градиента который заметил , или как функция матрицы Гессе функции логарифмического правдоподобия.

Рассмотрим линейную модель $\mathbf {y} =\mathbf {X} \mathbf {\beta } +\mathbf {u}$, где ошибки $\mathbf {u}$ предполагается, что они распределены $\mathrm {N} (0,\sigma ^{2}\mathbf {I} )$. Если параметры $\beta$ и $\sigma ^{2}$ сложены в вектор $\mathbf {\theta } ^{\mathsf {T}}={\begin{bmatrix}\beta &\sigma ^{2}\end{bmatrix}}$, результирующая функция логарифмического правдоподобия равна

$\ell (\mathbf {\theta } )=-{\frac {n}{2}}\log \sigma ^{2}-{\frac {1}{2\sigma ^{2}}}\left(\mathbf {y} -\mathbf {X} \mathbf {\beta } \right)^{\mathsf {T}}\left(\mathbf {y} -\mathbf {X} \mathbf {\beta } \right)$

Информационная матрица может быть тогда выражена как

$\mathbf {I} (\mathbf {\theta } )=\operatorname {E} \left[\left({\frac {\partial \ell (\mathbf {\theta } )}{\partial \mathbf {\theta } }}\right)\left({\frac {\partial \ell (\mathbf {\theta } )}{\partial \mathbf {\theta } }}\right)^{\mathsf {T}}\right]$

это ожидаемое значение внешнего продукта градиента или оценки . Во-вторых, его можно записать как отрицательную матрицу Гессе логарифмической функции правдоподобия.

$\mathbf {I} (\mathbf {\theta } )=-\operatorname {E} \left[{\frac {\partial ^{2}\ell (\mathbf {\theta } )}{\partial \mathbf {\theta } \,\partial \mathbf {\theta } ^{\mathsf {T}}}}\right]$

Если модель указана правильно, оба выражения должны быть равны. Объединение эквивалентных форм дает

$\mathbf {\Delta } (\mathbf {\theta } )=\sum _{i=1}^{n}\left[{\frac {\partial ^{2}\ell (\mathbf {\theta } )}{\partial \mathbf {\theta } \,\partial \mathbf {\theta } ^{\mathsf {T}}}}+{\frac {\partial \ell (\mathbf {\theta } )}{\partial \mathbf {\theta } }}{\frac {\partial \ell (\mathbf {\theta } )}{\partial \mathbf {\theta } }}\right]$

где $\mathbf {\Delta } (\mathbf {\theta } )$ это $(r\times r)$ случайная матрица , где $r$ это количество параметров. Уайт показал, что элементы $n^{-1/2}\mathbf {\Delta } (\mathbf {\hat {\theta }} )$, где $\mathbf {\hat {\theta }}$ является MLE, асимптотически нормально распределяются с нулевыми средними, если модель задана правильно. Однако в небольших выборках тест обычно работает плохо.

Дальнейшее чтение

• Кремер, В.; Зоннбергер, Х. (1986). Тестируемая модель линейной регрессии . Гейдельберг: Physica-Verlag. стр. 105–110. ISBN  3-7908-0356-1 .
• Уайт, Халберт (1994). «Тестирование информационной матрицы» . Оценка, выводы и анализ спецификаций . Нью-Йорк: Издательство Кембриджского университета. стр. 300–344. ISBN  0-521-25280-6 .