тест Вальда

В статистике тест Вальда (названный в честь Абрахама Вальда ) оценивает ограничения статистических параметров на основе взвешенного расстояния между неограниченной оценкой и ее предполагаемым значением при нулевой гипотезе , где вес — это точность оценки. Интуитивно понятно, что чем больше это взвешенное расстояние, тем менее вероятно, что ограничение истинно. Хотя конечные выборочные распределения тестов Вальда обычно неизвестны, оно имеет асимптотику χ ² -распределение при нулевой гипотезе — факт, который можно использовать для определения статистической значимости .

Вместе с тестом множителя Лагранжа и тестом отношения правдоподобия тест Вальда является одним из трех классических подходов к проверке гипотез . Преимущество теста Вальда перед двумя другими состоит в том, что он требует только оценки неограниченной модели, что снижает вычислительную нагрузку по сравнению с тестом отношения правдоподобия. Однако основным недостатком является то, что (в конечных выборках) он не инвариантен к изменениям представления нулевой гипотезы; другими словами, алгебраически эквивалентные выражения ограничения нелинейных параметров могут привести к различным значениям тестовой статистики. Это потому, что статистика Вальда получена из разложения Тейлора : а разные способы записи эквивалентных нелинейных выражений приводят к нетривиальным различиям в соответствующих коэффициентах Тейлора. Другая аберрация, известная как эффект Хаука-Доннера, может произойти в биномиальных моделях , когда оцениваемый (неограниченный) параметр близок к границе - пространства параметров например, подобранная вероятность чрезвычайно близка к нулю или единице - что приводит к тому, что критерий Вальда больше не увеличивается монотонно на расстоянии между неограниченный и ограниченный параметр.

Математические детали

По критерию Вальда оценка ${\hat {\theta }}$ который был найден, когда максимизирующий аргумент неограниченной функции правдоподобия сравнивается с гипотетическим значением $\theta _{0}$. В частности, квадрат разности ${\hat {\theta }}-\theta _{0}$ взвешивается по кривизне логарифмической функции правдоподобия.

Тестирование по одному параметру

Если гипотеза включает ограничение только с одним параметром, то статистика Вальда принимает следующий вид:

$W={\frac {{({\widehat {\theta }}-\theta _{0})}^{2}}{\operatorname {var} ({\hat {\theta }})}}$

которое при нулевой гипотезе следует асимптотике χ ² -распределение с одной степенью свободы. Квадратный корень из статистики Вальда с одним ограничением можно понимать как (псевдо) t -отношение , которое, однако, на самом деле не является t -распределенным, за исключением особого случая линейной регрессии с нормально распределенными ошибками. В общем, это соответствует асимптотическому z распределению .

${\sqrt {W}}={\frac {{\widehat {\theta }}-\theta _{0}}{\operatorname {se} ({\hat {\theta }})}}$

где $\operatorname {se} ({\widehat {\theta }})$— стандартная ошибка (SE) оценки максимального правдоподобия (MLE), квадратный корень дисперсии. Существует несколько способов последовательной оценки , матрицы дисперсии которая в конечных выборках приводит к альтернативным оценкам стандартных ошибок и соответствующей тестовой статистики и p -значений . Достоверность получения асимптотически нормального распределения после добавления модуля MLE оценки ${\hat {\theta }}$ в ЮЭ опирается на теорему Слуцкого .

Тест(ы) по нескольким параметрам

Тест Вальда можно использовать для проверки одной гипотезы по нескольким параметрам, а также для совместной проверки нескольких гипотез по одному/множеству параметров. Позволять ${\hat {\theta }}_{n}$ быть нашей выборочной оценкой параметров P (т. е. ${\hat {\theta }}_{n}$ это $P\times 1$ вектор), который должен асимптотически следовать нормальному распределению с ковариационной матрицей   V , ${\sqrt {n}}({\hat {\theta }}_{n}-\theta )\,\xrightarrow {\mathcal {D}} \,N(0,V)$. Проверка Q - гипотез по параметрам P выражается через $Q\times P$ матрица Р :

$H_{0}:R\theta =r$

$H_{1}:R\theta \neq r$

Распределение тестовой статистики при нулевой гипотезе равно

$(R{\hat {\theta }}_{n}-r)'[R({\hat {V}}_{n}/n)R']^{-1}(R{\hat {\theta }}_{n}-r)/Q\quad \xrightarrow {\mathcal {D}} \quad F(Q,n-P)\quad {\xrightarrow[{n\rightarrow \infty }]{\mathcal {D}}}\quad \chi _{Q}^{2}/Q,$

что, в свою очередь, подразумевает

$(R{\hat {\theta }}_{n}-r)'[R({\hat {V}}_{n}/n)R']^{-1}(R{\hat {\theta }}_{n}-r)\quad {\xrightarrow[{n\rightarrow \infty }]{\mathcal {D}}}\quad \chi _{Q}^{2},$

где ${\hat {V}}_{n}$ является оценкой ковариационной матрицы.

показывать

Доказательство

Suppose ${\sqrt {n}}({\hat {\theta }}_{n}-\theta )\,\xrightarrow {\mathcal {D}} \,N(0,V)$. Then, by Slutsky's theorem and by the properties of the normal distribution, multiplying by R has distribution:

$R{\sqrt {n}}({\hat {\theta }}_{n}-\theta )={\sqrt {n}}(R{\hat {\theta }}_{n}-r)\,\xrightarrow {\mathcal {D}} \,N(0,RVR')$

Recalling that a quadratic form of normal distribution has a Chi-squared distribution:

${\sqrt {n}}(R{\hat {\theta }}_{n}-r)'[RVR']^{-1}{\sqrt {n}}(R{\hat {\theta }}_{n}-r)\,\xrightarrow {\mathcal {D}} \,\chi _{Q}^{2}$

Rearranging n finally gives:

$(R{\hat {\theta }}_{n}-r)'[R(V/n)R']^{-1}(R{\hat {\theta }}_{n}-r)\quad \xrightarrow {\mathcal {D}} \quad \chi _{Q}^{2}$

What if the covariance matrix is not known a-priori and needs to be estimated from the data? If we have a consistent estimator ${\hat {V}}_{n}$ of $V$ such that $V^{-1}{\hat {V}}_{n}$ has a determinant that is distributed $\chi _{n-P}^{2}$, then by the independence of the covariance estimator and equation above, we have:

$(R{\hat {\theta }}_{n}-r)'[R({\hat {V}}_{n}/n)R']^{-1}(R{\hat {\theta }}_{n}-r)/Q\quad \xrightarrow {\mathcal {D}} \quad F(Q,n-P)$

Нелинейная

В стандартной форме тест Вальда используется для проверки линейных гипотез, которые могут быть представлены одной R. матрицей Если кто-то желает проверить нелинейную гипотезу вида:

$H_{0}:c(\theta )=0$

$H_{1}:c(\theta )\neq 0$

Статистика теста становится:

$c\left({\hat {\theta }}_{n}\right)'\left[c'\left({\hat {\theta }}_{n}\right)\left({\hat {V}}_{n}/n\right)c'\left({\hat {\theta }}_{n}\right)'\right]^{-1}c\left({\hat {\theta }}_{n}\right)\quad {\xrightarrow {\mathcal {D}}}\quad \chi _{Q}^{2}$

где $c'({\hat {\theta }}_{n})$является производной c, оцененной в средстве выборочной оценки. Этот результат получен с помощью дельта-метода , который использует аппроксимацию дисперсии первого порядка.

Неинвариантность к повторной параметризации

Тот факт, что используется аппроксимация дисперсии, имеет тот недостаток, что статистика Вальда не инвариантна к нелинейному преобразованию/перепараметризации гипотезы: она может давать разные ответы на один и тот же вопрос, в зависимости от того, как сформулирован вопрос. . Например, вопрос о том, является ли R = 1, — это то же самое, что вопрос о том, является ли log R = 0; но статистика Вальда для R = 1 не совпадает со статистикой Вальда для log R = 0 (поскольку, как правило, нет четкой зависимости между стандартными ошибками R и log R , поэтому ее необходимо аппроксимировать).

Вальда

Существует несколько альтернатив критерию Вальда, а именно тест отношения правдоподобия и тест множителя Лагранжа (также известный как критерий оценки). Роберт Ф. Энгл показал, что эти три теста: тест Вальда, тест отношения правдоподобия и тест множителя Лагранжа эквивалентны асимптотически . Хотя они асимптотически эквивалентны, в конечных выборках они могут расходиться настолько, что приводят к разным выводам.

Есть несколько причин предпочесть тест отношения правдоподобия или множитель Лагранжа критерию Вальда:

• Неинвариантность: Как утверждалось выше, тест Вальда не инвариантен при перепараметризации, в то время как тесты отношения правдоподобия дадут точно такой же ответ, независимо от того, работаем ли мы с R , log R или любым другим монотонным преобразованием R .
• Другая причина заключается в том, что тест Вальда использует две аппроксимации (мы знаем стандартную ошибку или информацию Фишера и оценку максимального правдоподобия), тогда как тест отношения правдоподобия зависит только от соотношения функций правдоподобия при нулевой гипотезе и альтернативной гипотезе.
• Тест Вальда требует оценки с использованием максимизирующего аргумента, что соответствует «полной» модели. В некоторых случаях модель проще при нулевой гипотезе, поэтому можно предпочесть использовать тест оценки (также называемый тестом множителя Лагранжа), который имеет то преимущество, что его можно сформулировать в ситуациях, когда изменчивость максимизирующего элемента велика. трудно оценить или вычислить оценку в соответствии с оценщиком максимального правдоподобия сложно; например, тест Кокрана-Мантела-Хэнзеля является оценочным тестом.

См. также

• Чау-тест
• Последовательный тест отношения вероятностей
• Тест Суп-Вальда
• Стьюдента t -тест
• Уэлча t -критерий

Дальнейшее чтение

• Грин, Уильям Х. (2012). Эконометрический анализ (Седьмое международное изд.). Бостон: Пирсон. стр. 155–161 . ISBN  978-0-273-75356-8 .
• Кмента, Ян (1986). Элементы эконометрики (второе изд.). Нью-Йорк: Макмиллан. стр. 492–493 . ISBN  0-02-365070-2 .
• Томас, Р.Л. (1993). Вводная эконометрика: теория и применение (второе изд.). Лондон: Лонгман. стр. 73–77. ISBN  0-582-07378-2 .

Внешние ссылки

• Тест Вальда на самые ранние известные варианты употребления некоторых математических слов.