Двухшаговая M-оценка

Двухэтапные M-оценки решают задачи M-оценки , которые требуют предварительной оценки для получения интересующего параметра. Двухэтапная M-оценка отличается от обычной задачи M-оценки, поскольку асимптотическое распределение оценки второго шага обычно зависит от оценки первого шага. Учет этого изменения в асимптотическом распределении важен для правильного вывода.

Описание

Класс двухшаговых M-оценщиков включает в себя оценщик выборки Хекмана , ^[1] взвешенные нелинейные методы наименьших квадратов и обычные методы наименьших квадратов с сгенерированными регрессорами . ^[2]

Чтобы зафиксировать идеи, позвольте $\{W_{i}\}_{i=1}^{n}\subseteq R^{d}$ быть образцом iid . $\Theta$ и $\Gamma$ являются подмножествами евклидовых пространств $R^{p}$ и $R^{q}$ , соответственно. Дана функция $m(;;;):R^{d}\times \Theta \times \Gamma \rightarrow R$ , двухшаговая M-оценка ${\hat {\theta }}$ определяется как:

{\hat {\theta }}:=\arg \max _{\theta \in \Theta }{\frac {1}{n}}\sum _{i}m{\bigl (}W_{i},\theta ,{\hat {\gamma }}{\bigr )}

где ${\hat {\gamma }}$ представляет собой M-оценку параметра помехи , который необходимо вычислить на первом этапе.

Согласованность двухшаговых М-оценок можно проверить, проверив условия согласованности для обычных М-оценок, хотя могут потребоваться некоторые модификации. На практике важным условием проверки является условие идентификации . ^[2] Если ${\hat {\gamma }}\rightarrow \gamma ^{*},$ где $\gamma ^{*}$ — неслучайный вектор, то условие идентификации состоит в том, что $E[m(W_{1},\theta ,\gamma ^{*})]$ имеет уникальный максимайзер над $\Theta$ .

Асимптотическое распределение

В условиях регулярности двухшаговые M-оценки имеют асимптотическую нормальность . Важно отметить, что асимптотическая дисперсия двухшаговой M-оценки обычно не такая же, как у обычной M-оценки, в которой оценка на первом этапе не требуется. ^[3] Этот факт интуитивно понятен, поскольку ${\hat {\gamma }}$ является случайным объектом и его изменчивость должна влиять на оценку $\Theta$ . Однако существует особый случай, когда асимптотическая дисперсия двухшаговой М-оценки принимает вид, как если бы процедура оценки первого шага отсутствовала. Такой особый случай имеет место, если:

E{\frac {\partial }{\partial \theta \partial \gamma }}m(W_{1},\theta _{0},\gamma ^{*})=0

где $\theta _{0}$ это истинная ценность $\theta$ и $\gamma ^{*}$ это предел вероятности ${\hat {\gamma }}$ . ^[3] Чтобы интерпретировать это условие, сначала заметим, что в условиях регулярности $E{\frac {\partial }{\partial \theta }}m(W_{1},\theta _{0},\gamma ^{*})=0$ с $\theta _{0}$ является максимизатором $E[m(W_{1},\theta ,\gamma ^{*})]$ . Таким образом, из приведенного выше условия следует, что небольшое возмущение γ не влияет на условие первого порядка . Таким образом, в большой выборке изменчивость ${\hat {\gamma }}$ не влияет на argmax целевой функции, что объясняет инвариантное свойство асимптотической дисперсии. Конечно, этот результат действителен только тогда, когда размер выборки стремится к бесконечности, поэтому свойство конечной выборки может быть совершенно другим.

С участием MLE

Когда первым шагом является оценка максимального правдоподобия , при некоторых предположениях двухшаговая M-оценка является более асимптотически эффективной (т.е. имеет меньшую асимптотическую дисперсию), чем M-оценка с известным параметром первого шага. Непротиворечивость и асимптотическая нормальность оценки следуют из общего результата о двухшаговых M-оценках. ^[4]

Свет {V _я ,W _я ,Z _я } ^н
_i=1 — случайная выборка, а M-оценка второго шага ${\widehat {\theta }}$ следующее:

{\widehat {\theta }}:={\underset {\theta \in \Theta }{\operatorname {arg\max } }}\sum _{i=1}^{n}m(v_{i},w_{i},z_{i}:\theta ,{\widehat {\gamma }})

где ${\widehat {\gamma }}$ – параметр, оцениваемый по максимальному правдоподобию на первом этапе. Для МЛЭ,

{\widehat {\gamma }}:={\underset {\gamma \in \Gamma }{\operatorname {arg\max } }}\sum _{i=1}^{n}\log f(v_{it}:z_{i},\gamma )

где f условная плотность V при заданном Z. — Теперь предположим, что при заданном условно V не зависит от W. Z Это называется предположением условной независимости или выбором наблюдаемых. ^[4]^[5] будучи обусловленным Z, V не имеет систематической зависимости от W. Интуитивно это условие означает, что Z является хорошим предиктором V, так что , При условии условной независимости асимптотическая дисперсия двухшаговой оценки равна:

\mathrm {E} [\nabla _{\theta }s(\theta _{0},\gamma _{0})]^{-1}\mathrm {E} [g(\theta _{0},\gamma _{0})g(\theta _{0},\gamma _{0})^{\mathrm {T} }]\mathrm {E} [\nabla _{\theta }s(\theta _{0},\gamma _{0})]^{-1}

где

{\begin{aligned}g(\theta ,\gamma )&:=s(\theta ,\gamma )-\mathrm {E} [s(\theta ,\gamma )\nabla _{\gamma }d(\gamma )^{\mathrm {T} }]\mathrm {E} [\nabla _{\gamma }d(\gamma )\nabla _{\gamma }d(\gamma )^{\mathrm {T} }]^{-1}d(\gamma )\\s(\theta ,\gamma )&:=\nabla _{\theta }m(V,W,Z:\theta ,\gamma )\\d(\gamma )&:=\nabla _{\gamma }\log f(V:Z,\gamma )\end{aligned}}

и $\nabla$ представляет частную производную по вектору-строке. В случае, когда $γ 0$ известно , асимптотическая дисперсия равна

\mathrm {E} [\nabla _{\theta }s(\theta _{0},\gamma _{0})]^{-1}\mathrm {E} [s(\theta _{0},\gamma _{0})s(\theta _{0},\gamma _{0})^{\mathrm {T} }]\mathrm {E} [\nabla _{\theta }s(\theta _{0},\gamma _{0})]^{-1}

и поэтому, если только $\mathrm {E} [s(\theta ,\gamma )\nabla _{\gamma }d(\gamma )^{\mathrm {T} }]=0$ , двухшаговая M-оценка более эффективна, чем обычная M-оценка. Этот факт предполагает, что даже когда $γ 0$ известно априори, существует выигрыш в эффективности за счет оценки $γ$ с помощью MLE. Применение этого результата можно найти, например, при оценке эффекта лечения. ^[4]

Примеры

См. также

Адаптивная оценка

Ссылки

^ Хекман, Дж. Дж., Общая структура статистических моделей усечения, выборки выборки и ограниченных зависимых переменных и простая оценка для таких моделей, Анналы экономических и социальных измерений, 5,475-492.
^ Jump up to: ^а ^б Вулдридж, Дж. М., Эконометрический анализ перекрестных и панельных данных, MIT Press, Кембридж, Массачусетс.
^ Jump up to: ^а ^б Ньюи, К.В. и Д. Макфадден, Оценка большой выборки и проверка гипотез, в Р. Энгеле и Д. Макфаддене, ред., Справочник по эконометрике, Том 4, Амстердам: Северная Голландия.
^ Jump up to: ^а ^б ^с Вулдридж, Дж. М., Эконометрический анализ перекрестных и панельных данных, MIT Press, Кембридж, Массачусетс.
^ Хекман, Дж. Дж. и Р. Робб, 1985, Альтернативные методы оценки воздействия вмешательств: обзор, Журнал эконометрики, 30, 239–267.

[1] Хекман, Дж. Дж., Общая структура статистических моделей усечения, выборки выборки и ограниченных зависимых переменных и простая оценка для таких моделей, Анналы экономических и социальных измерений, 5,475-492.

[Wooldridge2002-2] Jump up to: ^а ^б Вулдридж, Дж. М., Эконометрический анализ перекрестных и панельных данных, MIT Press, Кембридж, Массачусетс.

[NeweyMcfadden-3] Jump up to: ^а ^б Ньюи, К.В. и Д. Макфадден, Оценка большой выборки и проверка гипотез, в Р. Энгеле и Д. Макфаддене, ред., Справочник по эконометрике, Том 4, Амстердам: Северная Голландия.

[Woolridge-4] Jump up to: ^а ^б ^с Вулдридж, Дж. М., Эконометрический анализ перекрестных и панельных данных, MIT Press, Кембридж, Массачусетс.

[5] Хекман, Дж. Дж. и Р. Робб, 1985, Альтернативные методы оценки воздействия вмешательств: обзор, Журнал эконометрики, 30, 239–267.

[1]

[2]

[3]

[4]

[5]