Окончательный оценщик

В статистике и эконометрике — экстремальные оценки широкий класс оценок это параметрических моделей , которые рассчитываются посредством максимизации (или минимизации) определенной целевой функции , которая зависит от данных. Общая теория оценок экстремума была разработана Амемией (1985) .

Определение

Оценщик $\scriptstyle {\hat {\theta }}$ называется оценкой экстремума , если существует целевая функция $\scriptstyle {\hat {Q}}_{n}$ такой, что

${\hat {\theta }}={\underset {\theta \in \Theta }{\operatorname {arg\;max} }}\ {\widehat {Q}}_{n}(\theta ),$

где Θ — пространство параметров . Иногда дается несколько более слабое определение:

${\widehat {Q}}_{n}({\hat {\theta }})\geq \max _{\theta \in \Theta }\,{\widehat {Q}}_{n}(\theta )-o_{p}(1),$

где o _p (1) – переменная, стремящаяся по вероятности к нулю . С этой модификацией $\scriptstyle {\hat {\theta }}$ не обязательно должен быть точным максимизатором целевой функции, достаточно быть достаточно близким к ней.

Теория оценок экстремума не определяет, какой должна быть целевая функция. Существуют различные типы целевых функций, подходящих для разных моделей, и эта структура позволяет нам анализировать теоретические свойства таких оценок с единой точки зрения. Теория лишь определяет свойства, которыми должна обладать целевая функция, и поэтому для выбора конкретной целевой функции требуется только проверка того, что эти свойства выполняются.

Последовательность

Когда пространство параметров Θ не является компактным ( Θ = R в этом примере), то даже если целевая функция однозначно максимизируется при θ ₀ , этот максимум может быть плохо разделен, и в этом случае оценка $\scriptscriptstyle {\hat {\theta }}$ не будет последовательным.

Если пространство параметров Θ компактно и существует предельная функция Q ₀ ( θ ) такая, что: $\scriptstyle {\hat {Q}}_{n}(\theta )$ сходится к Q ₀ ( θ ) по вероятности равномерно по Θ, а функция Q ₀ ( θ ) непрерывна и имеет единственный максимум при θ = θ _0, тогда $\scriptstyle {\hat {\theta }}$ согласован ​ для θ ₀ .

Равномерная сходимость по вероятности $\scriptstyle {\hat {Q}}_{n}(\theta )$ означает, что

$\sup _{\theta \in \Theta }{\big |}{\hat {Q}}_{n}(\theta )-Q_{0}(\theta ){\big |}\ {\xrightarrow {p}}\ 0.$

Требование компактности Θ можно заменить более слабым предположением, что максимум Q ₀ хорошо разделен, то есть не должно существовать никаких точек θ , удаленных от θ _0, но таких, что Q ₀ ( θ ) были близки к Q ₀ ( θ ₀ ). Формально это означает, что для любой последовательности { θ _i } такой, что Q ₀ ( θ _i ) → Q ₀ ( θ ₀ ) , должно быть верно, что θ _i → θ ₀ .

Асимптотическая нормальность

Предполагая, что согласованность установлена ​​и производные выборки $Q_{n}$ удовлетворять некоторым другим условиям, оценка экстремума сходится к асимптотически нормальному распределению.

Примеры

• Оценка максимального правдоподобия использует целевую функцию

  ${\hat {Q}}_{n}(\theta )=\log \left[\prod _{i=1}^{n}f(x_{i}|\theta )\right]=\sum _{i=1}^{n}\log f(x_{i}|\theta ),$

  где f (·| θ ) — функция плотности распределения, из которого взяты наблюдения. Эта целевая функция называется функцией логарифмического правдоподобия .
• Обобщенный метод оценки моментов определяется через целевую функцию

  ${\hat {Q}}_{n}(\theta )=-{\Bigg (}{\frac {1}{n}}\sum _{i=1}^{n}g(x_{i},\theta ){\Bigg )}'{\hat {W}}_{n}{\Bigg (}{\frac {1}{n}}\sum _{i=1}^{n}g(x_{i},\theta ){\Bigg )},$

  где g (·| θ ) — моментное условие модели.
• минимального расстояния Оценщик

См. также

• М-оценщики

Ссылки

• Амемия, Такеши (1985). «Асимптотические свойства оценок экстремума» . Продвинутая эконометрика . Издательство Гарвардского университета. стр. 105–158 . ISBN  0-674-00560-0 .
• Хаяси, Фумио (2000). «Экстремальные оценки» . Эконометрика . Принстон: Издательство Принстонского университета. стр. 445–506. ISBN  0-691-01018-8 .
• Ньюи, Уитни К.; Макфадден, Дэниел (1994). «Оценка большой выборки и проверка гипотез». Справочник по эконометрике . Том. IV. Эльзевир Наука. стр. 2111–2245. дои : 10.1016/S1573-4412(05)80005-4 . ISBN  0-444-88766-0 .