Оценщик Ходжеса

В статистике Ходжеса оценщик (или оценка Ходжеса – Ле Кама ), названный в честь Ходжеса , является известным контрпримером оценки . Джозефа «сверхэффективной» т.е. он достигает меньшей асимптотической дисперсии, чем обычные эффективные оценки . Существование такого контрпримера является причиной введения понятия регулярных оценок .

Оценка Ходжеса улучшает обычную оценку в одной точке. В общем, любая сверхэффективная оценка может превосходить обычную оценку не более чем на множестве нулевой меры Лебега .

Хотя Ходжес обнаружил оценщик, он так и не опубликовал его; первая публикация была в докторской диссертации Люсьена Ле Кама .

Строительство

Предполагать ${\hat {\theta }}_{n}$ является «общей» оценкой некоторого параметра $\theta$: оно непротиворечиво и сходится к некоторому асимптотическому распределению $L_{\theta }$ (обычно это нормальное распределение с нулевым средним и дисперсией, которая может зависеть от $\theta$) в ${\sqrt {n}}$-ставка:

${\sqrt {n}}({\hat {\theta }}_{n}-\theta )\ {\xrightarrow {d}}\ L_{\theta }\ .$

Тогда оценка Ходжеса ${\hat {\theta }}_{n}^{H}$ определяется как

${\hat {\theta }}_{n}^{H}={\begin{cases}{\hat {\theta }}_{n},&{\text{if }}|{\hat {\theta }}_{n}|\geq n^{-1/4},{\text{ and}}\\0,&{\text{if }}|{\hat {\theta }}_{n}|<n^{-1/4}.\end{cases}}$

Эта оценка равна ${\hat {\theta }}_{n}$ везде, кроме малого интервала $[-n^{-1/4},n^{-1/4}]$, где он равен нулю. Нетрудно видеть, что эта оценка состоятельна для $\theta$, а его асимптотическое распределение

${\begin{aligned}&n^{\alpha }({\hat {\theta }}_{n}^{H}-\theta )\ {\xrightarrow {d}}\ 0,\qquad {\text{when }}\theta =0,\\&{\sqrt {n}}({\hat {\theta }}_{n}^{H}-\theta )\ {\xrightarrow {d}}\ L_{\theta },\quad {\text{when }}\theta \neq 0,\end{aligned}}$

для любого $\alpha \in \mathbb {R}$. Таким образом, эта оценка имеет то же асимптотическое распределение, что и ${\hat {\theta }}_{n}$ для всех $\theta \neq 0$, тогда как для $\theta =0$ скорость сходимости становится сколь угодно высокой. Эта оценка является сверхэффективной , поскольку она превосходит асимптотическое поведение эффективной оценки. ${\hat {\theta }}_{n}$ по крайней мере в один момент $\theta =0$.

Неправда, что оценка Ходжеса эквивалентна выборочному среднему, но гораздо лучше, когда истинное среднее равно 0. Правильная интерпретация состоит в том, что для конечного $n$, усечение может привести к худшей квадратичной ошибке, чем оценка выборочного среднего для $E[X]$ близко к 0, как показано в примере в следующем разделе.

Ле Кам показывает, что такое поведение типично: сверхэффективность в точке θ предполагает существование последовательности $\theta _{n}\rightarrow \theta$ такой, что $\lim \inf E\theta _{n}\ell ({\sqrt {n}}({\hat {\theta }}_{n}-\theta _{n}))$ строго больше границы Крамера-Рао . Для крайний случай, когда асимптотический риск при θ равен нулю, $\liminf$ даже бесконечно для последовательности $\theta _{n}\rightarrow \theta$.

В общем случае сверхэффективность может быть достигнута только на подмножестве нулевой меры Лебега пространства параметров. $\Theta$.

Пример

Среднеквадратическая ошибка (кратно n ) оценки Ходжеса. Синяя кривая соответствует n = 5 , фиолетовая — n = 50 , а оливковая — n = 500 .

Предположим, x ₁ , ..., x _n — независимая и одинаково распределенная (IID) случайная выборка из нормального распределения N ( θ , 1) с неизвестным средним значением, но известной дисперсией. Тогда общая оценка среднего значения совокупности θ представляет собой среднее арифметическое всех наблюдений: $\scriptstyle {\bar {x}}$. Соответствующая оценка Ходжеса будет равна $\scriptstyle {\hat {\theta }}_{n}^{H}\;=\;{\bar {x}}\cdot \mathbf {1} \{|{\bar {x}}|\,\geq \,n^{-1/4}\}$, где 1 {...} обозначает индикаторную функцию .

Среднеквадратическая ошибка (масштабированная по n ), связанная с регулярной оценкой x, является постоянной и равной 1 для θ всех . В то же время среднеквадратическая ошибка оценки Ходжеса $\scriptstyle {\hat {\theta }}_{n}^{H}$ ведет себя хаотично в окрестности нуля и даже становится неограниченным при n → ∞ . Это показывает, что оценка Ходжеса не является регулярной , а ее асимптотические свойства не могут быть адекватно описаны пределами вида ( θ фиксировано, n → ∞ ).

См. также

• Оценщик Джеймса – Штейна

Примечания

Ссылки

• Бикель, Питер Дж.; Клаассен, Крис Эй Джей; Ритов, Яаков; Веллнер, Джон А. (1998). Эффективное и адаптивное оценивание полупараметрических моделей . Спрингер: Нью-Йорк. ISBN  0-387-98473-9 .
• Кале, БК (1985). «Заметка о сверхэффективном оценщике». Журнал статистического планирования и выводов . 12 : 259–263. дои : 10.1016/0378-3758(85)90074-6 .
• Стойка, П.; Оттерстен, Б. (1996). «Зло сверхэффективности». Обработка сигналов . 55 : 133–136. дои : 10.1016/S0165-1684(96)00159-4 .
• Ваарт, А.В. ван дер (1998). Асимптотическая статистика . Издательство Кембриджского университета. ISBN  978-0-521-78450-4 .