Теорема Лемана – Шеффе

В статистике теорема Лемана -Шеффе является выдающимся утверждением, связывающим воедино идеи полноты, достаточности, единственности и наилучшей несмещенной оценки. Теорема утверждает, что любая оценка , которая является несмещенной для данной неизвестной величины и зависит от данных только посредством полной , достаточной статистики, является единственной лучшей несмещенной оценкой этой величины. Теорема Лемана-Шеффе названа в честь Эриха Лео Лемана и Генри Шеффе , учитывая их две ранние статьи.

Если T является полной достаточной статистикой для θ и E( g ( T )) = τ ( θ ), то g ( T ) является равномерной несмещённой оценкой минимальной дисперсии (UMVUE) τ ( θ ).

Заявление

Позволять ${\vec {X}}=X_{1},X_{2},\dots ,X_{n}$ быть случайной выборкой из распределения, которое имеет pdf (или pmf в дискретном случае) $f(x:\theta )$ где $\theta \in \Omega$ является параметром в пространстве параметров. Предполагать $Y=u({\vec {X}})$ является достаточной статистикой для θ и пусть $\{f_{Y}(y:\theta ):\theta \in \Omega \}$ быть полноценной семьей. Если $\varphi :\operatorname {E} [\varphi (Y)]=\theta$ затем $\varphi (Y)$ является уникальным MVUE θ .

Доказательство

По теореме Рао–Блэквелла , если $Z$ является несмещенной оценкой θ, тогда $\varphi (Y):=\operatorname {E} [Z\mid Y]$ определяет несмещенную оценку θ со свойством, что ее дисперсия не превышает дисперсию $Z$.

Теперь покажем, что эта функция единственна. Предполагать $W$ является еще одним кандидатом на оценку MVUE θ . Потом снова $\psi (Y):=\operatorname {E} [W\mid Y]$ определяет несмещенную оценку θ со свойством, что ее дисперсия не превышает дисперсию $W$. Затем

$\operatorname {E} [\varphi (Y)-\psi (Y)]=0,\theta \in \Omega .$

С $\{f_{Y}(y:\theta ):\theta \in \Omega \}$ это полная семья

$\operatorname {E} [\varphi (Y)-\psi (Y)]=0\implies \varphi (y)-\psi (y)=0,\theta \in \Omega$

и, следовательно, функция $\varphi$ — уникальная функция Y с дисперсией, не большей, чем у любой другой несмещенной оценки. Мы заключаем, что $\varphi (Y)$ это МВУЭ.

Пример использования неполной минимально достаточной статистики

Пример улучшаемого улучшения Рао-Блэквелла при использовании минимальной достаточной статистики, которая не является полной , был предоставлен Галили и Мейлиджсоном в 2016 году. Позволять $X_{1},\ldots ,X_{n}$ быть случайной выборкой из равномерного по масштабу распределения $X\sim U((1-k)\theta ,(1+k)\theta ),$ с неизвестным средним значением $\operatorname {E} [X]=\theta$ и известный расчетный параметр $k\in (0,1)$. В поисках «наилучших» возможных несмещенных оценок для $\theta$, естественно считать $X_{1}$ в качестве первоначальной (грубой) несмещенной оценки для $\theta$ а затем попытаться улучшить его. С $X_{1}$ не является функцией $T=\left(X_{(1)},X_{(n)}\right)$, минимальная достаточная статистика для $\theta$ (где $X_{(1)}=\min _{i}X_{i}$ и $X_{(n)}=\max _{i}X_{i}$), его можно улучшить с помощью теоремы Рао–Блэквелла следующим образом:

${\hat {\theta }}_{RB}=\operatorname {E} _{\theta }[X_{1}\mid X_{(1)},X_{(n)}]={\frac {X_{(1)}+X_{(n)}}{2}}.$

Однако можно показать, что следующая несмещенная оценка имеет меньшую дисперсию:

${\hat {\theta }}_{LV}={\frac {1}{k^{2}{\frac {n-1}{n+1}}+1}}\cdot {\frac {(1-k)X_{(1)}+(1+k)X_{(n)}}{2}}.$

Фактически, его можно было бы еще улучшить, если бы использовать следующую оценку:

${\hat {\theta }}_{\text{BAYES}}={\frac {n+1}{n}}\left[1-{\frac {{\frac {X_{(1)}(1+k)}{X_{(n)}(1-k)}}-1}{\left({\frac {X_{(1)}(1+k)}{X_{(n)}(1-k)}}\right)^{n+1}-1}}\right]{\frac {X_{(n)}}{1+k}}$

Модель представляет собой масштабную модель . оптимальные эквивариантные оценки Затем можно получить функций потерь . для инвариантных

См. также

• Теорема Басу
• Полная классовая теорема
• Теорема Рао – Блэквелла