Теорема Фишера – Типпетта – Гнеденко.

Эта статья о теореме об экстремальных значениях в статистике. Результат в исчислении см. в теореме об экстремальных значениях .

В статистике теорема Фишера -Типпета-Гнеденко (также теорема Фишера-Типпетта или теорема об экстремальных значениях ) является общим результатом в теории экстремальных значений относительно асимптотического распределения статистики крайнего порядка . Максимум выборки iid случайных величин после правильной перенормировки может сходиться по распределению только к одному из трех возможных семейств распределений : распределению Гумбеля , распределению Фреше или распределению Вейбулла . Благодарность за теорему об экстремальных значениях и детали ее сходимости принадлежит Фреше (1927): Фишер и Типпет (1928), Мизес (1936), и Гнеденко (1943).

Роль теоремы об экстремальных типах для максимумов аналогична роли центральной предельной теоремы для средних значений, за исключением того, что центральная предельная теорема применяется к среднему значению выборки из любого распределения с конечной дисперсией, в то время как теорема Фишера – Типпета – Гнеденко только утверждает что если распределение нормализованного максимума сходится, то предел должен принадлежать к определенному классу распределений. В нем не утверждается, что распределение нормированного максимума сходится.

Заявление

Позволять $\ X_{1},X_{2},\ldots ,X_{n}\$ быть n выборкой размера независимых и одинаково распределенных случайных величин , каждая из которых кумулятивную функцию распределения имеет $\ F~.$ Предположим, что существуют две последовательности действительных чисел $\ a_{n}>0\$ и $\ b_{n}\in \mathbb {R} \$ такие, что следующие пределы сходятся к невырожденной функции распределения :

$\lim _{n\to \infty }{\boldsymbol {\mathcal {P}}}\left\{{\frac {\ \max\{X_{1},\dots ,X_{n}\}-b_{n}\ }{a_{n}}}\leq x\ \right\}=G(x)\ ,$

или эквивалентно:

$\lim _{n\to \infty }{\Bigl (}\ F\left(\ a_{n}\ x+b_{n}\ \right){\Bigr )}^{n}=G(x)~.$

В таких обстоятельствах предельное распространение $\ G\$ принадлежит к Гумбеля , Фреше или Вейбулла семейству распределений .

Другими словами, если приведенный выше предел сходится, то с точностью до линейной замены координат $G(x)$ примет либо форму:

$G_{\gamma }(x)=\exp \left(-{\Bigl (}1+\gamma \ x{\Bigr )}^{-1/\gamma }\right)\quad$ для $\quad \gamma \neq 0\ ,$

с ненулевым параметром $\ \gamma \$ также удовлетворяет $\ 1+\gamma \ x>0\$ для каждого $\ x\$ ценность, поддерживаемая $\ F\$ (для всех значений $\ x\$ для чего $\ F(x)\neq 0\$). В противном случае оно имеет вид:

$G_{0}(x)=\exp {\bigl (}\ -\exp(-x)\ {\bigr )}\quad$ для $\quad \gamma =0~.$

Это кумулятивная функция распределения обобщенного распределения экстремальных значений (GEV) с индексом экстремальных значений. $\ \gamma ~.\$ Распределение GEV группирует распределения Гамбеля, Фреше и Вейбулла в одну составную форму.

Условия конвергенции

Теорема Фишера-Типпета-Гнеденко представляет собой утверждение о сходимости предельного распределения $\ G(x)\ ,$ выше. Исследование условий сходимости $\ G\$ К частным случаям обобщенного распределения экстремальных значений начал Мизес (1936). и получил дальнейшее развитие Гнеденко (1943).

Позволять $\ F\$ быть функцией распределения $\ X\ ,$ и $\ X_{1},\dots ,X_{n}\$ быть каким-то его образцом.

Также пусть $\ x_{\mathsf {max}}\$ быть максимумом численности населения: $\ x_{\mathsf {max}}\equiv \sup \ \{\ x\ \mid \ F(x)<1\ \}~.\$

Предельное распределение нормированного выборочного максимума, определяемое выражением $G$ выше, тогда будет:

Распределение Фреше $\ \left(\ \gamma >0\ \right)$

Для строго положительного $\ \gamma >0\ ,$ предельное распределение сходится тогда и только тогда, когда

$\ x_{\mathsf {max}}=\infty \$

и

$\ \lim _{t\rightarrow \infty }{\frac {\ 1-F(u\ t)\ }{1-F(t)}}=u^{\left({\tfrac {-1~}{\gamma }}\right)}\$ для всех $\ u>0~.$

В этом случае возможными последовательностями, удовлетворяющими условиям теоремы, являются:

$b_{n}=0$

и

$\ a_{n}={F^{-1}}\!\!\left(1-{\tfrac {1}{\ n\ }}\right)~.$

Строго положительный $\ \gamma \$ соответствует так называемому распределению с тяжелым хвостом .

Распространение Гумбеля $\ \left(\ \gamma =0\ \right)$

Для тривиального $\ \gamma =0\ ,$ и с $\ x_{\mathsf {max}}\$ либо конечное, либо бесконечное, предельное распределение сходится тогда и только тогда, когда

$\ \lim _{t\rightarrow x_{\mathsf {max}}}{\frac {\ 1-F{\bigl (}\ t+u\ {\tilde {g}}(t)\ {\bigr )}\ }{1-F(t)}}=e^{-u}\$ для всех $\ u>0\$

с

$\ {\tilde {g}}(t)\equiv {\frac {\ \int _{t}^{x_{\mathsf {max}}}{\Bigl (}\ 1-F(s)\ {\Bigr )}\ \mathrm {d} \ s\ }{1-F(t)}}~.$

Возможные последовательности здесь:

$\ b_{n}={F^{-1}}\!\!\left(\ 1-{\tfrac {1}{\ n\ }}\ \right)\$

и

$\ a_{n}={\tilde {g}}{\Bigl (}\;{F^{-1}}\!\!\left(\ 1-{\tfrac {1}{\ n\ }}\ \right)\;{\Bigr )}~.$

Распределение Вейбулла $\ \left(\ \gamma <0\ \right)$

Для строго отрицательного $\ \gamma <0\$ предельное распределение сходится тогда и только тогда, когда

$\ x_{\mathsf {max}}\ <\infty \quad$ (конечен)

и

$\ \lim _{t\rightarrow 0^{+}}{\frac {\ 1-F\!\left(\ x_{\mathsf {max}}-u\ t\ \right)\ }{1-F(\ x_{\mathsf {max}}-t\ )}}=u^{\left({\tfrac {-1~}{\ \gamma \ }}\right)}\$ для всех $\ u>0~.$

Обратите внимание, что в этом случае экспоненциальный член $\ {\tfrac {-1~}{\ \gamma \ }}\$ строго положительно, так как $\ \gamma \$ является строго отрицательным.

Возможные последовательности здесь:

$\ b_{n}=x_{\mathsf {max}}\$

и

$\ a_{n}=x_{\mathsf {max}}-{F^{-1}}\!\!\left(\ 1-{\frac {1}{\ n\ }}\ \right)~.$

Обратите внимание, что вторая формула (распределение Гамбеля) является пределом первой (распределение Фреше) как $\ \gamma \$ уходит в ноль.

Примеры

Распределение Фреше

Коши Функция плотности распределения :

$f(x)={\frac {1}{\ \pi ^{2}+x^{2}\ }}\ ,$

и его кумулятивная функция распределения:

$F(x)={\frac {\ 1\ }{2}}+{\frac {1}{\ \pi \ }}\arctan \left({\frac {x}{\ \pi \ }}\right)~.$

Немного вычислений показывает, что кумулятивное распределение правого хвоста $\ 1-F(x)\$ асимптотически ​ ​ $\ {\frac {1}{\ x\ }}\ ,$ или

$\ln F(x)\rightarrow {\frac {-1~}{\ x\ }}\quad {\mathsf {~as~}}\quad x\rightarrow \infty \ ,$

так что у нас есть

$\ln \left(\ F(x)^{n}\ \right)=n\ \ln F(x)\sim -{\frac {-n~}{\ x\ }}~.$

Таким образом, мы имеем

$F(x)^{n}\approx \exp \left({\frac {-n~}{\ x\ }}\right)$

и позволяя $\ u\equiv {\frac {x}{\ n\ }}-1\$ (и пропуская некоторые объяснения)

$\lim _{n\to \infty }{\Bigl (}\ F(n\ u+n)^{n}\ {\Bigr )}=\exp \left({\tfrac {-1~}{\ 1+u\ }}\right)=G_{1}(u)\$

для любого $\ u~.$

Распространение Гумбеля

Возьмем нормальное распределение с кумулятивной функцией распределения

$F(x)={\frac {1}{2}}\operatorname {erfc} \left({\frac {-x~}{\ {\sqrt {2\ }}\ }}\right)~.$

У нас есть

$\ln F(x)\rightarrow -{\frac {\ \exp \left(-{\tfrac {1}{2}}x^{2}\right)\ }{{\sqrt {2\pi \ }}\ x}}\quad {\mathsf {~as~}}\quad x\rightarrow \infty$

и таким образом

$\ln \left(\ F(x)^{n}\ \right)=n\ln F(x)\rightarrow -{\frac {\ n\exp \left(-{\tfrac {1}{2}}x^{2}\right)\ }{{\sqrt {2\pi \ }}\ x}}\quad {\mathsf {~as~}}\quad x\rightarrow \infty ~.$

Следовательно, мы имеем

$F(x)^{n}\approx \exp \left(-\ {\frac {\ n\ \exp \left(-{\tfrac {1}{2}}x^{2}\right)\ }{\ {\sqrt {2\pi \ }}\ x\ }}\right)~.$

Если мы определим $\ c_{n}\$ как значение, которое точно удовлетворяет

${\frac {\ n\exp \left(-\ {\tfrac {1}{2}}c_{n}^{2}\right)\ }{\ {\sqrt {2\pi \ }}\ c_{n}\ }}=1\ ,$

затем вокруг $\ x=c_{n}\$

${\frac {\ n\ \exp \left(-\ {\tfrac {1}{2}}x^{2}\right)\ }{{\sqrt {2\pi \ }}\ x}}\approx \exp \left(\ c_{n}\ (c_{n}-x)\ \right)~.$

Как $\ n\$ увеличивается, это становится хорошим приближением для все более и более широкого диапазона $\ c_{n}\ (c_{n}-x)\$ так что позволяю $\ u\equiv c_{n}\ (c_{n}-x)\$ мы находим это

$\lim _{n\to \infty }{\biggl (}\ F\left({\tfrac {u}{~c_{n}\ }}+c_{n}\right)^{n}\ {\biggr )}=\exp \!{\Bigl (}-\exp(-u){\Bigr )}=G_{0}(u)~.$

Эквивалентно,

$\lim _{n\to \infty }{\boldsymbol {\mathcal {P}}}\ {\Biggl (}{\frac {\ \max\{X_{1},\ \ldots ,\ X_{n}\}-c_{n}\ }{\left({\frac {u}{~c_{n}\ }}\right)}}\leq u{\Biggr )}=\exp \!{\Bigl (}-\exp(-u){\Bigr )}=G_{0}(u)~.$

Получив этот результат, мы ретроспективно видим, что нам нужно $\ \ln c_{n}\approx {\frac {\ \ln \ln n\ }{2}}\$ а потом

$c_{n}\approx {\sqrt {2\ln n\ }}\ ,$

поэтому ожидается, что максимум будет приближаться к бесконечности все медленнее.

Распределение Вейбулла

Мы можем взять самый простой пример: равномерное распределение между 0 и 1 с кумулятивной функцией распределения.

$F(x)=x\$ для любого x значения от 0 до 1 .

Для значений $\ x\ \rightarrow \ 1\$ у нас есть

$\ln {\Bigl (}\ F(x)^{n}\ {\Bigr )}=n\ \ln F(x)\ \rightarrow \ n\ (\ 1-x\ )~.$

Итак, для $\ x\approx 1\$ у нас есть

$\ F(x)^{n}\approx \exp(\ n-n\ x\ )~.$

Позволять $\ u\equiv 1+n\ (\ 1-x\ )\$ и получить

$\lim _{n\to \infty }{\Bigl (}\ F\!\left({\tfrac {\ u\ }{n}}+1-{\tfrac {\ 1\ }{n}}\right)\ {\Bigr )}^{n}=\exp \!{\bigl (}\ -(1-u)\ {\bigr )}=G_{-1}(u)~.$

Тщательное изучение этого предела показывает, что ожидаемый максимум приближается к 1 обратно пропорционально n .

См. также

• Теория экстремальных ценностей
• Распространение Гумбеля
• Обобщенное распределение экстремальных значений
• Обобщенное распределение Парето
• Теорема Пиканда – Балкемы – де Хаана

Дальнейшее чтение

• Ли, Сеюн; Ким, Джозеф Х.Т. (8 марта 2018 г.). «Показательное обобщенное распределение Парето» . Коммуникации в статистике – теория и методы . 48 (8) (онлайн-ред.): 2014–2038 гг. arXiv : 1708.01686 . дои : 10.1080/03610926.2018.1441418 . ISSN   1532-415X – через tandfonline.com.