Теорема Донскера

В вероятностей теории теорема Донскера (также известная как принцип инвариантности Донскера или функциональная центральная предельная теорема ), названная в честь Монро Д. Донскера , является функциональным расширением центральной предельной теоремы для эмпирических функций распределения. В частности, теорема утверждает, что соответствующим образом центрированная и масштабированная версия эмпирической функции распределения сходится к гауссовскому процессу .

Позволять $X_{1},X_{2},X_{3},\ldots$ — последовательность независимых и одинаково распределенных (iid) случайных величин со средним значением 0 и дисперсией 1. Пусть $S_{n}:=\sum _{i=1}^{n}X_{i}$ . Случайный процесс $S:=(S_{n})_{n\in \mathbb {N} }$ известно как случайное блуждание . Определите случайное блуждание с диффузионным масштабированием (процесс частичной суммы) с помощью

W^{(n)}(t):={\frac {S_{\lfloor nt\rfloor }}{\sqrt {n}}},\qquad t\in [0,1].

Центральная предельная теорема утверждает, что $W^{(n)}(1)$ сходится по распределению к стандартной гауссовой случайной величине $W(1)$ как $n\to \infty$ . Принцип инвариантности Донскера ^{[ 1 ]}^{[ 2 ]} расширяет эту сходимость на всю функцию $W^{(n)}:=(W^{(n)}(t))_{t\in [0,1]}$ . Точнее, в своей современной форме принцип инвариантности Донскера гласит, что: Как случайные величины, принимающие значения в пространстве Скорохода ${\mathcal {D}}[0,1]$ , случайная функция $W^{(n)}$ сходится по распределению к стандартному броуновскому движению $W:=(W(t))_{t\in [0,1]}$ как $n\to \infty .$

Официальное заявление

Пусть F _n — эмпирическая функция распределения последовательности iid случайных величин $X_{1},X_{2},X_{3},\ldots$ с функцией распределения F. Определите центрированную и масштабированную версию F _n по формуле

G_{n}(x)={\sqrt {n}}(F_{n}(x)-F(x))

индексированный x ∈ R . По классической центральной предельной теореме при фиксированном x случайная величина ( _Gn x ) сходится по распределению к гауссовой (нормальной) случайной величине G ( x ) с нулевым средним и дисперсией F ( x )(1 - F ( x ) ) по мере роста размера выборки n .

Теорема (Донскер, Скороход, Колмогоров) Последовательность Gn _{пространства} ( x ) как случайные элементы Скорохода ${\mathcal {D}}(-\infty ,\infty )$ , сходится по распределению к гауссовскому процессу G с нулевым средним и ковариацией, заданной выражением

\operatorname {cov} [G(s),G(t)]=E[G(s)G(t)]=\min\{F(s),F(t)\}-F(s)

{F}(t).

Процесс G ( x ) можно записать как B ( F ( x )), где B — стандартный броуновский мост на единичном интервале.

Эскиз доказательства

Для непрерывных распределений вероятностей это сводится к случаю, когда распределение равномерно на $[0,1]$ обратным преобразованием .

Учитывая любую конечную последовательность времен $0<t_{1}<t_{2}<\dots <t_{n}<1$ , у нас это есть $NF_{N}(t_{1})$ распределяется как биномиальное распределение со средним $Nt_{1}$ и дисперсия $Nt_{1}(1-t_{1})$ .

Аналогичным образом совместное распределение $F_{N}(t_{1}),F_{N}(t_{2}),\dots ,F_{N}(t_{n})$ является полиномиальным распределением. Теперь приближение центрального предела для полиномиальных распределений показывает, что $\lim _{N}{\sqrt {N}}(F_{N}(t_{i})-t_{i})$ сходится по распределению к гауссовскому процессу с ковариационной матрицей с записями $\min(t_{i},t_{j})-t_{i}t_{j}$ , что и есть ковариационная матрица броуновского моста.

История и связанные результаты

Колмогоров (1933) показал, что при верхняя F непрерывности грань $\scriptstyle \sup _{t}G_{n}(t)$ и супремум абсолютного значения, $\scriptstyle \sup _{t}|G_{n}(t)|$ сходится по распределению к законам тех же функционалов броуновского моста B ( t ), см. критерий Колмогорова–Смирнова . В 1949 году Дуб спросил, сохраняется ли сходимость по распределению для более общих функционалов, сформулировав таким образом проблему слабой сходимости случайных функций в подходящем функциональном пространстве . ^{[ 3 ]}

В 1952 году Донскер заявил и доказал (не совсем правильно) ^{[ 4 ]} общее расширение эвристического подхода Дуба – Колмогорова. В оригинальной статье Донскер доказал, что сходимость по закону G _n к броуновскому мосту справедлива для равномерных распределений [0,1] относительно равномерной сходимости по t на интервале [0,1]. ^{[ 2 ]}

Однако формулировка Донскера была не совсем корректной из-за проблемы измеримости функционалов разрывных процессов. В 1956 году Скороход и Колмогоров определили сепарабельную метрику d , названную метрикой Скорохода , в пространстве функций càdlàg на [0,1], такую, что сходимость d к непрерывной функции эквивалентна сходимости для нормы sup, и показали, что G _n сходится по закону в ${\mathcal {D}}[0,1]$ к Броуновскому мосту.

Позже Дадли переформулировал результат Донскера, чтобы избежать проблемы измеримости и необходимости метрики Скорохода. Можно доказать ^{[ 4 ]} что существуют X _i , iid, равномерные в [0,1] и последовательность выборочно непрерывных броуновских мостов B _n , такие что

\|G_{n}-B_{n}\|_{\infty }

измерима и сходится по вероятности к 0. Улучшенной версией этого результата, дающей более подробную информацию о скорости сходимости, является приближение Комлоша – Майора – Туснади .

См. также

Ссылки

^ Донскер, доктор медицины (1951). «Принцип инвариантности для некоторых предельных теорем вероятности». Мемуары Американского математического общества (6). МР 0040613 .
^ Jump up to: ^а ^б Донскер, доктор медицины (1952). «Обоснование и расширение эвристического подхода Дуба к теоремам Колмогорова – Смирнова» . Анналы математической статистики . 23 (2): 277–281. дои : 10.1214/aoms/1177729445 . МР 0047288 . Збл 0046.35103 .
^ Дуб, Джозеф Л. (1949). «Эвристический подход к теоремам Колмогорова–Смирнова» . Анналы математической статистики . 20 (3): 393–403. дои : 10.1214/aoms/1177729991 . МР 0030732 . Збл 0035.08901 .
^ Jump up to: ^а ^б Дадли, РМ (1999). Равномерные центральные предельные теоремы . Издательство Кембриджского университета. ISBN 978-0-521-46102-3 .

[1] Донскер, доктор медицины (1951). «Принцип инвариантности для некоторых предельных теорем вероятности». Мемуары Американского математического общества (6). МР 0040613 .

[:0-2] Jump up to: ^а ^б Донскер, доктор медицины (1952). «Обоснование и расширение эвристического подхода Дуба к теоремам Колмогорова – Смирнова» . Анналы математической статистики . 23 (2): 277–281. дои : 10.1214/aoms/1177729445 . МР 0047288 . Збл 0046.35103 .

[3] Дуб, Джозеф Л. (1949). «Эвристический подход к теоремам Колмогорова–Смирнова» . Анналы математической статистики . 20 (3): 393–403. дои : 10.1214/aoms/1177729991 . МР 0030732 . Збл 0035.08901 .

[dudley1999-4] Jump up to: ^а ^б Дадли, РМ (1999). Равномерные центральные предельные теоремы . Издательство Кембриджского университета. ISBN 978-0-521-46102-3 .

[ 1 ]

[ 2 ]

[ 3 ]

[ 4 ]